تخطّي إلى المحتوى
Kudos AI

الأبحاث

أين تقع حدود المعرفة، وكيف وصلنا إليها. لوحة مثبّتة بالمسائل المفتوحة التي يعمل عليها المجال بنشاط، تليها الأوراق البحثية المفصلية التي أرست الأسس.

المسائل المفتوحة اليوم

حدود المعرفة

أسئلة حيّة على مستوى المجال ما زالت غير محسومة فعلياً. كل منها موضع يمكن أن تُحدث فيه مساهمة متأنّية تقدّماً في التخصص.

التعلّم العميقالإحصاء

لماذا تُعمِّم الشبكات مفرطة المعاملات

لماذا تُعمِّم الشبكات العصبية التي تفوق معاملاتُها عددَ أمثلة التدريب بكثير تعميمًا جيدًا، بينما تتنبأ النظرية الكلاسيكية بإفراط شديد في التوفيق؟

تقول مقايضة التحيز والتباين إن النموذج المرن بما يكفي لاستيفاء بيانات تدريبه ينبغي أن يعاني تباينًا مدمّرًا. ومع ذلك تُوفِّق الشبكات الحديثة مجموعة تدريبها تمامًا وتظل تُعمِّم، بل لوحظ أن خطأ الاختبار يعاود الانخفاض بعد نقطة الاستيفاء بدل أن يواصل الارتفاع. تستند التفسيرات إلى تنظيم ضمني ينشأ عن نزول التدرج، أو إلى خصائص مشهد الخسارة، أو إلى بنية البيانات الواقعية، لكن أيًّا منها لم يحسم المسألة. وما دامت مفتوحة، لا يستطيع المجال أن يحدد سلفًا حجم النموذج الذي تحتمله مجموعة بيانات بعينها، فتُختار السعة تجريبيًا.

التعلّم العميقالذكاء الاصطناعي التوليدي

تفسير تأسيسي لقوانين التوسّع

لماذا يتحسّن أداء النموذج وفق قانون قوى سلس بدلالة المعاملات والبيانات والحوسبة، وما الذي يحدّد الأُسس؟

الانتظام التجريبي قوي بما يكفي لتوجيه قرارات تدريب تكلّف ملايين، غير أنه يقوم على ملاءمة منحنى لا على اشتقاق. وبغياب نظرية، لا يمكن التنبؤ بالأُسس لمعمارية جديدة أو مجال جديد، ولا سبيل مبدئيًا لمعرفة ما إذا كان اتجاه ما سيستمر أم ينكسر. من شأن اشتقاق نظري أن يحوّل أثقل قرارات التخطيط في المجال من استقراء إلى حساب.

التعلّم العميقالذكاء الاصطناعي التوليدي

القابلية للتفسير الميكانيكي في النماذج الكبيرة

هل يمكن تفكيك الحساب الذي تؤديه شبكة كبيرة مدرَّبة إلى خوارزميات مفهومة للبشر؟

الشبكة المدرَّبة مصفوفة أوزان ضخمة يثبت أنها تحسب شيئًا مفيدًا، دون أي بيان لكيفية ذلك. أُحرز تقدم في تحديد دارات وسمات قابلة للتفسير في النماذج الأصغر، لكن الوحدة الواحدة كثيرًا ما تُرمِّز مفاهيم متعددة غير مترابطة، ما يُفشِل القراءة المباشرة. وبدون قابلية للتفسير لا سبيل للتحقق من أن النموذج يعتمد على بنية مشروعة لا على ارتباط زائف، وهو أمر حاسم كلما ارتفعت المخاطر.

نظرية الألعابالرياضيات

الكلفة الحسابية لإيجاد التوازنات

أثبت ناش أن التوازن موجود دائمًا، لكن ما مدى صعوبة إيجاده فعليًا، وما دلالة ذلك على التوازن بوصفه مفهومًا تنبؤيًا؟

الوجود والقابلية للحساب خاصيتان مختلفتان. بات معلومًا أن حساب توازن ناش تام لصنف التعقيد PPAD، وهو دليل قوي على انتفاء خوارزمية عامة كفؤة. ويثير ذلك سؤالًا عن المفهوم ذاته: إذا تعذّر على اللاعبين في وضع مُنمذَج حساب التوازن عمليًا، فليس بديهيًا لماذا يُتوقَّع أن يبلغه سلوكهم. ويظل التوتر بين الوجود والقابلية للحساب والصلة التنبؤية دون حل.

التعلّم المعزّزتعلّم الآلة

تعلّم معزّز اقتصادي في العيّنات

كيف يتعلّم الوكيل سلوكًا فعّالًا من قدر واقعي من الخبرة، وكيف ينقله عند تغيّر البيئة؟

تحتاج وكلاء التعلّم المعزّز عادة إلى ملايين التفاعلات لتعلّم مهام يلتقطها الإنسان في محاولات معدودة، ما يحصر النجاحات إلى حد بعيد في المحاكاة حيث تكون الخبرة رخيصة. ويتضافر عائقان: المكافآت المتفرقة تجعل الإشارة المفيدة تبلغ القرارات المبكرة ببطء، والسياسات المتعلَّمة في بيئة تتدهور بحدة عند تغيّر ديناميكياتها. وسدّ هذه الفجوة هو ما يفصل الأساليب الحالية عن نشر موثوق في العالم المادي.

التعلّم العميقالرؤية الحاسوبية

المتانة أمام الاضطرابات العدائية

لماذا تنخدع نماذج دقيقة باضطرابات ضئيلة مختارة عمدًا، وهل يمكن بلوغ المتانة دون التضحية بالدقة؟

اضطرابات أصغر من أن يلحظها إنسان قادرة على قلب تصنيف واثق بالكامل، ما يعني أن ارتفاع الدقة الوسطى لا يستلزم أن النموذج تعلّم ما يسميه الإنسان مفهومًا. وقد نزعت الدفاعات إلى الانهيار أمام هجمات لاحقة أقوى، وثمة شواهد على توتر حقيقي بين المتانة والدقة على البيانات النظيفة. والسؤال عملي، لأي نشر تتصل به اعتبارات أمنية، ومفاهيمي في آن، إذ يوحي بأن هذه النماذج تُعمِّم على نحو يغاير ما توحي به دقتها.

تعلّم الآلةالاحتمالات

تعلّم البنية السببية من الرصد

هل تستطيع النماذج تعلّم بنية سببية لا مجرد ارتباط، انطلاقًا من بيانات لم تُجمع غالبًا عبر تجارب مضبوطة؟

تلتقط النماذج التنبؤية الاقتران، وهو كافٍ ما دام العالم على حاله وقت التدريب، وغير كافٍ لحظة وقوع أي تدخّل. والإجابة عمّا سيحدث لو غُيِّرت متغيرة تتطلب بنية سببية، وهي بنية غير قابلة للتحديد عمومًا من بيانات رصدية دون افتراضات إضافية. وتحديد الافتراضات المعقولة والكافية معًا سؤال مفتوح، وهو ما يفصل النماذج التي تتنبأ عن النماذج التي تسند القرار.

الذكاء الاصطناعي التوليديالتعلّم العميق

انتباه كفؤ على السياقات الطويلة

هل يمكن تفادي الكلفة التربيعية للانتباه الذاتي دون فقدان القدرة على ربط أي موضعين مباشرة؟

يقارن الانتباه الذاتي كل موضع بكل موضع آخر، فتنمو الكلفة مع مربع طول التسلسل، وهو القيد الحاكم على حجم السياق. وتخفض بدائل عديدة، من أنماط انتباه متفرقة وتقريبات خطية ونماذج فضاء الحالة التكرارية، الكلفةَ المقاربة، لكنها تتخلى عادة عن جزء من الوصول الزوجي غير المقيَّد الذي يمنح الانتباه فاعليته. ويبقى دون حسم ما إذا كانت القدرة الكاملة يمكن الاحتفاظ بها بكلفة أدنى.

الأوراق البحثية المفصلية

الأسس

كل ورقة مُلخّصة، وموضوعة في سياقها، ومربوطة بمراجعات أعمق ومداخل مرجعية؛ لماذا كانت مهمة، لا ما قالته فحسب.

  1. 1936Alan Turing

    On Computable Numbers, with an Application to the Entscheidungsproblem

    يعرض آلة مجرّدة تقرأ رموزاً وتكتبها على شريط وفق جدول قواعد منتهٍ، ويستخدمها ليبيّن أنه لا يوجد إجراء عام يقرّر ما إذا كان برنامج اعتباطي يتوقّف.

    الرياضياتالذكاء الاصطناعيالبرمجة
  2. 1948Claude E. Shannon

    A Mathematical Theory of Communication

    يعرّف المعلومات تعريفاً كمّياً، ويقدّم الإنتروبيا مقياساً للايقين المصدر، ويبرهن حدوداً على الضغط بلا فقد وعلى الإرسال الموثوق عبر قناة مشوّشة.

    نظرية المعلوماتالاحتمالاتالرياضيات
  3. 1950John Nash

    Equilibrium Points in N-Person Games

    يبرهن أن لكل لعبة منتهية، أياً كان عدد لاعبيها، نقطة توازن واحدة على الأقل، بشرط أن يُسمح للاعبين باستراتيجيات مختلطة.

    نظرية الألعابالرياضيات
  4. 1950Claude E. Shannon

    Programming a Computer for Playing Chess

    يعرض كيف يمكن لآلة أن تلعب الشطرنج: تمثيل الأوضاع، وتوليد النقلات القانونية، وبحث شجرة اللعبة بالمينيماكس، وتقييم الأوضاع غير النهائية بدالة تسجيل استرشادية.

    البحث والتخطيطنظرية الألعابالذكاء الاصطناعي
  5. 1950Alan Turing

    Computing Machinery and Intelligence

    يقترح استبدال سؤال «هل تستطيع الآلات التفكير؟» باختبار سلوكي، يحاول فيه مستجوِب التمييز بين آلة وإنسان عبر محادثة مكتوبة.

    الذكاء الاصطناعي
  6. 1957Frank Rosenblatt

    The Perceptron: A Perceiving and Recognizing Automaton

    يعرض البِرسِبترون، وحدةً قابلة للتدريب تحسب مجموعاً مرجّحاً لمدخلاتها وتشتعل إن تجاوز المجموع عتبة، مع قاعدة لضبط الأوزان من أمثلة موسومة.

    تعلّم الآلةالتعلّم العميقالذكاء الاصطناعي
  7. 1967John C. Harsanyi

    Games with Incomplete Information Played by Bayesian Players

    يبيّن كيف يمكن تحويل الألعاب التي يجهل فيها اللاعبون عوائد بعضهم بعضاً إلى ألعاب ذات معلومات كاملة لكن ناقصة الرصد، بمعاملة كل لاعب كأنه ذو «نمط» مُسنَد عشوائياً.

    نظرية الألعابالاحتمالات
  8. 1968Peter E. Hart, Nils J. Nilsson, Bertram Raphael

    A Formal Basis for the Heuristic Determination of Minimum Cost Paths

    يعرض خوارزمية A*، التي ترتّب البحث بمجموع الكلفة المتكبَّدة والتقدير الاسترشادي للكلفة المتبقّية، ويبرهن أمثليتها حين لا تبالغ الاسترشادية في التقدير أبداً.

    البحث والتخطيطالذكاء الاصطناعي
  9. 1984Leo Breiman, Jerome Friedman, Richard A. Olshen, Charles J. Stone

    Classification and Regression Trees

    يرسي منهجية CART: إنماء أشجار القرار باختيار القسمة التي تحسّن نقاء العقد أكثر من غيرها بشكل عَودي، ثم تشذيب الشجرة المكتملة باستخدام بيانات محجوزة.

    تعلّم الآلةالإحصاء
  10. 1986David E. Rumelhart, Geoffrey E. Hinton, Ronald J. Williams

    Learning Internal Representations by Error Propagation

    يقدّم الانتشار العكسي طريقةً عامة لتدريب الشبكات متعدّدة الطبقات، مبيّناً أن الطبقات المخفية تستطيع تعلّم تمثيلات داخلية نافعة بدل الحاجة إلى تصميمها يدوياً.

    التعلّم العميقتعلّم الآلةالتحسين
  11. 1989Christopher J. C. H. Watkins

    Models of Delayed Reinforcement Learning

    يطوّر تعلّم Q، وهي خوارزمية تقدّر قيمة كل فعل في كل حالة مباشرةً من التجربة، بلا حاجة إلى نموذج لاحتمالات انتقال البيئة.

    التعلّم المعزّزتعلّم الآلة
  12. 1995Corinna Cortes, Vladimir N. Vapnik

    Support-Vector Networks

    يعرض آلة المتجهات الداعمة بهامش ليّن، تفصل الفئات بأوسع هامش ممكن مع السماح بانتهاكات محدودة، وتستخدم النوى للحصول على حدود لاخطية.

    تعلّم الآلةالتحسينالرياضيات
  13. 1996Leo Breiman

    Bagging Predictors

    يعرض التجميع بالتمهيد الذاتي: ملاءمة نموذج على عيّنات تمهيد كثيرة من بيانات التدريب ثم متوسّط التنبّؤات، ما يخفض التباين دون رفع التحيّز.

    تعلّم الآلةالإحصاء
  14. 2015Rico Sennrich, Barry Haddow, Alexandra Birch

    Neural Machine Translation of Rare Words with Subword Units

    يكيّف ترميز أزواج البايتات لتقطيع النص، ببناء مفردات فرعية عبر دمج أكثر أزواج الرموز المتجاورة تكراراً مراراً، فتتفكّك الكلمات النادرة إلى شظايا معروفة.

    معالجة اللغات الطبيعيةالتعلّم العميق
  15. 2017Ashish Vaswani et al.

    Attention Is All You Need

    يعرض المحوّل، وهو معمارية مبنيّة كلياً من طبقات انتباه وتغذية أمامية بلا تكرار، طُوّرت أصلاً للترجمة الآلية.

    الذكاء الاصطناعي التوليديالتعلّم العميقمعالجة اللغات الطبيعية
  16. 2018Jacob Devlin et al.

    BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

    يدرّب مسبقاً مُرمِّز محوّل على التنبّؤ بوحدات مقنَّعة باستخدام السياق من الجهتين، ثم يضبط النموذج نفسه ضبطاً دقيقاً على مهام لاحقة برأس صغير خاص بالمهمة.

    معالجة اللغات الطبيعيةالتعلّم العميقالذكاء الاصطناعي التوليدي
  17. 2020Tom B. Brown et al.

    Language Models are Few-Shot Learners

    يصف GPT-3 ويبيّن أن نموذج لغة بمفكِّك ترميز وحده وبحجم كافٍ يستطيع أداء مهام جديدة من حفنة أمثلة تُقدَّم في مطالبته، بلا أي تحديث تدرّجي.

    الذكاء الاصطناعي التوليديمعالجة اللغات الطبيعيةالتعلّم العميق
  18. 2020Alexey Dosovitskiy et al.

    An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale

    يطبّق محوّلاً معيارياً على الصور مباشرةً بتقطيع كل صورة إلى رقع ثابتة الحجم ومعاملة متتالية الرقع كوحدات، بلا أي التفاف.

    الرؤية الحاسوبيةالتعلّم العميقالذكاء الاصطناعي التوليدي