تخطّي إلى المحتوى
Kudos AI

Neural Network From Scratch

شبكة أمامية التغذية في NumPy مع انتشار خلفي مُشتقّ يدويًا، مُتحقَّق منه بالتدرّجات العددية، فيُبرهَن حساب التفاضل بدل الوثوق به.

Python (NumPy)نشط

مُدرِك متعدّد الطبقات مكتوب باستخدام NumPy وحدها، مصمَّم لجعل الانتشار الخلفي ملموسًا. تُشتقّ التمريرة الأمامية والخسارة والتدرّجات التحليلية لكل طبقة يدويًا ثم تُنفَّذ مباشرة، والانضباط المركزي في المشروع هو تدقيق التدرّجات: يُقارَن كل تدرّج تحليلي بتقدير الفروق المنتهية، ولا يُقبل التنفيذ إلا حين يهبط الخطأ النسبي إلى رتبة 1e-7. هذا التدقيق هو ما يحوّل الانتشار الخلفي من صيغة رآها القارئ إلى صيغة تحقّق منها. ثم تُدرَّب الشبكة على XOR - المختارة لأن أي طبقة خطية منفردة لا تستطيع تمثيلها، ما يجعل الحاجة إلى طبقة مخفيّة حقيقةً مُبرهنة لا مجرّد ادّعاء. التنفيذ جارٍ ولم يُنشر بعد أي مستودع للمصدر.

أبرز النقاط

  • تدرّجات تحليلية مُشتقّة لكل طبقة ومُدقَّقة بالفروق المنتهية حتى خطأ نسبي ~1e-7
  • XOR كحالة عملية، مع عرض حجّة الفصل الخطي قبل بناء الشبكة
  • التنشيط والخسارة والتهيئة قابلة للتبديل لإظهار أثر كلٍّ منها على التقارب
  • لا اشتقاق آلي البتّة - قاعدة السلسلة مكتوبة لا مُفوَّضة

مقالات ذات صلة

قراءة 8 دقيقةNeural Networks

What Is a Neural Network?

Layers as parameterised transformations, the forward pass, and why depth and non-linearity are not optional: a proof that no single linear layer can compute XOR, and a two-layer network that does, worked entirely by hand.

التعلّم العميقالرياضيات
قراءة 8 دقيقةNeural Networks

Backpropagation and Gradient Descent

How a neural network learns: the loss as a function of weights, gradient descent, and backpropagation as the chain rule applied backwards, with every partial derivative of a small network computed by hand and checked against autograd.

التعلّم العميقالتحسينالرياضيات