تخطّي إلى المحتوى
Kudos AI

دوالّ الأساس وكثيرات الحدود المجزّأة

فكرة واحدة تشمل الانحدار كثير الحدود وانحدار الدالّة الدرجية، وتمتدّ إلى كل ما سواهما ممّا يمكنك كتابته: حوِّل المتنبّئ، ثم لائم نموذجًا خطّيًّا في الأعمدة المحوَّلة.

متوسّطالوحدة 125 دقيقة · 100 XP
مستقيم يخفق على بيانات منحنية، ثم ملاءمة المربّعات الصغرى نفسها مجراةً على أعمدة محوَّلة، وأخيرًا تكعيبيّان يلتقيان عند عقدة بقفزة ظاهرة تغلقها القيود.

يفترض الانحدار الخطّي أن أثر المتنبّئ مستقيم. فإن لم يكن كذلك، كانت الغريزة المعتادة أن نمدّ اليد إلى خوارزمية أخرى. وثمّة حركة أرخص: أبقِ المربّعات الصغرى وغيّر ما تنحدر عليه.

فكرة دالّة الأساس

اختر عائلة من تحويلات XX، ثابتة ومعلومة سلفًا:

b1(X), b2(X), …, bK(X),b_1(X),\ b_2(X),\ \dots,\ b_K(X),

ثم لائم

yi=β0+β1b1(xi)+β2b2(xi)+⋯+βKbK(xi)+εi.y_i = \beta_0 + \beta_1 b_1(x_i) + \beta_2 b_2(x_i) + \cdots + \beta_K b_K(x_i) + \varepsilon_i .

وطريقتان مألوفتان حالتان من هذه.

  • الانحدار كثير الحدود يأخذ bj(x)=xjb_j(x) = x^j.
  • الدوالّ الدرجية تقطع المدى عند c1,…,cKc_1, \dots, c_K وتأخذ bj(x)=I(cj≤x<cj+1)b_j(x) = I(c_j \le x < c_{j+1})، وهو مؤشّر قيمته 1 داخل السلّة و0 خارجها. وهذه ملاءمة ثابتة مجزّأة، شائعة حيث توجد نقاط قطع طبيعية - كفئات الأعمار الخماسية مثلًا - ورديئة حيث لا توجد، إذ لا تستطيع السلّة أن تُظهر اتّجاهًا داخل نفسها.

والكلمة الحاسمة هي ثابتة. فالدوالّ bjb_j تُختار قبل الملاءمة ولا تُقدَّر، ومن ثمّ فالنموذج نموذج خطّي في الأعمدة المحوَّلة. وتنطبق المربّعات الصغرى دون تغيير، وكذلك كل ما بُني عليها: الأخطاء المعيارية وإحصاءات FF وفترات الثقة. وقد اشتريت الانحناء دون أن تغادر النموذج الخطّي.

كثيرات الحدود المجزّأة

بدلًا من كثير حدود عالميّ واحد، لائم كثير حدود منخفض الدرجة منفصلًا في كل منطقة. ضع عقدًا ξ1,…,ξK\xi_1, \dots, \xi_K عبر المدى ولائم K+1K + 1 تكعيبيًّا، واحدًا لكل منطقة. وبعقدة واحدة عند x=50x = 50:

f(x)={β01+β11x+β21x2+β31x3x<50β02+β12x+β22x2+β32x3x≥50f(x) = \begin{cases} \beta_{01} + \beta_{11}x + \beta_{21}x^2 + \beta_{31}x^3 & x < 50 \\ \beta_{02} + \beta_{12}x + \beta_{22}x^2 + \beta_{32}x^3 & x \ge 50 \end{cases}

وكل قطعة ملاءمة تكعيبية اعتيادية على مجموعتها الجزئية وحدها. تكعيبيّان، لكلٍّ منهما أربع معلمات: ثماني درجات حرّية.

أين يقع الخلل

لا شيء يُلزم القطعتين بأن تتّفقا عند العقدة، فهما لا تتّفقان. وبملاءمة هذا على 200 نقطة محاكاة بعقد عند 40 و50 و60 - أربعة تكعيبيات، ستّ عشرة معلمة - تقفز القيمة الملائَمة عند كل عقدة، وكل قفزة محسوبة قبل التقريب:

knot 40106.76→100.43jump 6.34knot 5094.74→100.29jump 5.55knot 6090.52→96.78jump 6.26\begin{array}{lll} \text{knot } 40 & 106.76 \to 100.43 & \text{jump } 6.34 \\ \text{knot } 50 & 94.74 \to 100.29 & \text{jump } 5.55 \\ \text{knot } 60 & 90.52 \to 96.78 & \text{jump } 6.26 \end{array}

وهذه ليست آثار تقريب. فالمنحنى منقطع حقًّا، وهو بوصفه وصفًا لعلاقة ملساء كلام لا معنى له.

Python

يعمل في متصفحك. تُنزّل عملية التشغيل الأولى بيئة بايثون (~10 ميغابايت)، ثم تُخزّن مؤقتًا.

القيود، وما تكلّفه

العلاج ليس تقليل العقد بل القيود. اشترط على القطع أن تلتقي:

  1. الاتّصال عند العقدة. والوصلة التي على هيئة V الناتجة عن ذلك تبقى تبدو خاطئة.
  2. اتّصال المشتقّة الأولى - فلا زاوية.
  3. اتّصال المشتقّة الثانية - فلا تغيّر ظاهر في الانحناء.

وكل قيد يزيل معلمة حرّة واحدة. وابتداءً من ثمانٍ بعقدة واحدة:

8−3=5.8 - 3 = 5 .

والناتج شريحة تكعيبية (سبلاين تكعيبي). وعمومًا، الشريحة التكعيبية بـKK عقدة تستعمل

K+4K + 4

درجة حرّية، لأن كل عقدة إضافية تضيف تكعيبيًّا (أربع معلمات) وثلاثة قيود، فكلفتها الصافية واحدة.

التعريف العامّ. الشريحة من الدرجة dd كثيرُ حدود مجزّأ من الدرجة dd ذو مشتقّات متّصلة حتى الرتبة d−1d - 1 عند كل عقدة. فالشريحة الخطّية متّصلة مع السماح بزاوية؛ والدوالّ الثابتة المجزّأة أعلاه شرائح من الدرجة 0، حيث يسقط حتى الاتّصال نفسه.

والتكعيبيّ هو الاختيار المعتاد لسبب بسيط: الانقطاع في المشتقّة الثالثة ليس ممّا تستطيع العين كشفه.

وهذه هي تلك المحاسبة قرصًا يُدار، مُطبَّقة على المئتي نقطة أعلاه. عند صفر قيود تقفز التكعيبيّات الأربع بالقيم الثلاث التي في الجدول؛ ثمّ يحذف كلّ قيد وسيطًا واحدًا لكلّ عقدة، فيسير العدّ 16 ثمّ 13 ثمّ 10 ثمّ 7 وينتهي عند K + 4 للشريحة التكعيبيّة.

وأمران تُظهرهما الصورة ويُغفلهما ما سبق. هذه الوسائط التسعة لا تشتري شيئًا يُذكر: فمجموع مربّعات البواقي لا يرتفع إلّا بأقلّ من ثلاثة في المئة على امتداد الرحلة كلّها، فالقيود تكاد تكون مجّانيّة. ثمّ إنّ الزاوية تسوء قبل أن تتحسّن. ففرض الاتّصال وحده يزيد أحدّ تغيّر في الميل على الضِّعف، من 2.42 إلى 5.95، وهي الوصلة على شكل V المذكورة أعلاه، مقيسة: فجعل القطع تتلامس ليس هو جعلها تتّفق على الاتّجاه.

تفاعلي: الوصلة، وثمن إغلاقها

كلّ قيد يحذف وسيطًا واحدًا بالضبط.

درجات الحرّيّة
16
أكبر قفزة
6.34
أحدّ زاوية
2.42
مجموع مربّعات البواقي
11232.55

دون فرض شيء تقفز التكعيبيّات الأربع بمقدار 6.34 و5.55 و6.26 عند العقد الثلاث، وهذا هو جدول الدرس. ثمّ يحذف كلّ قيد وسيطًا واحدًا بالضبط لكلّ عقدة، فيسير العدّ 16 ثمّ 13 ثمّ 10 ثمّ 7 وينتهي عند K + 4 للشريحة التكعيبيّة. والمُلائَم الآن له 16 من درجات الحرّيّة، وأكبر قفزة 6.34، وأحدّ زاوية 2.42. وأمران يقولهما العدد ويسكت عنهما النصّ. هذه الوسائط التسعة تكاد تكون مجّانيّة: فمجموع مربّعات البواقي لا يرتفع إلّا من 11232.55 إلى 11534.94، أي أقلّ من ثلاثة في المئة. ثمّ إنّ الزاوية تسوء قبل أن تزول، إذ تصير 2.42 هي 5.95 عند قيد واحد، لأنّ جعل القطع تتلامس ليس هو جعلها تتّفق على الاتّجاه.

إلى أين يمضي هذا

صار لدينا الآن مسألة ملاءمة بقيود، وهي أقلّ يُسرًا من المربّعات الصغرى الصرفة. والدرس التالي يزيل ذلك العُسر بالكامل: عمود إضافي واحد حسن الاختيار لكل عقدة يفرض القيود الثلاثة كلّها تلقائيًّا، فيعيد الأمر كلّه انحدارًا اعتياديًّا.

قبل الاختبار

كن قادرًا على كتابة الانحدار كثير الحدود والانحدار الدرجيّ نموذجَي أساس، وعلى بيان سبب بقاء نموذج الأساس مربّعاتٍ صغرى، ووصفِ كيف يخفق كثير الحدود المجزّأ وبكم تقريبًا، وعدِّ درجات الحرّية قبل القيود وبعدها.

المراجع والقراءات الإضافية

  • Gareth James, Daniela Witten, Trevor Hastie, Robert Tibshirani, An Introduction to Statistical Learning, with Applications in R, Springer (Springer Texts in Statistics 103), 2013المصدر ↗

تُذكر الأعمال المحمية بحقوق النشر للمرجعية فقط ولا تُستضاف هنا؛ يرجى الرجوع إلى الناشر للوصول إليها.

افتح المسار كاملًا

هذا الدرس الأول مجاني. سجّل لتخوض اختبار الإتقان وتكسب نقاط الخبرة وتفتح جميع الوحدات، مع مزيد من الأمثلة التفاعلية القابلة للتشغيل.