الانحدار الذي يجد علاقة غير موجودة

اكتب عشرة أسطر من الشيفرة. ولّد سلسلة من 200 عدد بالبدء من الصفر وإضافة خطوة عشوائية في كلّ مرّة. ثمّ ولّد سلسلة ثانية بالطريقة نفسها من سحبات منفصلة، بحيث لا تعرف إحداهما عن الأخرى شيئاً بحكم البناء. انحدر إحداهما على الأخرى واختبر الميل عند المستوى المعتاد 5٪.

افعل ذلك 2000 مرّة، فيخرج الميل معنوياً في 82.8٪ منها.

اختبار سليم على بيانات لا رابط بينها ينبغي أن يرفض 5٪ من الوقت. وهذا يرفض أكثر بستّ عشرة مرّة، وكلّ قيمة احتمالية تخرج من الصيغة التي تعمل في كلّ مكان آخر.

هذه النتيجة باب إلى حقل كامل، وهذا الحقل هو ما يصيب الإحصاء المعتاد حين تكون الصفوف في ترتيب ذي معنى.

الإخفاق الأوّل: المستوى الذي لا يعود أبداً

كلّ من هاتين السلسلتين مسيرة عشوائية: $X_t = X_{t-1} + \varepsilon_t$ بخطوات طبيعية قياسية مستقلّة. والخاصّية الجوهرية أنّها لا مستوى لها تعود إليه. فأيّاً كانت القيمة التي تبلغها، تنطلق الخطوة التالية من عندها، فيتراكم الانزياح بدل أن يتوسّط.

ويظهر ذلك في تباين ينمو مع الزمن، مقيساً على 3000 تكرار:

أي $t$ نفسه تقريباً، وهو الجواب النظري لمجموع $t$ خطوة مستقلّة ذات تباين واحدي.

خذ الآن سلسلتين كهاتين على نافذة منتهية. تذهب كلّ واحدة إلى مكان وتبقى فيه حيناً، لأنّ الابتعاد سهل والعودة ليست كذلك، فكثيراً ما تنجرفان في اتّجاه متّسق إحداهما بالنسبة إلى الأخرى. ومخطّط انتشار إحداهما مقابل الأخرى يشبه خطّاً. والانحدار، المبنيّ على افتراض سحبات مستقلّة، يعدّ 200 نقطة من الانجراف المشترك 200 دليلاً مستقلّاً وهي أقرب إلى دليل واحد.

والشرط المنتهَك هو الاستقرارية: أن لا يتوقّف السلوك الإحصائي للسلسلة على لحظة النظر إليها. وفي صيغتها العملية تطلب متوسّطاً لا يتوقّف على $t$، وتبايناً لا يتوقّف على $t$، وتغايراً $\mathrm{Cov}(X_t, X_{t+k})$ لا يتوقّف إلّا على الفجوة $k$. والمسيرة العشوائية تخفق في الشرطين الأخيرين.

ولماذا يهمّ هذا في الاستدلال أكثر ممّا يهمّ في الوصف: كلّ تقدير يستعير قوّته من مجموع المشاهدات، وهذا لا معنى له إلّا إذا كانت تلك المشاهدات تصف العملية نفسها. فحين يهيم المستوى، يصير المتوسّط على النافذة متوسّطاً على عوالم مختلفة، ويصف المجال حوله كمّية لم توجد قطّ.

والإصلاح المعتاد هو الفروق الأولى. ففروق المسيرة العشوائية هي بالضبط الخطوات المستقلّة التي بُنيت منها، فيُستعاد الافتراض وترفض الأزواج الـ2000 نفسها الآن عند 4.2٪، وهو ما ينبغي أن يعطيه اختبار سليم عند 5٪. والثمن يستحقّ الذكر لا الدفن: النموذج صار يربط التغيّرات بالتغيّرات، وهذا سؤال غير السؤال عن المستويات.

والجزء المزعج هو ما تفعله زيادة البيانات. فمعدّل الرفض الزائف لا ينخفض بطول السلسلة، بل يرتفع، لأنّ النافذة الأطول تمنح السلسلتين مجالاً أوسع للهيام. وهذه سِمة التحيّز لا الضجيج، وهي تجعل هذه المشكلة من شكل الخلط نفسه: خاصّية في كيفية نشأة البيانات لا في كمّيتها.

الإخفاق الثاني: الخطأ المعياري الأضيق ممّا ينبغي

لنفترض أنّ لديك سلسلة مستقرّة فعلاً. لم يزل الاعتماد قائماً، وله الآن ثمن يمكن حسابه بالضبط.

أبسط عملية ذات ذاكرة هي AR(1): $X_t = \varphi X_{t-1} + \varepsilon_t$ حيث $|\varphi| < 1$. اضرب الطرفين في $X_{t-k}$ وخذ التوقّع، فيسقط حدّ الضجيج وتبقى ارتباطات ذاتية تتناقص هندسياً:

$$\rho_k = \varphi^{\,k}$$

ومقيسةً على 39800 نقطة محاكاة عند $\varphi = 0.7$، تخرج الارتباطات عند الإزاحات 1 و2 و3 و5 مساويةً 0.7039 و0.4980 و0.3527 و0.1796، مقابل نظرية 0.7 و0.49 و0.343 و0.1681. أي توافق في حدود 0.012.

ثمّ تأتي النتيجة. تباين المتوسّط التجريبي لسلسلة كهذه ليس $\sigma^2/n$. فجمع التغايرات على كلّ الأزواج يعطي عامل تضخيم ينطوي في حالة AR(1) إلى متسلسلة هندسية:

$$1 + 2\sum_{k=1}^{\infty}\varphi^{\,k} = \frac{1+\varphi}{1-\varphi}$$

وعند $\varphi = 0.7$ يساوي $5.6667$. وله قراءتان، كلتاهما جديرة بالحمل:

• الخطأ المعياري جذر، فحسابه كأنّ النقاط مستقلّة يبخسه بعامل $\sqrt{5.6667} \approx 2.4$
• حجم العيّنة الفعّال هو $n$ مقسوماً على 5.6667، فـ6000 نقطة متعلّقة تحمل عن المتوسّط ما تحمله نحو 1060 نقطة مستقلّة

ولا شيء في المخرجات يعلن ذلك. بل إنّ التقدير ليس متحيّزاً أصلاً. إنّه جواب صحيح يُعرض بثقة تفوق كثيراً ما استحقّ، ولهذا يكون هذا الإخفاق أشيع من الصارخ: فهو لا يبدو خاطئاً أبداً.

والاتّجاه يصحّ عند الحدود. فعند $\varphi = 0$ يساوي العامل 1، وهي الحالة المستقلّة. وحين $\varphi \to 1$ يتباعد، وهي المسيرة العشوائية التي لا فائدة من متوسّطها. أمّا $\varphi$ السالب فيعطي عاملاً دون الواحد، لأنّ الأخطاء المتناوبة يلغي بعضها بعضاً جزئياً فتحمل السلسلة معلومة أكثر لكلّ نقطة من المستقلّة.

تُغذّي الشكلَ أدناه سلسلةُ ضوضاء واحدة، ولا يغيّر المؤشّر إلا مدةَ تذكّر السلسلة لها. راقب أمرين معًا. فأعمدة الارتباط الذاتي تستقرّ على المنحنى النظري، وهذا ما يجعل الرسم تشخيصًا لا زينة. ثم إن حجم العيّنة الفعّال ينهار بينما تظلّ السلسلة فوقه تبدو سلسلةً كسائر السلاسل: لا يظهر أي تحذير على سطح المُخرَج، ولهذا بالضبط كان هذا الإخفاق هو الأشيع.

الإخفاق الثالث: التقسيم الذي يقيس المهمّة الخطأ

التحقّق المتقاطع أوثق عادة في التعلّم الآلي التطبيقي، وعلى سلسلة زمنية قد يعلن نموذجاً أفضل بأكثر من خمس مرّات ممّا هو عليه.

خذ سلسلة متعلّقة من 240 نقطة، واحجز منها 48، وقِس أبسط طريقة لكلّ مهمّة - ملء النقطة المحجوزة من نقاط التدريب المحيطة بها، أو مدّ آخر قيمة إلى الأمام:

التقسيم العشوائي صحيح حين تكون الصفوف متبادلة، أي حين لا يحمل موقع الصفّ أيّ معلومة. وعلى سلسلة ذات ذاكرة، الموقع هو جُلّ المعلومة. اخلط، فتقع كلّ نقطة محجوزة بين نقاط تدريب، ولثلثيها نقطة تدريب ملاصقة من كلّ جانب: فلم يعد يُسأل النموذج عمّا يأتي بعدُ، بل يُسأل أن يملأ فجوة بين قيمتين معلومتين، وهو على سلسلة متعلّقة سهل.

فالرقم 0.75 ليس إذاً تقديراً متفائلاً قليلاً لمهارة التنبّؤ، بل جواب دقيق عن سؤال لم يطرحه أحد.

والقاعدة التي تمنع ذلك سهلة العبارة - لا يجوز أن تصل إلى النموذج أيّ معلومة لاحقة لأصل التنبّؤ - وهي تمسك أكثر من الخلط. فالتقييس المحسوب على كامل السلسلة يُعلم بيانات التدريب بمتوسّط المستقبل وتباينه. وتعويض فجوة بمشاهدات لاحقة يهرّب الاستيفاء إلى مجموعة التدريب. والمتوسّط المتحرّك المتمركز يشمل النقطة التي يُفترض أن يتنبّأ بها. واختيار رتبة النموذج بالنظر إلى فترة الاختبار ينفق مجموعة الاختبار دون تسجيل أنّها أُنفقت، وهو أسهل الأربعة وقوعاً لأنّه يقع عبر الجلسات لا داخل برنامج واحد.

الشكل أدناه يُجري التقسيمين على سلسلته الخاصّة. وهو تنفيذ مستقلّ بمولّد مستقلّ، ويقرأ 0.7557 و4.2224 مقابل 0.7515 و4.2074 أعلاه، وهذا هو المفيد: فمعامل 5.6 خاصيةٌ في الإجراء لا في بذرة أحد. وسّع الجزء المحجوز وانظر الفارق يتّسع، لأن خطأ التنبّؤ يتراكم مع الأفق، بينما يكاد سدّ الفجوة لا ينمو.

المرجع الذي يحسم الجدل

قياس أخير، لأنّه يكلّف سطراً ويمنع صنفاً كاملاً من خداع النفس. تنبّؤ بأربعين نقطة من 120 نقطة تاريخية على مسيرة عشوائية:

الأبسط يفوز. فالمتوسّط يفترض عودةً إلى مستوى لا تملكه السلسلة. والانجراف يستقرئ ميلاً ليس إلّا ضجيج نافذة التدريب المتراكم مقسوماً على طولها: حقيقي في العيّنة، غائب عن العملية.

فضع التنبّؤ الساذج في كلّ مقارنة. فإن عجزت طريقة عن تجاوز «الغد يشبه اليوم» فمهارتها الظاهرة آتية من غير البيانات، وغالباً من تقسيم كالذي أعلاه.

ما العمل فعلياً

أربع عادات تغطّي معظم الأمر.

1. ارسم السلسلة قبل كلّ شيء. فالمستوى الهائم أو التشتّت المتّسع يُرى عادة. واختبارات الاستقرارية الصورية ضعيفة القوّة أمام البدائل البطيئة، فاختبار لا يرفض دليل ضعيف لا شهادة براءة.
2. افرق حين يهيم المستوى، وقل ذلك. اذكر أنّ النموذج يصف التغيّرات. ولا تفرق سلسلة مستقرّة أصلاً، فذلك يضيف ضجيجاً بلا مقابل.
3. لا تعرض خطأً معيارياً من بيانات متعلّقة دون تصحيحه. فلكلّ ما يقارب AR(1) يكون العامل $(1+\varphi)/(1-\varphi)$، وحجم العيّنة الفعّال هو الرقم الأمين الذي يُذكر.
4. قسّم إلى الأمام، عند أصول عدّة. تنتهي كلّ مجموعة تدريب قبل بدء مجموعة اختبارها، وتكرار ذلك عند نقاط قطع عدّة يُظهر كيف يتغيّر الأداء بتغيّر لحظة التنبّؤ. واعرض التشتّت لا المتوسّط وحده.

ثلاثة إخفاقات وسبب واحد. لا يعلن أيّ منها عن نفسه في المخرجات، ولا يُصلح أيّ منها بجمع مزيد من البيانات. وما يصلحها هو العلم بأنّ الصفوف مرتّبة، وترك ذلك الترتيب يقيّد الاختبار الذي تجريه، والمجال الذي تعرضه، وقبل ذلك كلّه التقسيم الذي تقيّم عليه.