فهم الانحدار الخطي
يمثّل الانحدار الخطي الاستجابة بحدٍّ ثابت مضافًا إليه مجموع موزون للمتنبِّئات. والملاءمة هي اختيار الأوزان التي تصغّر مجموع مربعات البواقي، أي الفجوات الرأسية بين القيم المرصودة والمتنبَّأ بها. والتربيع يجعل الأخطاء الموجبة والسالبة تُحتسب جميعًا، ويعاقب الأخطاء الكبيرة بصورة غير متناسبة.
وللتقدير صيغة مغلقة تُستخرَج بإصفار مشتقات معيار الخطأ التربيعي، فتنتج المعادلات الناظمية. وهذه ميزة عملية حقيقية: الملاءمة مضبوطة وفورية لا تُقارَب تكراريًا، ولا يوجد معدل تعلّم ولا سلوك تقارب يستدعي القلق.
وتفسير المعامل دقيق ويُساء صوغه بسهولة. فهو التغير المتوقع في الاستجابة مقابل زيادة وحدة واحدة في ذلك المتنبّئ مع تثبيت سائر المتنبِّئات. وعبارة «مع التثبيت» تؤدي عملًا حقيقيًا. فحين تكون المتنبِّئات مترابطة لا تحوي البيانات إلا قليلًا من المعلومات عمّا يحدث إذا تحرّك أحدها وحده، فتصير المعاملات المفردة غير مستقرة وعسيرة التفسير حتى وإن كان النموذج ككل يتنبأ جيدًا.
وكلمة «خطي» تقيّد المعاملات لا المتنبِّئات. فإضافة حدّ تربيعي أو لوغاريتم أو جداء متنبّئين كعمود جديد تُبقي النموذج خطيًا في معاملاته، فالعلاقات المنحنية والتفاعلات في المتناول تمامًا. وما يعجز عنه الانحدار الخطي حقًا هو تعلّم مثل هذا التحويل من تلقاء نفسه.
كيفية الحساب
ŷ = β₀ + β₁x₁ + … + βₚxₚ, fitted by minimizing Σᵢ (yᵢ − ŷᵢ)²
حيث
- ŷ
- الاستجابة المتنبَّأ بها
- β₀
- الحدّ الثابت، وهو التنبؤ حين تكون كل المتنبِّئات أصفارًا
- βⱼ
- معامل المتنبّئ j
- yᵢ − ŷᵢ
- الباقي للمشاهدة i
مثال على الانحدار الخطي
التنبؤ بسعر منزل من مساحته قد يعطي: السعر = 50,000 + 1,200 × المساحة. والحدّ الثابت هو القيمة الملاءَمة عند مساحة صفرية، ولا معنى فيزيائيًا له هنا فلا ينبغي المبالغة في تأويله؛ أما الميل فيقول إن كل متر مربع إضافي يقترن بزيادة نحو 1,200 في السعر.
وإضافة متنبّئ ثانٍ، وليكن البعد عن مركز المدينة، تغيّر معنى المعامل الأول. فهو الآن يقدّر أثر المساحة بين المنازل الواقعة على البعد نفسه. وإن كانت المنازل الأكبر تميل إلى البعد عن المركز اختلف المعاملان اختلافًا كبيرًا عمّا يعطيه كل متنبّئ منفردًا.
والاقتران ليس سببيًا. فالمعامل يصف كيف يتغير السعر والمساحة معًا في هذه العينة، بالنظر إلى بقية متنبِّئات النموذج. أما هل يرفع توسيع المنزل سعره بمقدار 1,200 للمتر المربع فسؤال آخر لا يجيب عنه الانحدار وحده.
المزايا والعيوب
المزايا
- قابل للتفسير إلى حدّ بعيد: لكل معامل معنى مباشر يمكن التصريح به.
- يُلاءَم بصيغة مغلقة، دون معاملات فائقة تحتاج ضبطًا.
- يأتي باستدلال متطوّر: أخطاء معيارية وفترات ثقة واختبارات.
العيوب
- لا يمثّل البنية غير الخطية ما لم تُقدَّم يدويًا في صورة سمات جديدة.
- حسّاس للقيم الشاذة، لأن التربيع يضخّم البواقي الكبيرة.
- المتنبِّئات المترابطة تجعل المعاملات المفردة غير مستقرة وعسيرة التفسير.
الأسئلة الشائعة
ماذا يقيس معامل التحديد R² فعليًا؟
نسبة تباين الاستجابة التي يفسّرها النموذج. وهو لا ينقص أبدًا عند إضافة متنبِّئات ولو كانت عديمة الفائدة، فلا يصلح لمقارنة نماذج بأحجام مختلفة؛ ويُستخدم بدلًا منه R² المعدَّل أو تقدير خطأ بالتحقق المتقاطع.
هل يشترط الانحدار الخطي بيانات موزّعة توزيعًا طبيعيًا؟
لا يلزم أن تكون المتنبِّئات ولا الاستجابة طبيعية. فطبيعية البواقي افتراض لإجراءات الاستدلال الكلاسيكية، أي اختبارات t وفترات الثقة، لا لملاءمة المربعات الصغرى نفسها التي تبقى معرّفة جيدًا على كل حال.
ما العمل مع المتنبِّئات المترابطة؟
من الخيارات حذف المتنبِّئات الزائدة، أو دمجها، أو تطبيق انحدار ريدج الذي يثبّت المعاملات بمعاقبة مقدارها. ودقة التنبؤ كثيرًا ما تنجو من الترابط الخطي سالمة؛ وإنما يتضرر تفسير المعاملات.
الخلاصة
يتنبأ الانحدار الخطي بنتيجة عددية كمجموع موزون، ويُلاءَم بصيغة مغلقة، ويعطي معاملات يمكن التعبير عنها بلغة واضحة. وحدوده هي اللاخطية والقيم الشاذة والمتنبِّئات المترابطة، ويبقى الأساس المرجعي الذي ينبغي أن يُطالَب أي نموذج أعقد بتجاوزه.