فهم الانحدار اللوجستي
تطبيق الانحدار الخطي مباشرةً على نتيجة ثنائية يفشل لسبب بنيوي: الدالة الخطية غير مقيّدة، فستتنبأ بقيم دون الصفر وفوق الواحد، وهي لا تصلح احتمالات. يبقي الانحدار اللوجستي على التركيبة الخطية لكنه يمرّرها خلال الدالة اللوجستية التي تنقل مستقيم الأعداد الحقيقية كله إلى الفترة المفتوحة (0, 1). ويقدّمه جيمس وزملاؤه بهذه العبارات تحديدًا، بوصفه سبيل نمذجة احتمال بدالة تظل ضمن المدى مهما كانت قيم المتنبِّئات.
وللتحويل معكوس قابل للتفسير. فحلّ المعادلة للجزء الخطي يبيّن أنه يساوي لوغاريتم الأرجحية النسبية، أي لوغاريتم p/(1 − p). ومن ثمّ، وإن كان أثر المتنبّئ في الاحتمال غير خطي، فأثره في هذا اللوغاريتم خطي تمامًا، ويُقرأ كل معامل بوصفه تغيّره لكل وحدة زيادة في متنبّئه. وأخذ الأسّ لمعامل يحوّله إلى نسبة أرجحية، وهي عادةً أيسر في التواصل.
والملاءمة تتم بالأرجحية العظمى لا بالمربعات الصغرى. فدالة الأرجحية تضرب الاحتمال المتنبَّأ به للنتيجة الصحيحة عبر المشاهدات، والمعاملات المختارة هي التي تعظّمها. ولا يوجد حلّ مغلق الصيغة فالتحسين تكراري، لكن الهدف محدّب، ما يعني وجود أمثلية وحيدة وانتفاء خطر التقارب إلى أمثلية محلية رديئة.
وحدّ القرار خطي. فالتصنيف عند عتبة 0.5 يقابل إصفار الجزء الخطي، وهو ما يعرّف مستويًا فائقًا في فضاء المتنبِّئات. ولذلك لا يستطيع الانحدار اللوجستي فصل فئات يقسمها حدّ منحنٍ حقًا ما لم تُقدَّم حدود غير خطية في صورة سمات، تمامًا كما في الانحدار الخطي.
كيفية الحساب
p(X) = e^(β₀+β₁X) / (1 + e^(β₀+β₁X)), equivalently log(p/(1−p)) = β₀ + β₁X
حيث
- p(X)
- الاحتمال المتنبَّأ به للفئة الموجبة
- β₀, β₁
- الحدّ الثابت والمعامل، مقدَّرين بالأرجحية العظمى
- p/(1−p)
- الأرجحية النسبية للفئة الموجبة
- log(p/(1−p))
- لوغاريتم الأرجحية النسبية، أو اللوجيت، وهو خطي في X
مثال على الانحدار اللوجستي
لنفترض نموذجًا لمخاطر التعثر بدلالة رصيد الحساب يعطي β₀ = −4 وβ₁ = 0.05. عند رصيد 100 يكون الجزء الخطي −4 + 0.05 × 100 = 1.00، والاحتمال المتنبَّأ به 1/(1 + e^−1.00) ≈ 0.7311.
وعند رصيد 150 يصير الجزء الخطي 3.50 والاحتمال ≈ 0.9707. الزيادة نفسها البالغة 50 وحدة حرّكت لوغاريتم الأرجحية النسبية بمقدار 2.5 بالضبط في الحالتين، لكن الاحتمال ارتفع بمقدار 0.24 في الحالة الأولى وكان سيرتفع أقل بكثير انطلاقًا من نقطة مرتفعة أصلًا. تلك هي اللاخطية التي تُدخلها الدالة اللوجستية.
وأفضل صيغة لإيصال المعامل هي نسبة الأرجحية: e^0.05 ≈ 1.051، أي أن كل وحدة إضافية من الرصيد تضرب أرجحية التعثر بنحو 1.05. ولاحظ أن هذا قول ضربي عن الأرجحية النسبية لا عن الاحتمال.
الأسئلة الشائعة
لماذا تُسمّى طريقة تصنيف باسم الانحدار؟
لأنها تُجري انحدارًا لكمية متصلة، هي لوغاريتم الأرجحية النسبية، على المتنبِّئات. أما التصنيف فيأتي لاحقًا حين يُقارَن الاحتمال الملاءَم بعتبة. فالاسم يصف الآلية الكامنة لا الاستعمال النهائي.
هل يجب أن تكون عتبة التصنيف 0.5؟
لا. فهي قرار بشأن الكلفة النسبية للإيجابيات الكاذبة والسلبيات الكاذبة، لا خاصية للنموذج. وفي المسائل غير المتوازنة أو ذات الكلف اللامتماثلة كثيرًا ما تكون عتبة أخرى أنسب بكثير.
كيف يقارَن بآلة متجهات الدعم الخطية؟
كلاهما ينتج حدًّا خطيًا، لكنهما يحسّنان هدفين مختلفين. الانحدار اللوجستي يعظّم الأرجحية ويخرج احتمالات معايَرة؛ وآلة متجهات الدعم تعظّم الهامش وتخرج قرارًا دون احتمال مرافق.
الخلاصة
يكيّف الانحدار اللوجستي النموذج الخطي للتصنيف بتغييرين: دالة لوجستية ضاغطة ليكون المخرج احتمالًا صحيحًا، والأرجحية العظمى بدل المربعات الصغرى. وتبقى معاملاته قابلة للتفسير على مقياس لوغاريتم الأرجحية النسبية، ويبقى حدّه خطيًا.