قراءة 8 دقيقةأسس الاحتمالات
الإنتروبيا والمعلومات
قياس اللايقين بالبتّات: إنتروبيا شانون ولماذا اللوغاريتم بالأساس 2، ومكسب المعلومات محلولاً على قسمة، وكيف ترتبط الإنتروبيا المتقاطعة وتباعد كولباك-لايبلر بالإنتروبيا وبدوال الخسارة التي تدرّب المصنِّفات.
نظرية المعلوماتالاحتمالاتالرياضيات