7 articles.
Ce qui change quand on décrit un problème par des variables, des domaines et des contraintes plutôt que comme une boîte noire : une commutativité qui réduit l’arbre gratuitement, une propagation qui prouve qu’une branche est sans espoir avant de l’explorer, et une mesure montrant que la plus célèbre des heuristiques d’ordonnancement ne fait rien à elle seule.
Transformer un problème en espace d’états et laisser un algorithme le parcourir : ce que coûtent vraiment la complétude et l’optimalité, pourquoi c’est la mémoire et non le temps qui met en échec la recherche en largeur, et les deux conditions sur une heuristique qui rendent A* prouvablement optimal.
Les couches comme transformations paramétrées, la passe avant, et pourquoi profondeur et non-linéarité ne sont pas optionnelles : une preuve qu’aucune couche linéaire seule ne peut calculer le XOR, et un réseau à deux couches qui y parvient, entièrement déroulé à la main.
Comment le texte devient des nombres sur lesquels un modèle peut s’entraîner : construire un vocabulaire, pourquoi le codage par paires d’octets n’a jamais besoin d’un token inconnu, la couche de plongement comme une consultation qui est prouvablement un one-hot fois une matrice, et pourquoi la position doit être réinjectée à la main.
Construire les probabilités depuis la base : les mondes possibles, l’univers, les deux axiomes fondamentaux, puis les règles d’addition et de multiplication, chacune démontrée plutôt qu’affirmée, avec des exemples numériques résolus.
Le cadre commun à tout modèle prédictif : estimer une fonction inconnue f à partir des données, la séparation entre erreur réductible et irréductible, et pourquoi prédiction et inférence tirent dans des directions opposées.
Dériver les coefficients des moindres carrés en différenciant la somme des carrés des résidus, puis mener à la main un ajustement complet sur cinq observations : coefficients, valeurs ajustées, résidus, RSS et R², chacun vérifié numériquement.