Aller au contenu
Kudos AI

L’attention, pas à pas

Requêtes, clés et valeurs sur un exemple travaillé à trois jetons : scorer, mettre à l'échelle, normaliser, mélanger - chaque nombre calculé à la main.

AvancéModule 245 min · 180 XP
Trois tokens évalués les uns contre les autres, la matrice mise à l’échelle puis passée au softmax ligne par ligne, et les valeurs mélangées en proportion de la pertinence.

Ceci est une leçon premium

Connectez-vous et inscrivez-vous pour lire la leçon complète, exécuter le code, passer le quiz et gagner des XP pour le badge du parcours.