Geoffrey Hinton

A coécrit l’article qui fit connaître largement la rétropropagation, et mené le renouveau de l’apprentissage profond.

Biographie

Psychologue cognitif et informaticien britanno-canadien qui continua de travailler sur les réseaux de neurones pendant la période où le domaine s’en était largement détourné. Il coécrivit le travail de 1986 qui porta la rétropropagation à l’attention générale, et l’entrée de son groupe à la compétition ImageNet de 2012 est largement tenue pour le moment où l’apprentissage profond est devenu dominant en vision par ordinateur.

Contributions clés

• A coécrit Learning Internal Representations by Error Propagation (1986) avec Rumelhart et Williams.
• Des travaux sur les machines de Boltzmann et le préentraînement non supervisé de réseaux profonds.
• A dirigé le groupe dont le résultat ImageNet de 2012 imposa les réseaux convolutifs profonds en vision.

Impact

L’attribution de la rétropropagation est réellement stratifiée : des méthodes équivalentes avaient été dérivées indépendamment par des auteurs antérieurs, et l’article de 1986 se comprend mieux comme le moment où la technique devint largement connue que comme celui de sa première invention. Chollet observe que réseaux convolutifs et rétropropagation étaient tous deux bien compris dès 1990, et que ce qui a changé après 2012 est la disponibilité des données et du calcul.