À la fin des années 1970 et au début des années 1980, le financement fédéral pour la recherche cognitive a conduit de manière inattendue à des avancées significatives dans l'intelligence artificielle (IA). Cette recherche a non seulement transformé notre compréhension de la cognition humaine à travers des modèles computationnels, mais a également jeté les bases des systèmes d'apprentissage profond qui animent aujourd'hui la technologie de l'IA.
La National Science Foundation et le Bureau de recherche navale ont financé des projets de James "Jay" McClelland, David Rumelhart et Geoffrey Hinton pour modéliser les capacités cognitives humaines. Leur travail a conduit à des découvertes révolutionnaires, y compris un modèle de réseau de neurones pour la perception des lettres et des mots, ainsi que l'algorithme de rétropropagation influent, qui est fondamental pour les systèmes d'IA modernes.
McClelland, un scientifique cognitif à l'Université de Stanford, a noté que l'algorithme de rétropropagation est désormais l'épine dorsale de tous les systèmes d'apprentissage profond développés depuis son invention. Cette recherche a valu au trio un Golden Goose Award 2024, reconnaissant l'impact profond de leur science fondamentale sur le monde.
Dans les années 1970, la collaboration de McClelland et Rumelhart s'est éloignée des théories dominantes du traitement du langage, qui étaient principalement symboliques. Au lieu de cela, ils ont proposé que la compréhension du langage implique l'utilisation simultanée de toutes les informations disponibles, soulignant l'importance du contexte.
Avec l'arrivée de Hinton au début des années 1980, l'équipe a réorienté son attention vers une compréhension plus complexe des réseaux de neurones. Ils ont publié des travaux influents qui ont redéfini le domaine, y compris l'article séminal dans Nature qui a introduit l'algorithme de rétropropagation.
Malgré une adoption initiale lente des modèles de réseaux de neurones, le paysage a changé de manière spectaculaire avec l'avènement de puissants ordinateurs et de grands ensembles de données, ce qui a permis l'application réussie des techniques d'apprentissage profond dans divers systèmes d'IA.
Aujourd'hui, McClelland continue d'explorer l'intersection de la cognition humaine et de l'IA, examinant comment les idées des réseaux de neurones peuvent éclairer notre compréhension de l'esprit humain et vice versa. Ses recherches en cours mettent en lumière les similitudes et les différences entre la cognition humaine et les réseaux de neurones informatiques, révélant des aperçus fascinants sur la nature de la conscience.