В конце 1970-х и начале 1980-х годов федеральное финансирование когнитивных исследований неожиданно привело к значительным достижениям в области искусственного интеллекта (ИИ). Эти исследования не только изменили наше понимание человеческой когнитивной деятельности через вычислительные модели, но и заложили основу для систем глубокого обучения, которые управляют современной технологией ИИ.
Национальный научный фонд и Офис военно-морских исследований финансировали проекты Джеймса "Джея" МакКлелланда, Дэвида Румельхарта и Джеффри Хинтона, направленные на моделирование человеческих когнитивных способностей. Их работа привела к революционным открытиям, включая модель нейронной сети для восприятия букв и слов, а также влиятельный алгоритм обратного распространения ошибки, который стал основой современных систем ИИ.
МакКлелланд, когнитивный ученый в Стэнфордском университете, отметил, что алгоритм обратного распространения ошибки сегодня является основой всех разработанных с тех пор систем глубокого обучения. Эти исследования принесли трио награду Golden Goose Award 2024, признающую глубокое воздействие их фундаментальной науки на мир.
В 1970-х годах сотрудничество МакКлелланда и Румельхарта отклонилось от преобладающих теорий обработки языка, которые в значительной степени были символическими. Вместо этого они предложили, что понимание языка включает использование всей доступной информации одновременно, подчеркивая важность контекста.
С приходом Хинтона в начале 1980-х годов команда сместила внимание на более сложное понимание нейронных сетей. Они опубликовали влиятельные работы, которые переосмыслили эту область, включая знаковую статью в Nature, которая представила алгоритм обратного распространения ошибки.
Несмотря на первоначально медленное принятие моделей нейронных сетей, ситуация резко изменилась с появлением мощных компьютеров и больших наборов данных, что позволило успешно применять техники глубокого обучения в различных системах ИИ.
Сегодня МакКлелланд продолжает исследовать пересечение человеческой когнитивной деятельности и ИИ, изучая, как идеи из нейронных сетей могут прояснить наше понимание человеческого разума и наоборот. Его продолжающееся исследование подчеркивает сходства и различия между человеческой когнитивной деятельностью и компьютеризированными нейронными сетями, открывая захватывающие идеи о природе сознания.