Двое ученых, которым приписывают создание “основ современного мощного машинного обучения”, профессор эмеритус Университета Торонто Джеффри Хинтон и профессор Принстонского университета Джон Хопфилд, были награждены Нобелевской премией по физике сегодня. Их открытия и изобретения заложили основу для многих недавних прорывов в области искусственного интеллекта, сообщила Нобелевская комиссия при Королевской шведской академии наук. С начала 1980-х годов их работа позволила создать искусственные нейронные сети, архитектуру компьютера, вдохновленную структурой мозга. Подражая тому, как наши мозги устанавливают связи, нейронные сети позволяют искусственным инструментам обучаться на примере. Разработчики могут обучить искусственную нейронную сеть распознавать сложные образцы, подавая ей данные, лежащие в основе некоторых самых известных применений искусственного интеллекта сегодня, от генерации языка до распознавания изображений. “Трудно представить, как можно предотвратить использование этого плохими актерами для плохих целей”.
“Я не ожидал этого. Я чрезвычайно удивлен и почтенно признателен за включение меня”, – сказал “ошеломленный” Хинтон в новостном сообщении Университета Торонто. Хинтон, часто называемый “Крестным отцом искусственного интеллекта”, в прошлом году заявил в интервью The New York Times, что “часть его… теперь сожалеет о своей жизненной работе”. По сообщениям, он покинул свою должность в Google в 2023 году, чтобы привлечь внимание к потенциальным рискам, которые несет технология, в создании которой он принимал активное участие. “Трудно представить, как можно предотвратить использование этого плохими актерами для плохих целей”, – сказал Хинтон в интервью NYT. В 2013 году Google приобрела компанию Хинтона по нейронным сетям, которую он основал вместе с двумя студентами, включая Илью Суцкевера, который позже стал главным ученым в OpenAI, прежде чем ушел оттуда в этом году.
Нобелевская комиссия отметила Хинтона за разработку так называемой машины Больцмана, генеративной модели, с коллегами в 1980-х годах: Хинтон использовал инструменты из статистической физики, науки о системах, построенных из многих похожих компонентов. Машина обучается путем подачи ей примеров, которые очень вероятно возникнут при работе машины. Машина Больцмана может использоваться для классификации изображений или создания новых примеров того типа образца, на котором она была обучена. Хинтон продолжает развивать эту работу, способствуя началу текущего взрывного развития машинного обучения.
Работа Хинтона строится на работе его коллеги-лауреата Джона Хопфилда – сети Хопфилда, искусственной нейронной сети, способной воссоздавать образцы: Сеть Хопфилда использует физику, описывающую характеристики материала из-за вращения его атомов – свойства, делающего каждый атом крошечным магнитом. Сеть в целом описывается аналогично энергии в системе вращения, найденной в физике, и обучается путем нахождения значений для связей между узлами так, чтобы сохраненные изображения имели низкую энергию. Когда сеть Хопфилда подается искаженное или неполное изображение, она методично проходит через узлы и обновляет их значения, чтобы энергия сети уменьшалась. Таким образом, сеть пошагово работает, чтобы найти сохраненное изображение, наиболее похожее на неполное, которое ей было подано.
Хинтон продолжает высказывать свои опасения по поводу искусственного интеллекта, включая в сегодняшнем разговоре с журналистами. “У нас нет опыта того, каково это иметь вещи умнее нас. И это будет замечательно во многих отношениях”, – сказал он. “Но мы также должны беспокоиться о ряде возможных плохих последствий, особенно о угрозе того, что эти вещи выйдут из-под контроля”.