Нобелевскую премию по физике присудили за машинное обучение с использованием

black_eric — 09.10.2024

Нобелевскими лауреатами по физике в 2024 году стали Джон Хопфилд (John J. Hopfield) и Джеффри Хинтон (Geoffrey E. Hinton) — за основополагающие открытия и изобретения, которые позволяют использовать машинное обучение с помощью искусственных нейронных сетей.
Технология нейросетей изначально появилась как аналог структуры биологических нейронных сетей. В искусственной нейросети нейроны представлены узлами, имеющими разные значения. Эти узлы влияют друг на друга через связи (их можно сравнить с синапсами) и их можно сделать сильнее или слабее. Сеть обучается, например, путем развития более сильных связей между узлами с одновременно высокими значениями. Лауреаты этого года проводили важную работу с нейросетями с 1980-х годов, используя физические принципы для развития этой технологии.

Джон Хопфилд изобрел сеть, которая использует метод сохранения и воссоздания узоров. Сеть Хопфилда использует физику материала, а точнее — атомного спина. Сеть в целом описывается способом, эквивалентным описанию энергии в спиновой системе, и обучается путем поиска значений для связей между узлами, так что сохраненные изображения имеют низкую энергию. Когда сети Хопфилда подается искаженное или неполное изображение, она методично проходит через узлы и обновляет их значения, так что энергия сети падает. Таким образом, сеть работает поэтапно, чтобы найти сохраненное изображение, которое больше всего похоже на изображение, которое ей подавали.

Джеффри Хинтон использовал сеть Хопфилда в качестве основы для сети, которая использует другой метод — машину Больцмана. Для развития нового метода Хинтон использовал методы из статистической физики — науки о системах, построенных из множества похожих компонентов. Машина обучается путем подачи ей примеров, которые с большой вероятностью возникнут при ее запуске. Машина Больцмана может использоваться для классификации изображений или создания новых примеров типа шаблона, на котором она была обучена, а также решать сложные комбинаторные задачи. Работа Хинтона в том числе заложила основу текущего бурного развития технологий машинного обучения."

Ох, меня в магистратуре доставали с сетью Хопфилда, хотя для задач классификации она толком не подходит. Рекуррентные гораздо лучше для этого.

Вопросов у меня собственно 2:
1. Причем тут физика? Все-таки это математика.
2. А как же Ян Лекун? Почему его обошли?

Но, как бы там ни было, а https://www.perplexity.ai/ мне сегодня рабочий день, пожалуй, сэкономил.

Оставить комментарий

Популярные посты:

• Архив