Реально мыслящего ИИ никогда не будет

augean_stables — 03.05.2024

По поводу всех современных страхов о возрастающем могуществе искусственного интеллекта известный философ Дж. Серль высказался еще в 1980 году, однозначно заявив, что создание «сильного» искусственного интеллекта (который бы на самом деле осознавал приходящие ему вопросы, а не имитировал человеческое мышление) нам не грозит. Убедить в этом всех он решил при помощи мысленного эксперимента, описанного в знаменитой работе «Сознание, мозг и программы». Эксперимент получил название «Китайской комнаты».

Суть его примерно следующая:

В комнату помещается человек А, абсолютно ничего не понимающий в китайских символах, но знающий английский язык. В его распоряжении находятся три корзины с «данными»:

В первой текст (рукопись) на китайском языке;

В следующей – китайские символы и правила на английском, позволяющие сопоставить первую корзину со второй (рассказ);

В последней – еще один набор правил на английском для сопоставления первых двух корзин с третьей (вопросы).

Собеседник B, находящийся вне комнаты и свободно разговаривающий по-китайски, посылает вопросы, на которые получает соответствующие ответы из комнаты.

Путем простого оперирования символами трех корзин A сможет выдать логически верные ответы на вопросы B относительно одного из рассказов. Таким образом, A пройдет тест на знание языка, легко убедив в этом своего собеседника, хотя и не понимает ни одного знака в наборе китайских иероглифов.

Теперь представьте современный компьютер C и поместите его на место человека А.
Результат очевидно будет ровно таким же.

Этот эксперимент Серль использовал как аргумент против какой-либо возможности существования сильного искусственного интеллекта. Следовательно, возможен только слабый искусственный интеллект, суть которого заключаются в простом моделировании человеческой деятельности.

Следуя этой логике существующие сегодня апокалиптические сценарии и связанные с ними страхи больше походят на ночные кошмары луддитов.

А как вам аргумент? Убедительно?
Выясним в опросе.


Заметки на полях

Оставить комментарий

Популярные посты:

• Ранее
• Архив