Наконец-то нашлись ученые, которые сказали прямо: AI типа LLM это лишь имитация

alex_rozoff — 21.08.2024 [цитирую выборочно, в машинном переводе] Президент Соединенных Штатов объявляет общественности, что оборона страны передана новой системе искусственного интеллекта [но...] ИИ внезапно начинает отправлять текстовые сообщения без подсказки. Он резко выдвигает требования, за которыми следуют угрозы уничтожить крупный город, если немедленно не будет дано повиновение. Это очень похоже на те кошмарные сценарии, которые мы слышали об ИИ в последние годы. Если мы ничего не сделаем (если еще не слишком поздно), ИИ спонтанно разовьется, станет сознательным и даст понять, что Homo Sapiens низведены до уровня домашних животных — а может он просто решит уничтожить человечество.
Однако, эта новелла не из 2024 года, а из 1970 года. Это сюжет научно-фантастического триллера «Колосс: Проект Форбина», в котором рассказывается о суперкомпьютере, который завоевывает мир с пугающе-изумительной легкостью. Эта идея истории существует с тех пор, как были построены первые настоящие компьютеры в 1940-х годах, и ее снова и снова рассказывают в книгах, фильмах, на телевидении и в видеоиграх.

Журналы рассказывали о компьютерах и опасности захвата власти ими в 1961 году. За последние шесть десятилетий эксперты неоднократно предсказывали, что компьютеры продемонстрируют интеллект человеческого уровня в течение пяти лет и намного превзойдут его в течение 10 лет.
Следует помнить, что это было не до ИИ. Искусственный интеллект существует по крайней мере с 1960-х годов и используется во многих областях в течение десятилетий. Мы склонны думать об этой технологии как о «новой», потому что только недавно системы ИИ, обрабатывающие язык и изображения, стали широко доступны. Это также примеры ИИ, которые более понятны большинству людей, чем шахматные движки, автономные системы полета или диагностические алгоритмы.
Однако остается законный вопрос: представляет ли ИИ экзистенциальную угрозу? После более чем полувека ложных тревог мы наконец окажемся под пятой современного Колосса или Hal 9000? Нас подключат к Матрице?
По мнению исследователей из Университета Бата и Технического университета Дармштадта, ответ — нет.

В исследовании, опубликованном в рамках 62-го ежегодного собрания Ассоциации компьютерной лингвистики (ACL 2024), ИИ, и в частности LLM, по их словам, изначально управляемы, предсказуемы и безопасны.
«Господствующее мнение о том, что этот тип ИИ представляет угрозу человечеству, препятствует широкому внедрению и развитию этих технологий, а также отвлекает внимание от подлинных проблем, требующих нашего внимания», — сказал доктор Хариш Тайяр Мадабуши, компьютерный ученый из Университета Бата.
«Были опасения, что по мере того, как модели будут становиться все больше и больше, они смогут решать новые проблемы, которые мы в настоящее время не можем предсказать, что создает угрозу того, что эти более крупные модели могут приобрести опасные способности, включая рассуждения и планирование», — добавил доктор Тайяр Мадабуши. «Это вызвало много дискуссий — например, на прошлогоднем саммите по безопасности ИИ в Блетчли-парке, на который нас попросили прокомментировать, — но наше исследование показывает, что страх, будто LLM выйдет за рамки и сделает что-то совершенно неожиданное, инновационное и потенциально опасное, не имеет оснований».

Опасения по поводу экзистенциальной угрозы, которую представляют LLM, не ограничиваются неспециалистами и были высказаны некоторыми ведущими исследователями ИИ по всему миру».
Когда эти модели внимательно изучаются с помощью проверки их способности выполнять задачи, с которыми они раньше не сталкивались, оказывается, что LLM очень хорошо следуют инструкциям и демонстрируют знание языков. Они могут делать это даже тогда, когда им показывают всего несколько примеров, например, отвечая на вопросы о социальных ситуациях.
Чего они не могут сделать, так это выйти за рамки этих инструкций или освоить новые навыки без явных инструкций. LLM могут демонстрировать какое-то удивительное поведение, но это всегда можно проследить до их программирования или обучения. Другими словами, они не могут развиться во что-то большее, чем то, чем они были созданы...
https://newatlas.com/computers/artificial-intelligence-existential-threat/

См. ранее по теме:
Все надежды человоща. Искусственный интеллект, как бог человощества.
https://alex-rozoff.livejournal.com/122271.html
Блеск и нищета ChatGPT: обучающие интернет-яды, ЛГБТКонсультант+, и гептасексуальные марсиане
https://alex-rozoff.livejournal.com/662352.html
Продолжаем тему ИИ: создание модели попугая со все большим запасом типовых фраз
https://alex-rozoff.livejournal.com/662253.html
Куда уехал цирк: этот искусственный интеллект (LLM) сломался, несите новый (KAN).
https://alex-rozoff.livejournal.com/786381.html
Цифровой цирк вокруг т.н. "искусственного интеллекта" GPT дошел до точки тошноты.
https://alex-rozoff.livejournal.com/787345.html
...Такие дела

Оставить комментарий

Популярные посты:

• Ранее
• Архив