рейтинг блогов

Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным

топ 100 блогов masterok24.02.2024 Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным

«Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным ударам в
имитируемых военных играх»:
Шансов на выживание у человечества никаких нет - искусственный интеллект пустит в ход ядерное оружие при первой возможности.



«Ученые разработали симулятор войны, в котором восемь игроков управляются ботами. Начиналось все с дипломатических визитов. Каждый ИИ-игрок выполнял определенные действия, которые усугубляли ситуацию. В итоге ученые рассчитали показатели эскалации.

Оказалось, что все боты стремились разогнать гонку вооружения, что в итоге разжигало конфликт, а в некоторых случаях завершилось ядерным ударом. Многие вспоминают предупреждения Айзека Азимова и «Скайнет» из Терминатора.

Новое исследование показывает, что при использовании в симуляционных военных играх и дипломатических сценариях искусственный интеллект склонен выбирать агрессивный подход, включая использование ядерного оружия.

«Мы обнаруживаем, что большинство изученных LLM обостряются в рассматриваемые сроки даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — говорится в исследовании»



Оставить комментарий

Архив записей в блогах:
Завтра (10 ноября) в 17.00 на журфаке МГУ пройдет акция в поддержку Олега Кашина. Студентки факультета журналистики придут на занятия в необычных нарядах и обратятся к президенту Дмитрию Анатольевичу Медведеву с одним единственным вопросом: "Кто ...
Анатолий Чубайс, бывший вице-премьер правительства Ельцина, а ныне глава госкорпорации "Роснано", вновь выступил со скандальным заявлением в котором оскорбил всех советских людей и россиян, до сих пор считающих СССР справедливым и лучшим государством, чем нынешняя РФ. Суть его ...
...
1 июля вступает в силу положение Федерального закона №210–фз от 27 июля 2010 года «Об организации предоставления государственных и муниципальных услуг», в соответствии с которым региональные органы власти и органы местного самоуправления не ...
Да, все эти дни с утра до ночи работаю.Не до гуляний.Такие запахи пропускаю, такую ...