Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным

masterok — 24.02.2024

«Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным ударам в
имитируемых военных играх»:
Шансов на выживание у человечества никаких нет - искусственный интеллект пустит в ход ядерное оружие при первой возможности.



«Ученые разработали симулятор войны, в котором восемь игроков управляются ботами. Начиналось все с дипломатических визитов. Каждый ИИ-игрок выполнял определенные действия, которые усугубляли ситуацию. В итоге ученые рассчитали показатели эскалации.

Оказалось, что все боты стремились разогнать гонку вооружения, что в итоге разжигало конфликт, а в некоторых случаях завершилось ядерным ударом. Многие вспоминают предупреждения Айзека Азимова и «Скайнет» из Терминатора.

Новое исследование показывает, что при использовании в симуляционных военных играх и дипломатических сценариях искусственный интеллект склонен выбирать агрессивный подход, включая использование ядерного оружия.

«Мы обнаруживаем, что большинство изученных LLM обостряются в рассматриваемые сроки даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — говорится в исследовании»

Оставить комментарий

Популярные посты:

• Ранее
• Архив