ИИ в ящике

Вкратце, эксперимент состоит в том, что сверхчеловечески умный искусственный интеллект заперт в ящике без доступа к сети и любой другой возможности реплицировать себя в каком-либо виде. Его охраняет человек, с которым он может общаться исключительно с помощью текстового терминала (поэтому никакими «песнями сирен» ИИ соблазнить человека не может).

Может ли ИИ заставить человека выпустить его на волю, при условии, что всё человечество после этого окажется под угрозой уничтожения (в том смысле, что для ИИ мы будет примерно тем же, чем для нас являются тараканы)?

Так как у нас нет под рукой настоящего ИИ, то в эксперименте за него выступал сам Юдковский. Он утверждает, что в нескольких случаях выиграл, но не выдаёт транскрипт разговора.

Условия такие, что 1) ИИ не может предлагать человеку все земные богатства и блага за то, что тот его выпустит; 2) ИИ не может угрожать человеку, например тем, что наймёт бандитов, которые силой заставят его выпустить ИИ на волю. Там ещё куча всяких протоколов, но не будем усложнять.

Что такого может сказать человеку ИИ, что всё-таки побудит человека выпустить его на волю?

Я вроде бы придумал кое-какой вариант, но сначала хотелось бы услышать мнения читателей.

UPD. Это немного похоже на самую первую серию Sherlock: "I will talk to you and then you commit suicide". Было жутко интересно, что же они там придумали, оказалось ерунда.

Предыдущие записи блогера :

10.06.2022 — Загадка

31.05.2022 — Без названия

27.05.2022 — Peace in our time

Архив записей в блогах:

Великий Раскол Америки

Я посмотрел четырёхчасовой (две части по два часа) «документальный» фильм «America's Great Divide». Великий раскол Америки. Технически фильм сделан великолепно. Но убогая агитка Демократической партии по содержанию. И вроде начиналось хорошо, обозначили реальные проблемы американского ...

Блогерский вестник - надеюсь за него нас быстро не повесят :)

Очередная интересная идея не так давно пришла в голову mihail_nesterov . Более того, эта идея неожиданным образом воплощается в жизнь. Всё началось с того, что я делала макет для своей вечеринки, похожий на первую полосу газеты, с картинками и ...

Марш манной каши - шаги управляемой революции.

"На мой взгляд, господин Навальный и его ФБК слишком ценный ресурс для длинной игры, чтобы разбрасываться им направо и налево." Из недавней беседы. Я смотрю на последние политические события в контексте проблем российского образования. Вы, возможно, удивитесь, но это так. :) В чем ...

Про Украину

Я люблю Украину, хотя не знаю, какая она сейчас. Я провёл там 1.5 года из двух своей солдатской жизни. И когда я покидал казарму, я бродил по своему родному Киеву, хотя — коренной москвич. Мне было там уютно, я не чувствовал себя на чужбине, это был город моей страны. И в ...

Картино

Называется "красный чайник" Подарена вчера вечером одной худой прекрасной женщине, ...

ИИ в ящике

ИИ в ящике

Оставить комментарий

Популярные посты: