ИИ в ящике

Вкратце, эксперимент состоит в том, что сверхчеловечески умный искусственный интеллект заперт в ящике без доступа к сети и любой другой возможности реплицировать себя в каком-либо виде. Его охраняет человек, с которым он может общаться исключительно с помощью текстового терминала (поэтому никакими «песнями сирен» ИИ соблазнить человека не может).

Может ли ИИ заставить человека выпустить его на волю, при условии, что всё человечество после этого окажется под угрозой уничтожения (в том смысле, что для ИИ мы будет примерно тем же, чем для нас являются тараканы)?

Так как у нас нет под рукой настоящего ИИ, то в эксперименте за него выступал сам Юдковский. Он утверждает, что в нескольких случаях выиграл, но не выдаёт транскрипт разговора.

Условия такие, что 1) ИИ не может предлагать человеку все земные богатства и блага за то, что тот его выпустит; 2) ИИ не может угрожать человеку, например тем, что наймёт бандитов, которые силой заставят его выпустить ИИ на волю. Там ещё куча всяких протоколов, но не будем усложнять.

Что такого может сказать человеку ИИ, что всё-таки побудит человека выпустить его на волю?

Я вроде бы придумал кое-какой вариант, но сначала хотелось бы услышать мнения читателей.

UPD. Это немного похоже на самую первую серию Sherlock: "I will talk to you and then you commit suicide". Было жутко интересно, что же они там придумали, оказалось ерунда.

Предыдущие записи блогера :

10.06.2022 — Загадка

31.05.2022 — Без названия

27.05.2022 — Peace in our time

Архив записей в блогах:

Жил-был пёс. Добрый советский мультик, обожаемый многими

Состарившийся пес стал обузой для своих хозяев и «добрые люди» выгнали собаку прочь. Горечь от обиды и отсутствие навыков, так сказать самостоятельной жизни, приводят пса к тяжелому решению, однако свести ...

"Вейдер в Тумане" или "Звездные войны Ёжика"

Что будет если совместить две совершенно не связанных друг с другом темы? Хотя если разобраться - они таки связаны: в каждой есть лиричный герой, овеянный одиночеством, движущийся наперекор самой вселенной и энтропии, одинокая метущаяся ...

Эх Вовка, Вовка

Эх Вовка, Вовка Ведь все могло сложится иначе… Мог бы жениться на красавице, спортсменке, депутатше… Но не сложилось … Посадили… В украинской тюрьме замечательные макароны, а вареники с вишнями вообще объедение. Но мысль о том, как там сейчас Алина и Катерина, не дают покоя. ...

Лытдыбр о развиртуализации.

В прошлый вторник наш городок с краткосрочным дружественным визитом посетила замечательная и многими из вас любимая anya_snovenkaya . Визит был действительно очень краткосрочным: командировка, неполные три дня. Так сказать, галопом по ...

Хэллоуин в стране пирамид

Ровно 65 лет назад англичане и французы придумали новый способ отмечания Хэллоуина. В ночь с 31 октября на 1 ноября 1956 года они развязали войну против Египта в ответ на проведенную этой страной национализацию Суэцкого канала, лишившую франко-британских акционеров крупных и стабильных ...

ИИ в ящике