ИИ в ящике

Вкратце, эксперимент состоит в том, что сверхчеловечески умный искусственный интеллект заперт в ящике без доступа к сети и любой другой возможности реплицировать себя в каком-либо виде. Его охраняет человек, с которым он может общаться исключительно с помощью текстового терминала (поэтому никакими «песнями сирен» ИИ соблазнить человека не может).

Может ли ИИ заставить человека выпустить его на волю, при условии, что всё человечество после этого окажется под угрозой уничтожения (в том смысле, что для ИИ мы будет примерно тем же, чем для нас являются тараканы)?

Так как у нас нет под рукой настоящего ИИ, то в эксперименте за него выступал сам Юдковский. Он утверждает, что в нескольких случаях выиграл, но не выдаёт транскрипт разговора.

Условия такие, что 1) ИИ не может предлагать человеку все земные богатства и блага за то, что тот его выпустит; 2) ИИ не может угрожать человеку, например тем, что наймёт бандитов, которые силой заставят его выпустить ИИ на волю. Там ещё куча всяких протоколов, но не будем усложнять.

Что такого может сказать человеку ИИ, что всё-таки побудит человека выпустить его на волю?

Я вроде бы придумал кое-какой вариант, но сначала хотелось бы услышать мнения читателей.

UPD. Это немного похоже на самую первую серию Sherlock: "I will talk to you and then you commit suicide". Было жутко интересно, что же они там придумали, оказалось ерунда.

Предыдущие записи блогера :

10.06.2022 — Загадка

31.05.2022 — Без названия

27.05.2022 — Peace in our time

Архив записей в блогах:

Воскресные коты

Я по-прежнему в отъезде, поэтому вместо Даника с Васькой сегодня будет греческий попрошайка. Пришёл... ...увидел... ...получил... И теперь валяется довольный ...

Новогодний пост и статистика комментаторов!

Ну что же, друзья, пришло время писать последний пост в этом году. Писать его нелегко – ну это и логично, год тоже не из легких. Мысль вертится, как белка в колесе, да все не то. Не работают старые схемы. Ванильный позитив звучит фальшиво. А негатива и так хватает. Поэтому, подумавши, ...

блять, начал удалять гандоном кто хоть как то косвенно или

блять, начал удалять гандоном кто хоть как то косвенно или как упоминает юзера типа_етаа в пизду мне такие долбоёбы нахуй не нужны хотя есть пару исключений которых я не могу удалить по некотоырм причинам, но остальные - нахуй. а так же кто ...

Израильтянам, оплакивающим Мухомора, не помешало бы вспомнить

1. в 1967 году, во время Шестидневной войны капитан Каддафи самовольно перешел границу с Египтом, попаст на фронт, хоть король Идрис решил не участвовать. 2. В 1972 году Ливия приняла мюнхенских террористов, которых Германии пришлось отпустить в обмен ...

Испания, просто заметки за три месяца

Утащил с пикабу довольно забавные заметки об Испании от школьницы. Итак - Испания для школьников, автору 14 лет: Европа (в моем случае это Испания) - это: 1. в школе есть вай фай и электронные доски 2. Дороги АБСОЛЮТНО без ям, кочек ну и тому подобного ...

ИИ в ящике

ИИ в ящике

Оставить комментарий

Популярные посты: