ИИ в ящике

топ 100 блогов catpad23.06.2022

Пост gianthare заставил меня надолго задуматься об эксперименте Элиезера Юдковского

Вкратце, эксперимент состоит в том, что сверхчеловечески умный искусственный интеллект заперт в ящике без доступа к сети и любой другой возможности реплицировать себя в каком-либо виде. Его охраняет человек, с которым он может общаться исключительно с помощью текстового терминала (поэтому никакими «песнями сирен» ИИ соблазнить человека не может).

Может ли ИИ заставить человека выпустить его на волю, при условии, что всё человечество после этого окажется под угрозой уничтожения (в том смысле, что для ИИ мы будет примерно тем же, чем для нас являются тараканы)?

Так как у нас нет под рукой настоящего ИИ, то в эксперименте за него выступал сам Юдковский. Он утверждает, что в нескольких случаях выиграл, но не выдаёт транскрипт разговора.

Условия такие, что 1) ИИ не может предлагать человеку все земные богатства и блага за то, что тот его выпустит; 2) ИИ не может угрожать человеку, например тем, что наймёт бандитов, которые силой заставят его выпустить ИИ на волю. Там ещё куча всяких протоколов, но не будем усложнять. 

Что такого может сказать человеку ИИ, что всё-таки побудит человека выпустить его на волю?

Я вроде бы придумал кое-какой вариант, но сначала хотелось бы услышать мнения читателей.

UPD. Это немного похоже на самую первую серию Sherlock: "I will talk to you and then you commit suicide". Было жутко интересно, что же они там придумали, оказалось ерунда.

Оставить комментарий

Предыдущие записи блогера :
10.06.2022 Загадка
27.05.2022 Peace in our time
Архив записей в блогах:
а вы говорите "Хватит кормить" Да он им половину выручки делает... % за ЕдРо, в нисходящем порядке 99.5 Чеченская Республика 91.9 Республика Дагестан 91.6 Республика Мордовия 91 Республика Ингушетия 89.8 Карачаево-Черкесская Республика 85.3 ...
полагаю, картинка говорит сама за себя. а то что-то давно в этом сообществе не было графических ...
Отношения между Советским Со­юзом и Японией на протяжение 30-х и в начале 40-х годов были далеки от нормальных. Между обоими государствами неоднократно возникали вооруженные конфликты, основной причиной которых была недостаточно четко определенная граница. 18 сентября 1931 года ...
Он жил в славные времена Великой Америки,когда она была сосредоточена на себе, более коррумпирована и более "свободна", ближе к традициям и устоям, чем в конце 20 века;, когда цветные, и женщины и многочисленные "вторичные" мигранты "знали свое место", и США пользовались, преимущественно, ...
Тортилья - традиционное испанское блюдо. Рецепт очень прост и незатейлив, и открывает простор для кулинарных экспериментов. По своей сути это омлет с картошкой, но очень вкусный. Я буду готовить классическую тортилью , но здесь можно разнообразить вкус, например добавить горошек, ...