Оплата зарубежных сервисов и подписок 
Эмпатия в цифровом пространстве 
Без названия 
«Путешествие туда и обратно» 
Какое небо 
Меч-самотык 
Прага, день второй. На электровелосипеде по дорожью и неразгильдяйству, выдры и 
Пост — викторина: кто этот забавный и шустрый, не всегда послушный- мальчуган?
10.06.2022 —
Загадка
ИИ в ящике
catpad — 23.06.2022
Пост gianthare заставил меня надолго задуматься об эксперименте Элиезера Юдковского.
Вкратце, эксперимент состоит в том, что сверхчеловечески умный
искусственный интеллект заперт в ящике без доступа к сети и любой
другой возможности реплицировать себя в каком-либо виде. Его
охраняет человек, с которым он может общаться исключительно с
помощью текстового терминала (поэтому никакими «песнями сирен» ИИ
соблазнить человека не может).
Может ли ИИ заставить человека выпустить его на волю, при условии,
что всё человечество после этого окажется под угрозой уничтожения
(в том смысле, что для ИИ мы будет примерно тем же, чем для нас
являются тараканы)?
Так как у нас нет под рукой настоящего ИИ, то в эксперименте за
него выступал сам Юдковский. Он утверждает, что в нескольких
случаях выиграл, но не выдаёт транскрипт разговора.
Условия такие, что 1) ИИ не может предлагать человеку все земные
богатства и блага за то, что тот его выпустит; 2) ИИ не может
угрожать человеку, например тем, что наймёт бандитов, которые силой
заставят его выпустить ИИ на волю. Там ещё куча всяких протоколов,
но не будем усложнять.
Что такого может сказать человеку ИИ, что всё-таки побудит человека выпустить его на волю?
Я вроде бы придумал кое-какой вариант, но сначала хотелось бы
услышать мнения читателей.
UPD. Это немного похоже на самую первую серию Sherlock: "I will
talk to you and then you commit suicide". Было жутко интересно, что
же они там придумали, оказалось ерунда.
Сохранено
|
|
</> |
Оставить комментарий
Популярные посты:
Предыдущие записи блогера :
Архив записей в блогах:
Вернемся же наконец к книге В.Черносвитова "Сейф командира "Флинка"". О. а вот и положительный прибалт (латыш?) - Ян Баугис. "Сумел сообщить, а точнее — намекнуть нам, что с начала войны является единственным человеком, знающим о сути чрезвычайно важного секрета и единственным хранителем ...
У нас отмечается 18 ноября. Придумали его когда начали раскручивать Вотчину в Великом Устюге. И до последних лет — это был один из туристических поводов, для того чтобы съездить в те места. В этом году как-то особого ажиотажа день не вызвал, а туроператоры считают, что ценник посещения ...
Вверху - спутниковый снимок радиолокационной установки ПВО Сирии к югу от Дамаска ( 4 марта 2018 г.), который, возможно, был поражен израильским авиаракетным ударом 10 февраля 2018 года. Внизу - спутниковый снимок радиолокационной установки ПВО Сирии к югу от Дамаска ( ...
И сия гнусь прямо в меню быстрого доступа залезла. ZOGчем, спрашивается - всё равно по-Мордорски не понимает)) Хуже мейлрушной Маруси, чесслово. Хотя нет. Хуже мэйлрушных поделок пока ничего не придумали) К этому: ...
Сегодня был небольшой шопинг. Весна зовет! Купила розовую футболку для лета, очень освежает. Сколько у меня уже было розовых футболок и кофточек:) Люблю определенные цвета. Они всегда есть в моем гардеробе. Заходя в магазин, выхватываю их взглядом, даже если мне ничего не нужно. У ме ...
