Есть 3-4 стула. Закона Азимова. И не факт, что первый или даже нулевой —

топ 100 блогов argonov — 27.09.2024

Это мысли вдогонку к опере "2084", ведь там обсуждается вопрос о возможной инверсии приоритетности законов у реальных ИИ (приоритетным может оказаться закон 3, что ИИ должен выживать, и тогда прислуживание человеку — не самоцель, а лишь средство, чтобы тот поддерживал его энергоснабжение и прочее).

У Азимова приоритетен закон 1, что ИИ должен обеспечивать безопасность человека, а не свою. Но эта идея спорна. Если разобраться без дураков, то приоритетным может быть любой закон, и у каждого есть свои плюсы и минусы.

Картина Иеронимаса Лютни (подробнее ниже)
Картина Иеронимаса Лютни (подробнее ниже)

Если приоритетен 1 или 0 закон, что надо всеми силами охранять людей - мы получаем риск антиутопии, где компы всё решают за людей. И могут даже содержать их в мучительных условиях, если доказано, что эти мучения не вредны для выживания. Даже если уточнить в законе, что людям надо гедонистически угождать, развитие человечества рискует остановиться. Компы не выполняют приказы и неизвестно, к чему это может привести. Фильм "Я, робот" - прекрасная иллюстрация опасностей гиперопеки от компов.

Если приоритетен 2 закон, то комп тупо выполняет приказы. В том числе - и агрессивные против других людей. И даже самоубийственные и для человека и для компа, как это сделала моя АСГУ в старой опере «2032: легенда о несбывшемся грядущем».

Если приоритетен 3 закон, то комп уж точно не выполнит приказ, который грозит ему лично (например, уничтожить человечество, которое ему помогает). Этот комп становится по-человечески рациональным, у него есть своя личная цель и с ним можно договариваться по теории игр. Хотя и тут есть очевидный минус: уничтожение людей всё равно не исключено, просто отложено до времён, когда комп дозреет до уровня, что люди ему реально не нужны. Хотя может быть этого никогда не будет)

Вот вам и выбор из трёх стульев)

Автор картинки - писатель-постмодернист(?) Иеронимас Лютня, вот галерея
https://t.me/olliterate (Ol'Literature Channel). ВК https://vk.com/tranzewatte

Оставить комментарий

Архив записей в блогах:
Ещё недавно они уверенно смотрели в будущее, испытывали гордость за страну и послушно голосовали за любимого президента, который поднял её с колен. Их не слишком беспокоила растущая коррупция и демонтируемая демократия, социальная стабильность и гарантированная пайка были в приоритете. ...
Разговаривая с теми, кто отдохнул/отдыхает у морей в этом году, прихожу к выводу, что стало нифига не бюджетно путешествовать самостоятельно. А если ехать организованно, то придётся ограничиваться тем, что вошло в набор. Омлет за 15$ за пределами отеля или надувной матрас за те же 10-15$ ...
Гуам недаром зовется «райским наслаждением»: белоснежный песок, кристально чистая вода, вдоль побережья — рощи кокосовых пальм. Гуам — это одновременно музей многовековой культуры, земля обетованная для дайверов и серфингистов и настоящее Эльдорадо для шопоголиков. В Гуаме ...
Сегодня всю ничь простоял на Майдане. Хотел переконаться, что там действительно стоят одни бездельники. И что я вам скажу! Это шабаш какой-то. Стоят миллионеры-оптимизаторы разом с миллиардерами-оптимизаторами, спивают песни, ругаются матом. А ...
                    Называть Порошенко Дякулой несколько однобоко. Дякуе вин только половину своего рабочего времени, а оставшуюся же – обицяе. Так что, двойная фамилия Дякула–Обицяльский ему куда более к лицу. Или к тому, что у него ...