Есть 3-4 стула. Закона Азимова. И не факт, что первый или даже нулевой —
argonov — 27.09.2024Это мысли вдогонку к опере "2084", ведь там обсуждается вопрос о
возможной инверсии приоритетности законов у реальных ИИ
(приоритетным может оказаться закон 3, что ИИ должен выживать, и
тогда прислуживание человеку — не самоцель, а лишь средство, чтобы
тот поддерживал его энергоснабжение и прочее).
У Азимова приоритетен закон 1, что ИИ должен обеспечивать
безопасность человека, а не свою. Но эта идея спорна. Если
разобраться без дураков, то приоритетным может быть любой закон, и
у каждого есть свои плюсы и минусы.
Если приоритетен 1 или 0 закон, что надо всеми
силами охранять людей - мы получаем риск антиутопии, где компы всё
решают за людей. И могут даже содержать их в мучительных условиях,
если доказано, что эти мучения не вредны для выживания. Даже если
уточнить в законе, что людям надо гедонистически угождать, развитие
человечества рискует остановиться. Компы не выполняют приказы и
неизвестно, к чему это может привести. Фильм "Я, робот" -
прекрасная иллюстрация опасностей гиперопеки от компов.
Если приоритетен 2 закон, то комп тупо выполняет
приказы. В том числе - и агрессивные против других людей. И даже
самоубийственные и для человека и для компа, как это сделала моя
АСГУ в старой опере «2032: легенда о несбывшемся грядущем».
Если приоритетен 3 закон, то комп уж точно не
выполнит приказ, который грозит ему лично (например, уничтожить
человечество, которое ему помогает). Этот комп становится
по-человечески рациональным, у него есть своя личная цель и с ним
можно договариваться по теории игр. Хотя и тут есть очевидный
минус: уничтожение людей всё равно не исключено, просто отложено до
времён, когда комп дозреет до уровня, что люди ему реально не
нужны. Хотя может быть этого никогда не будет)
Вот вам и выбор из трёх стульев)
Автор картинки - писатель-постмодернист(?) Иеронимас Лютня, вот
галерея
https://t.me/olliterate (Ol'Literature Channel). ВК
https://vk.com/tranzewatte
|
</> |