ИИ против человека - чем нам грозит отказ от трех законов робототехники Азимова

prostopasha1914 — 11.06.2021

Начну с истории, если кто подзабыл или (о, ужас!) - не читал Азимова.

В первой половине ХХ века в сознании людей сидел страх, что в процессе развития техники неизбежно появление "разумных роботов", Точнее, человечество опасалось, что роботы в будущем рано или поздно могут начать убивать homo sapiens. Так что нас в этой близящейся новой эпохе ждала печальная судьба неандертальцев. Перспектива, прямо скажем, так себе.

Разумеется, с подобными страхами надо было что-то делать (хотя бы потому, что они легко могли перерасти во всеобщую истерию).
И "исправить ситуацию" решил Айзек Азимов. Для чего в 1942 году придумал и сформулировал своеобразные обязательные каноны  поведения любых роботов. Так появились легендарные 3 закона робототехники.

Закон 1. Робот не может нанести человеку вред, или же своим бездействием допустить, чтобы человеку был причинен вред.

Закон 2. Робот должен подчиняться абсолютно всем приказам, отдаваемым ей человеком. Исключением могут быть только те приказы, которые прямо противоречат I закону робототехники (запомните - это крайне важно!).

Закон 3. Робот обязан заботиться о своей безопасности только в той степени, в которой эта забота не будет противоречить первым двум законам.

Все эти законы Азимов впоследствии наглядно продемонстрировал в своих произведениях, указывая на все моменты, почему даже малейшее отступление от выведенных им Законов абсолютно недопустимо. Вот только... вы серьезно думаете, что мудрого еврея Исаака Юдовича кто-то послушал? Ага... А потому -

Последствия существования недействующих законов

Я намеренно подчеркну, что придуманные законы робототехники так и не были ратифицированы в реальном мире ни одной компанией по производству роботов и ни одним государством.

Хотя некоторую роль в нашей жизни они все-таки сыграли. Именно благодаря существованию данных законов мы полностью свыклись с пониманием, что на Земле, параллельно с нами, могут существовать и другие “разумные” - пусть даже искусственно созданные нами самими. Более того, человечество успокоило себя убеждением, что если роботы и станут когда-либо разумными, они всегда будут находиться на положении эдакой "низшей расы" (прислуги или же послушных рабов)

Почему? Да потому что именно такой статус роботам прописывал I закон робототехники: полное повиновение человеческим приказам. Роботы не могли бы причинять людям даже малейшего вреда, следовательно сосуществование с разумными машинами будет для человека полностью безопасным и комфортным.

Вот только одно мы упустили (то ли случайно, то ли преднамеренно). Все 3 наших закона были, вообще-то, полностью шовинистическими, дискриминационными и расистскими. Ведь в "человеческую программу" никто не закладывал запретов относительно убийства или причинения вреда роботу, нет?. А вот разумной машине "почему-то" это было строго-настрого запрещено.

Конец эпохи расистских законов

Правда, в процессе дальнейшей эволюции МЫ САМИ, собственноручно, законы Азимова и уничтожили.И, кстати - после этого наша смерть будет выглядеть не так, как Шварц с дробовиком. А примерно вот так:

Фото: дрон-убийца

А началось все с уничтожения 2-го закона несколько десятилетий назад: именно тогда мы стали создавать и использовать дроны (т.е. роботов), способных с воздуха приносить вред и убивать других людей по человеческому приказу. И все это прошло как-то незаметно для человечества. Ну, убивают люди с помощью роботов. Да пусть убивают. Какая хуй разница – дроном или топором?

Да вот ни хрена, ребята. Потому что весной 2020 года был уничтожен и I закон робототехники. Когда автономный дрон в Ливии впервые, полностью самостоятельно, без участия оператора, принял решение и убил человека.

И что сделало человечество? Да ничего - отнеслось к этому с абсолютным спокойствием. Даже не задумавшись о том, что, по сути, произошел глобальный перелом в истории. Я бы даже сказал - смена целых эпох. Потому что роботы начали убивать людей самостоятельно. Без приказа других людей, по своей собственной инициативе. Осмысленно и разумно.

И не надо иронически улыбаться. Над первыми аэропланами, с которых пилоты вручную кидали вниз бомбочки, поначалу тоже смеялись.А всего через несколько десятков лет авиация превратилась в смертоносную силу.

Так что, дорогой "господствующий вид разумных существ", у меня для вас плохие новости. Или мы программируем роботов тремя законами робототехники, или мы можем пропустить тот момент, когда история человеческой цивилизации окажется "в руках" роботов, наделенных мощным ИИ, но без заложенных в них законов Азимова. Об этом, кстати, серьезно предупреждал не только очень неглупый Азимов. Но и Стивен Хокинг. А из ныне живущих - Илон Маск, Юваль Ной Харари  и некоторые другие ученые и инженеры, явно не обделенные интеллектом и способностью смотреть в будущее.

И если мы вовремя не остановимся, то в отличие от наивных кино про Терминаторов, шансов у нас не будет. Ни одного.

Оставить комментарий

Популярные посты:

cristensald

Gizbo казино – что нужно знать об этой площадке

colonelcassad

Русы против ящеров 2

nathoncharova

«Без особой причины?»: Почему летом осы ненавидят людей

colonelcassad

Период замедления YouTube

katya_kch96

Букашечка и баночка

morena_morana

Почему раньше никто не слышал о «яжематерях», а сейчас они всем мешают?

amarok_man

Власти алтайского села пожаловались в полицию на голых туристок и их

iam_krasnoyarsk

Про мозг-2

simart

годовщинка

• Ранее
• Архив