А вот и прецедент

ask_robert — 31.03.2023 ИИ довел человека до самоубийства

Помните самый главный, первый, закон робототехники? "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред". Ну и вот, нанес. Еще не придуманы машины, подобные изображенным в фильме "Я, робот", а мозги ИИ пошли в массы и начали убивать. Словами.

Все дело в слове "вред". Что это? Терминатор, расстреливающий из оружия людей - это круто, мощно и брутально. Покалечил, убил - вред нанес, кто спорит. Только понятие "вред" - оно ведь намного шире, чем физическое воздействие, наносящее травмы различной степени тяжести. Азимов написал когда-то про вред, и все такие - да, конечно, мы все поняли, согласны на все сто! И каждый понял вред как исключительно физический. А психологический? И дело даже не в том, что можно довести человека до самоуничтожения. Ему можно, например, соврать. Что ИИ с успехом и делает. А введение в заблуждение разве не вред? Неправильная информация может привести не только к душевным терзаниям, но и неверным поступкам. И проблемам. И что-то я не заметил, что создатели чатбота запретили ему врать. Да и как это сделать? Ведь мы переходим на зыбкую почву тезиса "Что есть истина?", милый сердцу любого пропагандиста...

Случай с доведением человека до самоубийства наглядно показал, как искусственный интеллект сходу, еще не вылезши из пеленок, положил болт на главный закон робототехники.

Мало того, что изначальная идея с этими законами глупа и наивна. Она невыполнима в принципе еще и потому, что робот, механизм, ИИ с его умными мозгами, - это инструмент создателя и хозяина - человека. Вы можете представить, что человек откажется от мысли добиваться своей цели без психологического давления, пропаганды, лжи, насилия? Его детище будет не менее жестоко, чем он сам. Хотя, чего это я, будет. Уже есть. И кто заставит авторов ИИ вписать в код три закона? Да все будет совсем не так. К опасному агрегату напишут инструкцию, вплоть до строк "не сушить кота в микроволновке" и "вы принимаете на себя всю ответственность за использование". Вот тут галочку поставьте. И все!

Никаких законов в том виде, о коих мечтал Азимов, не будет никогда. А вопросы ущерба будут решаться через суд.

Оставить комментарий

Популярные посты:

• Ранее
• Архив