Кого должен спасать робот в случае ДТП: себя, владельца или случайного прохожего?

shakkar — 27.09.2016

Этим летом произошло то, что было лишь вопросом времени: автомобиль Тесла с нашумевшим модным автопилотом убил человека. Много лет назад все мы смотрели фильмы про Терминатора и Матрицу и думали: пффф… роботы, искусственный интеллект, войны миров - такого с нами точно не произойдет, это фантастика. Но фантастика становится не просто реальностью, а наступает уже в обозримом будущем.

Собственно как было дело - водитель Tesla Model S на высокой скорости двигался по шоссе, расслабившись и доверившись автопилоту. Но автоматика почему-то не отреагировала на внезапное появление фуры. Машина не снижая скорости нырнула под нее и … водитель погиб. Якобы светило солнце и система не распознала белый трейлер, появившийся впереди. Ну и сам водитель провтыкал (или его тоже ослепило солнце), ведь Тесла советует держать руки на руле и быть в полной боевой готовности даже на автопилоте.

Если вы подумали, что сейчас от автопилотов откажутся как дорогой, не очень практичной и даже опасной штуки, то я очень сомневаюсь. Во-первых, та же Тесла утверждает, что это первое смертельное ДТП за 200 млн километров на автопилоте (в среднем 1 смертельное ДТП в Штатах случается через каждые 150 млн километров). И я им почему-то верю, ведь человеческие ошибки (не говоря о глупостях, разгильдяйстве и безответственности) случаются гораздо чаще, чем технические. Во-вторых, назад дороги нет - мы шагнули в новый мир и с этим надо смириться. Думаю, вскоре отпадет потребность в услуге “трезвый водитель”.

Но в смертельном ДТП меня заинтересовало другое.

Через несколько лет автопилот станет неотъемлемой частью всех автомобилей и по дороге будут колесить машины без водителей (только с пассажирами). Или с “водителями” спящими за рулем. И представьте, например, что по каким-то причинам робот не справился с управлением. Ну мало ли, ослепило, какой-то мудак подрезал машину и автопилот пытался увернуться от удара, технически что-то подвело… В общем, авария неизбежна… И есть два варианта: либо спасти себя и своего пассажира, либо спасти ни в чем не повинную бабулю (мать с ребенком, соседа-собутыльника, просто прохожего). То есть вариантов других нет - либо ты либо они.

Как надо запрограммировать робота в таком случае: в первую очередь спасать себя? Но почему ни в чем неповинная бабушка должна страдать? Спасти бабушку? А как же инстинкт самосохранения?

Что такое по сути этот автопилот? Это робот с искусственным интеллектом, способным оценивать происходящие изменения на дороге и принимать решения на их основании.
Много лет назад, были американским писателем-фантастом Айзеком Азимовым были  сформулированы три закона робототехники:

• Робот не должен причинять вред человеку


• Робот должен повиноваться человеку


• Робот должен думать о своей безопасности (сразу после безопасности человека, ясное дело)

Мне кажется уже надо сформулировать четвертый закон робототехники, и он должен звучать в одном из нижеприведенных вариантов:

• Робот должен, в первую очередь, "беспокоиться" о безопасности своего хозяина (человека, который им пользуется). Это такой эгоистический вариант. Аргументация такая: каждый человек любит в первую очередь себя, поэтому если я пользуюсь какой-то техникой, будь то с интеллектом или нет, то она должна сначала меня защищать.


• Робот должен в первую очередь "беспокоиться" о безопасности окружающих и только затем своего Хозяина. Это такой гуманистический вариант. Аргументация такая: ни в чем неповинный человек не должен пострадать из-за твоего желания пользоваться техникой.

Как должен поступать робот в случае неизбежного ДТП?!

Оставить комментарий

Популярные посты:

• Ранее
• Архив