Моральная машина: давить нельзя помиловать

scinquisitor — 30.11.2016 Ученые из MIT придумали тест под названием «Моральная машина». В ходе тестирования вы должны решить за беспилотную машину ряд этических дилемм. Как ей вести себя на дороге, если катастрофа неизбежна и кто-нибудь должен погибнуть? Кого спасать – водителя или пешехода? Человека или животное? Мужчину или женщину? Младенца или старика? Врача или преступника? Стройную девушку или полного мужчину?

Когда интернет-пользователь отвечает на последний вопрос, ему сообщают итоги «тестирования». Когда я увидел свои результаты, то пришел к выводу, что ученые из MIT совсем не поняли причин моих решений. Например, они указали, что я больше ценю жизнь женщин, чем жизнь мужчин, но это чистой воды совпадение – на пол людей я вообще не обращал внимания. К счастью, авторы теста предлагают написать объяснение своим ответам, что я и сделал. В итоге я, как мне кажется, сформулировал нравственный закон, которому следую в жизни.

Когда-то Кант сформулировал категорический императив: «Поступай так, чтобы максима твоей воли [правило, по которому ты действуешь – примечание автора] могла бы быть всеобщим законом». Эта формулировка мне в свое время очень понравилась, но показалась слишком общей.

Свои решения в автомобильной дилемме я принимал исходя из следующего закона: каждое правило, по которому машина принимает решение, должно стимулировать более ответственное поведение людей, знающих об этом правиле, и в конечном итоге уменьшить число подобных этических дилемм. Задача правил – не столько снизить количество смертей в конкретном ДТП, сколько сделать мир более безопасным для всех.

Если пешеход нарушает закон (переходит дорогу на красный свет), другие не должны от этого пострадать. Даже если толпа беременных женщин с детьми и животными переходит дорогу в неположенном месте, то машина имеет право их всех давить. Даже если пассажир – толстый бездомный старик. Если все будут в курсе, что машина не остановится, встав перед выбором, то пешеходы будут аккуратнее. В итоге машине не придется ничего решать.

Впрочем, если пешеходы переходят дорогу по правилам, а машина слетела с тормозов, то ответственность на ее владельце – надо было вовремя проходить техосмотр. Виноваты и создатели автомобиля, поэтому из-за инцидента рейтинг надежности их продукции упадет, и спрос на небезопасные автомобили снизится. Правило должно стимулировать создание и выбор качественных машин, ответственность автовладельцев и автопроизводителей. А вот пешеходов наказывать за чужие ошибки нельзя.

Пол и возраст людей, которые погибают в ДТП, значения не имеют. А вот спасти больше жизней важно, но только в том случае, если не действует какое-то из вышеприведенных условий. Даже если нас очень много, мы не имеем права пренебрегать ответственностью и законом. Однако если в любом случае страдают виновные, то стоит спасти больше людей. В случае с невиновными следует сделать то же самое.

Если машина предпочтет спасать людей, имеющих высокую ценность для общества (учителей, врачей, ученых), а также людей, следящих за своим здоровьем – это будет неплохой стимул для всех получать образование и заниматься фитнесом (в условиях, если общество позволяет всем получать образование). Но никакой уровень здоровья и социальной значимости не должен позволять нарушать правила и безнаказанно создавать лишние моральные дилеммы для машин.

Если преступник имеет высокий шанс умереть в ДТП, это может стимулировать снижение преступности. Машинам стоит ценить жизнь преступника меньше, но это не отменяет перечисленных выше правил.

Животных я в уравнениях не рассматривал. За них отвечают хозяева. Во всех остальных немногочисленных случаях машине вмешиваться незачем.

Предложенные мной правила кое-что подсказывают об адекватных мерах наказания. Наказание должно существовать в том случае, если соблюдается одно из условий:

1. Существование такого наказания достоверно снижает количество желающих совершить преступление;
2. Наказание достоверно стимулирует или вынуждает провинившегося больше не совершать преступления;
3. Наказание носит материальный характер и компенсирует материальные затраты пострадавшей стороны.

Я считаю, что автоматическая машина просто обязана появиться на дорогах, как только испытания покажут, что она вызывает меньше ДТП, чем люди. Машина не будет ездить пьяной. Она не будет нарушать правил и подрезать другие машины. С учетом развития технологий, полагаю, что беспилотник будет большим завоеванием для человечества.

Другие рассуждения о морали: http://scinquisitor.livejournal.com/88027.html

Оставить комментарий

Популярные посты:

• Ранее
• Архив