Про проблему вагонетки и инфантильность мышления

fau74 — 22.03.2017 Некоторое время назад в фейсбуке у Хэлки натолкнулся на упоминание "проблемы вагонетки" и некоторые комменты по теме. Свое мнение я высказал там же, но, полагаю, тема заслуживает некоторого количества слов не в рамках обмена липкими комментами. Да и давненько я не гнал на вольные темы, эта не хуже прочих.

Собственно, интересна не сама проблема вагонетки, хрен бы с ней с вагонеткой - интересны, как обычно, те бездны, что открываются, когда люди начинают тем или иным способом относиться к этой проблеме. Люди - дивный народ и источник вечного наслаждения. Насладимся же.

Собственно, вводная "проблемы вагонетки" проста. Есть некий сумасшедший мудак, который привязал пяток рыл на рельсы и спускает на них тяжелую вагонетку, которая их заведомо покрошит всмятку. Камней, досок и прочих крупных предметов для подложить на рельсы нет, ты сам слишком легкий для препятствия, прыгать под вагонетку бесполезно. Но между катящейся вагонеткой и привязанными есть стрелка, позволяющая перевести вагонетку на запасной путь - только эта сумасшедшая сволочь и там привязала кого-то на рельсах. Правда, только одного, а не пятерых. Вы - у рычага стрелки. До подхода вагонетки - считанные секунды. Ваши действия?

Понятно, что можно придумать с десяток способов скинуть именно вагонетку именно с рельсов именно сейчас - в конце концов, на механической стрелке для этого даже инструментов не надо. Но ситуации такого же структурного вида - если нифига не делать, погибнут люди, если что-то сделать, погибнут другие люди, во много меньшем количестве, но уже именно из-за твоих действий - не специфичны для вагонеток. Везде, где вообще может возникнуть угроза жизни, может возникнуть и ситуация "на кого ронять булыжник / выливать отраву / наезжать грузовиком / etc ?". И кому-то придется выбирать, кто выживет, а кого раскатает всмятку по предметам материальной культуры.

И вот в этом и ужас вагонеточной ситуации для ее субъекта. Не в том, что кто-то помрет. А в том, что тебе - именно тебе, не кому-то - нужно сделать нечто, прямым и непосредственным следствием чего будет чужая смерть. Или не сделать; тогда смертей будет больше, и ты будешь знать, что мог их спасти... но даже не попытался. И именно тебе, не кому-то, нужно выбрать, делать или не делать, дать умереть или убить самому. Для того, в чьей культуре жизнь человеческая суть высшая ценность - это разрушительный конфликт.

В культуре есть два обходных маневра, позволяющие разрешить подобный конфликт вокруг причинения смерти. Вариант раз - это причинение смерти безнадежному, легкая смерть тому, кто заведомо скоро умрет смертью более тяжелой и неприятной. Вариант два - это собственная смерть, героическое принесение себя в жертву ради других. Первый вариант в вагонеточную ситуацию не ложится никак, а невозможность второго отдельно оговорена. Не подходят.

А для того, чтобы рассуждать о большем или меньшем вреде в применении к человеческим жизням - нужно переломить в себе изначальную установку на бесценность жизни и начать воспринимать жизнь как нечто измеримое и счетное. Тогда становится можно сравнивать и отличать большее от меньшего. Но во многих это сидит слишком крепко - опорная аксиоматика так просто не ломается, на нее завязано много позднейших этических конструкций и поведенческих паттернов. Сама идея наручников стоит на том, что мало кто может сам себе намеренно выломать из сустава палец - сколько лет эффективно применяются? А ведь всего лишь палец, а не один из краеугольных камней этической конструкции личности.

Есть еще один вариант подхода к ситуации, ему заголовок этого поста обязан словом "инфантильность". Можно не выбирать, переводить ли куда-то стрелку, а сосредоточиться на устранении самой идеи того, что стрелку нужно куда-то переводить. Самоустраниться от этически невозможного выбора. Сложность тут заключается в том, что отсутствие действия - тоже один из вариантов выбора, вариант "не делать ничего" входит во множество возможных состояний, и отказ от выбора равносилен выбору "убить пятерых". Поскольку участие в выборе внутренне недопустимо - необходимо обосновать, замаскировать и замазать это самое участие, в том числе и от себя самого. Высокие принципы, философские концепции недеяния, сведенная нога, обвинения в сторону того самого мудака, руководства шахты, производителей вагонеток и мировой закулисы в целом - все годится. В результате я вроде как не у стрелки стою, а одиночно пикетирую против мировой закулисы, а что тем временем вагонетка людей подавила - так то мудак людей убил, бей мудака, а заодно руководство шахты и торгового представителя производителей вагонеток.

Для того, чтобы продвинуться немного дальше в плане понимания, вспомним, как меняется с возрастом подход человека к понятию проступка, вины и наказания.

Когда ребенок первый раз разбивает чашку - ему дают понять, что это плохо. Он понимает, что чашку бить не надо.
Но ловкости нехватает, и он разбивает другую чашку. Что делает ребенок? "Это не я! Она сама упала!"
Спустя какое-то время, малость подросши, ребенок осознает, что чашки сами не падают и надо более разумно подходить к назначению виноватых. "Это не я! Это Мурка чашку уронила!"
В более старшем возрасте осознается, что с ходу говорить "не я!" - это привлекать внимание, и надо быть последовательным в плане построения легенды. "Ты что делаешь? -- Я Мурку наказываю, она опять чашку разбила!"

Заметим, во всех этих моделях вообще не присутствует как понятие устранение последствий. Мама сметет осколки, папа купит новую чашку (специально для Хэлки: или наоборот). Это за рамками модели. Главное - не оказаться виноватым.

Взрослому же, наоборот, важно не то, кто разбил чашку. Важно, что осколки надо быстро смести, пока кошка не лизнула, и где-то добыть аналогичную чашку, а то чай вечером пить будет не из чего. В приоритете - устранение последствий.

Соответственно, если последствия неприемлемы, а уж тем более если сам факт отнесения себя к проблеме неприемлем - ситуация для взрослого неразрешима, и на первый план выходит мотивация ребенка. Не быть виноватым. Не отнестись к. Я вообще не в этой ситуации, я мимокрокодил.

Только вот не от всякой ситуации можно так спрятаться. Если вагонетка летит на тебя - плакат "Мудак, ты МУДАК!!!" не спасет. Зато если ты сбоку от рельсов - то можно поставить плакат и сделать вид, что за ним не видно рычага от стрелки. Я не мог повлиять на ситуацию, я сам в шоке. И вообще надо не про стрелку думать, а судить производителей вагонеток, а то чо они.

Сейчас вагонеточная тема опять обретает популярность - и по очень простой причине. Активно пропагандируется беспилотный транспорт. Этот транспорт по идее будет ездить по тем же дорогам, что и обычный. А значит, будет и попадать в аварии, и наезжать на пешеходов, и оказываться в ситуациях выбора между "давить пешехода" и "убить пассажира". До сих пор существование таких ситуаций всегда нивелировалось наличием водителя в каждой машине - иными словами, всегда был виноватый человек, с которого можно было взыскать ущерб и которого можно было подвергнуть наказанию. Если водителя нет - ситуация иная.

Сложность тут не выработать разумную логику - есть несколько подходов, со своими плюсами и минусами, к чему-то осмысленному свести их можно. Сложно другое. Роботу нужно заранее знать, как поступать в случае выбора, каковы приоритеты - и в том числе и когда объектом выбора является угроза жизни или смерти участников дорожного движения. Иными словами, read my lips, роботу необходимо заранее прописать, чья жизнь ценнее и кого надо спасать в первую очередь. Хотя бы на уровне "пассажир vs. пешеход". И прописывать это программист будет в спокойной обстановке, без аффекта, не будучи секундно ограниченным во времени - то бишь прикрыться стрессом, шоком и недостатком времени уже не получится. Логика выбора будет явная.

И основной конфликт не между различными моделями приоритизации - а между теми, кто пытается эту проблему решать, и теми, кто прячется от ее решения. Не важно, как именно решать: выработать приемлемый общий подход вполне реально. Неважно за чем именно прятаться: требование устранения подобных ситуаций как класса ничем не хуже и не лучше богопротивности ИИ.

Просто дети рано или поздно вырастают. И да, процесс этот зачастую болезненный.

Оставить комментарий

Популярные посты:

• Архив