Остановить прогресс или остановить преступность?

giovanni1313 — 14.04.2025 Не прошло и 70 лет с момента написания Филипом К. Диком фантастического рассказа «Особое мнение» — как его идеи начинают воплощаться в реальности.
Рассказ повествует о будущем обществе, в котором мутанты-ясновидцы работают на специальное подразделение полиции, отдел допреступности. Мутанты предвидят все серьезные преступления еще до того, как люди их совершат — и полиция заранее арестовывает потенциального злоумышленника. Поэтому в будущем обществе царит закон и порядок. Количество преступлений сократилось в 500 раз. Правда, немалое количество людей по-прежнему отправляются в места не столь отдаленные — но еще до того, как они натворят бед.

И вот эта идиллия вдохновила британское Министерство Юстиции на создание своей версии системы предсказания преступлений. Мутантов-ясновидцев мы создавать пока не научились. Зато у нас полным ходом идёт так называемая ИИ-революция, и тема больших данных продолжает будоражить умы амбициозных политиков, бизнес-лидеров и функционеров из области консалтинга.

Поставить искусственный интеллект на службу правопорядку и общественному спокойствию? Что ж, благое начинание. Правда, первые шаги проекта ограничиваются только попыткой «предсказания риска» того, что человек в будущем совершит убийство.
Для таких оценок нужны данные. Много данных. Чем больше — тем лучше система будет справляться со своей задачей. И здесь мы сразу можем указать на критический недостаток проекта: он задействует только информацию, содержащуюся только в базах британского Минюста и МВД. И не претендует ни на что большее.

Что именно можно почерпнуть из тех баз? Классические имя, фамилию, дату рождения и национальность. По какому поводу человек засветился в базе (подозреваемый/потерпевший/свидетель и т. п.). Криминальную статистику: сколько у человека было уголовных дел, судимостей, штрафов и т. п. В каком возрасте он имел дела с полицией в этих ролях. По каким статьям или категориям. Был ли под веществами во время правонарушения. Имеет ли психиатрические отклонения. Является ли инвалидом. И далее в том же духе.

Для обучения модели британцы использовали выборку от 100 тыс. до 500 тыс. человек.
То есть, в общем-то, криминальную историю, историю взаимоотношений с органами правопорядка по этим данным проанализировать можно. Но не более того. Никаких чудес, никаких сногсшибательных предсказаний отсюда не получится. И, разумеется, никакой сверх-продвинутый «ИИ» для такого анализа не требуется.

Что, реалистично, можно получить от такого инструмента? Он даст некоторые корреляции. Некую размытую статистику. Скорее всего, небесполезную. В общей массе профилей, имеющихся в полицейской базе данных, вполне реально выделить группы «низкого риска» и «высокого риска», в которых вероятность совершения убийства будет различаться в 10-20 раз.

Но убийства в Великобритании, да и за ее пределами — редкое явление. В Великобритании совершается 1 убийство в год на 100 тыс. человек населения. То есть если у нас есть база данных на 500 тыс. человек, вполне реально, что за год группа с «низким риском» не совершит ни одного убийства. А группа с «высоким риском» — 3-5 убийств. Но внутри этой абстрактной группы, размером 50-100 тыс. человек, что-то более конкретное предсказать будет невозможно.
В связи с чем возникает вопрос. А как именно этот инструмент будет способствовать идиллии в области общественного порядка? Как именно будут использоваться эти предсказания? Теоретически, они могут быть использованы судебной системой. Влиять на то, кого приговорить к более длительному сроку, а кого допустимо освободить досрочно. Какой тип заключения выбрать. И так далее.

А на практике… На практике Министерство Юстиции не предлагает ничего, кроме общих фраз о «поддержке качественных решений» и «использовании самых передовых инструментов».

Потому что проект секретен.

Да-да, вы всё поняли правильно. Тема общественного порядка и общественной безопасности должна тщательно скрываться от этого самого общества. Нечего обществу знать, кто представляет для него угрозу. И почему. Мы, власти, и сами разберемся. Карательный аппарат в наших руках. Ваше холопское мнение никому не интересно.


Британские правозащитники, конечно, возмутились такой тайной разработкой репрессивных инструментов. И правильно сделали. Впрочем, дальше британские правозащитники начали возмущаться не только завесой секретности, но и сутью разрабатываемых технологий. Назвав проект «леденящим и антиутопическим примером». И принявшись ругать все подобные алгоритмические системы. “Снова и снова исследования показывают, что алгоритмические системы ‘прогнозирования’ преступности по своей сути ущербны“, — заявила один из авторов расследования София Льялл.

И вот эта часть критики вызывает у меня смешанные чувства. Потому, что, конечно, часть претензий правозащитников справедлива. Но общий настрой, луддитский догматизм «алгоритмы — это плохо, потому что хорошими они не смогут быть никогда» я поддержать не могу. Человеческие системы принятия решений — да, ущербны по своей сути. А вот алгоритмы — совсем другое дело.

Суть алгоритмов — в легком редактировании и легком масштабировании. И если у правозащитников есть претензии к алгоритмическим системам — то эти претензии надо оформлять в конструктивное русло и править, править, править алгоритмы до тех пор, пока не выйдет что-то годное. Алгоритмы предоставляют уникальные возможности изменить ситуацию к лучшему.
Льялл обзывает полицию и МВД «расистскими институтами». Она обвиняет разрабатываемую систему в том, что она усилит структурную дискриминацию в отношении расовых меньшинств и бедных слоев общества.

Но почему система впитает в себя расистские предубеждения? Потому что она обучена только на данных полицейской статистики. В которой нет места никаким тонкостям и нюансам. Значит, вместо опоры на полицейскую базу данных нам нужна более обширная, более полная база информации о потенциальных преступниках. Пресловутая биг дата. Данные о занятости и доходах, о покупках и платежах, о паттернах передвижений, о публикациях в соцсетях и посещенных веб-страницах, и даже о разговорах с другими людьми.

Если мы не хотим впитывать предубеждения полицейского аппарата — то нам не надо смотреть на человека глазами полицейского аппарата. А надо смотреть гораздо шире, со всех возможных точек зрения. Чем больше — тем лучше система будет справляться со своей задачей.
Иными словами, система ущербна не потому, что она слишком полагается на майнинг данных. А потому, что объемы и глубина этого майнинга абсолютно недостаточны для адекватной работы. Майнинг данных должен быть тотальным и бескомпромиссным. Неудовлетворительные результаты нынешних систем могут быть исправлены только масштабнейшим их расширением. А никак не отказом от таких проектов.

Разумеется, предложение усилить эффективность систем предсказания преступности с помощью тотальной слежки повергнет правозащитницу Льялл в ужас. Но мы можем парировать это тем, что лучше ужасный конец, чем ужас без конца. И Льялл не в состоянии предложить ничего, кроме «ужаса без конца».

Ее предложение — «люди, астанавитесь!» — не решает проблему преступности от слова совсем. В качестве альтернативы Льялл ратует за «по-настоящему поддерживающие социальные услуги».

Но как правительство должно понять, кто действительно нуждается в поддержке? И в каком объеме? И в каких именно мерах? И какие именно меры работают наиболее эффективно? Как? Сейчас социальные услуги правительства не в состоянии предотвращать преступность. Как остановка программ прогнозирования преступлений изменит ситуацию?


Льялл не знает ответов на эти вопросы. Зато мы — кого правозащитница презрительно именует «техно-солюционистами» — знаем. Алгоритмы. Мощные алгоритмы, щедро поддерживаемые ресурсами и совершенствуемые трудом тысяч лучших специалистов в области ИТ. Демократичные алгоритмы, доступ к которым будет у каждого гражданина, а не только у государственного репрессивного аппарата. И, конечно, полностью открытые алгоритмы. В которых каждый неравнодушный, кто действительно хочет изменить ситуацию к лучшему, вправе указать на недостатки и предложить идеи для их исправления.

В конечном итоге, задача общества — предотвратить трагические происшествия. А не просто поддерживать иллюзию справедливости, карая виновных. И если карать виновных можно и по старинке (уголовному праву в Британии почти две сотни лет), то для социального прогресса, для конструктивных изменений нам не обойтись без высоких технологий.

Способен ли репрессивный аппарат, Минюст и МВД, использовать эти высокие технологии, чтобы приблизиться к общественной идиллии? Не факт. Здесь опасения правозащитников о системных предубеждениях и институциональной близорукости могут быть оправданы.

Но вряд ли в этом стоит винить технологии. И уж точно без технологий невозможно создать альтернативу нынешней системе правопорядка, умеющей только бросать людей в тюрьмы.


_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!

Оставить комментарий

Популярные посты:

• Архив