Социальное ранжирование в Израиле

qmellory — 24.01.2022 В Британии отменяют все ограничения, а в Австрии вводят принудительную вакцинацию. А что в Израиле – флагмане борьбы с пандемией и "лабораторией Pfizer" (это цитата).

Сейчас у нас ведутся споры об отмене зелёных паспортов. Внезапно! Хотя ещё месяц назад обещали миллионы заболевших, а полгода назад наш новый премьер называл противников вакцинации "врагами нации".

Недавно в одном уважаемом мною журнале было опубликовано мнение-интервью врача из Израиля. В частности, этот человек сказал, что на правительственном сайте с апреля прошлого года висит документ о возможности введения в нашей стране системы Социального ранжирования, подобной Китайской.

Я решил поискать, и к своему ужасу и бессильной ярости довольно быстро нашёл. Вот здесь. Добро пожаловать в концлагерь единственной демократической страны на Ближнем востоке. Читая этот документ, может создаться впечатление, будто бы наше правительство беспокоится о неприкосновенности частной жизни и свободе своих граждан, но!

Но во-первых, сам факт появления такого документа говорит о том, что такая возможность рассматривалась.

А во-вторых, вот это:

Неприкосновенность частной жизни считается необходимым условием существования свободного и демократического общества, поскольку она позволяет человеку самостоятельно принимать решения относительно определённых социальных норм вне критического рассмотрения, а не слепого повиновения.
Однако, как и все права, право на неприкосновенность частной жизни не является абсолютным, и вполне могут быть обстоятельства, при которых другие интересы, такие как защита общественного здоровья в контексте борьбы с вирусом короны, оправдывают определённое нарушение права на неприкосновенность частной жизни.

---

Машинный перевод.

Социальный рейтинг с точки зрения права на неприкосновенность частной жизни:
Общий обзор использования систем социального оценивания

Введение
В данной статье делается попытка пролить свет на феномен использования технологий «социальной градации» граждан и жителей для достижения социальных, государственных или иных целей, а также влияние этой градации на право на неприкосновенность частной жизни в частности и на общество в целом. Не следует упускать из виду, что этот документ был написан на фоне коронакризиса, когда в Израиле и во всем мире рассматриваются различные решения по искоренению эпидемии, некоторые из которых могут достичь такого рейтинга.

Естественно, использование технологических систем социального ранжирования может повлечь за собой серьёзное нарушение права на неприкосновенность частной жизни людей. Ввиду разнообразия глобальных и местных инициатив в этой области в данном обзоре будут представлены основные моменты проблемы как в общем контексте, так и с конкретной ссылкой на проблему использования систем социального ранжирования как части системы государственный надзор и контроль.

Общее
Социальный рейтинг — это общее название систематического и непрерывного рейтингового механизма граждан или жителей, либо участников определённой общей аудитории по информации о них, которая собирается из различных источников и сопоставляется с другими видами информации, которая может воздействовать на различные стороны жизни, по установленным параметрам и представляя своё «место» в рейтинге по отношению к другим рангам. Таким образом, системы социальных рейтингов позволяют (общественным и частным) факторам использовать информацию о конкретном человеке для ранжирования в соответствии с различными показателями по сравнению с другими людьми, где этот рейтинг может быть прозрачным для различных факторов, включая других людей, и влиять на разные аспекты жизни того же человека, от которого была собрана информация. Эпоха больших данных и способность организаций собирать большой объем информации о людях и анализировать их в соответствии с различными требованиями и показателями приводят к все более широкому использованию систем социального ранжирования.

Социальный рейтинг как часть системы государственного надзора и контроля
В последние годы и вслед за развитием систем информационных технологий мы стали свидетелями использования систем социального ранжирования в рамках работы механизма контроля и наблюдения за гражданами и жителями, находящегося в ведении государственных структур (государственных органов и органов местного самоуправления) и частных лиц, призванных «обучать» людей правильному поведению.

Основным примером в этом контексте является Китайская система социального кредита (SCS). По данным Kahana et al., китайская рейтинговая система, которая начала действовать на национальном уровне в 2014 году, собирает данные из различных источников «для мониторинга и просвещения граждан страны». «В статье, опубликованной на эту тему в 2017 году, говорится, что целью системы является «оценка благонадёжности китайских граждан (благонадежность граждан Китая) (выполнение их обещаний и требований правовых норм, моральных норм и профессиональных и этических стандартов». Проще говоря, цель программы – вознаграждать граждан за поведение, которое режим воспринимает как «хорошее», и наказывать за поведение, которое таковым не является. По данным различных изданий, предполагаемые «социальные» правонарушения включают уклонение от уплаты налогов или штрафов, а также публикацию неверной информации и употребление наркотиков, а также мелкие правонарушения, такие как курение в поезде или выгул собаки без поводка.

Согласно различным публикациям и отчетам, для ранжирования китайский режим использует разные технологии для мониторинга граждан и бизнеса и алгоритмического анализа информации, поступающей из разных источников. Таким образом, китайский режим использует информацию, собранную с камер наблюдения, установленных в публичном пространстве, и из данных серфинга китайских граждан в сети, которые находятся под постоянным наблюдением режима. Яния Костка, профессор китайской политики в Свободном университете Берлина, определила эту систему как «инфраструктуру наблюдения», предназначенную для социального управления.

Часть информации якобы добровольно собирается муниципальными компаниями, которые предоставляют приложения, ранжирующие граждан в зависимости от их деятельности. По общему признанию, граждане не обязаны загружать и использовать эти приложения, но поскольку высокий рейтинг в рейтинге гарантирует такие-то и такие-то преимущества (и, вероятно, также в свете этих и других культурных аспектов (в этом процессе принимают участие многие граждане Китая) . Но не только государственные органы ведут рейтинг китайских граждан, крупные коммерческие компании, в том числе Alibaba Trade Corporation, также выстраивают социальную иерархию этих граждан, основанную на технологическом мониторинге их поведения. Кроме того, эти компании, а также муниципальные компании передают информацию о своих клиентах, собранную и проанализированную ими, с режимом в рамках внедрения SCS.

«Социальная» оценка, присуждаемая всем гражданам, напрямую влияет на многие ключевые стороны их жизни. Так, гражданин с высоким социальным рейтингом может пользоваться, например, скидками на проезд в общественном транспорте или сокращением времени ожидания в больницах, а гражданин с низким рейтингом может столкнуться с различными ограничениями, такими как возможность покупки квартир, авиабилетов и поездов. , или зачислите его детей в предпочитаемые школы. По сообщениям СМИ, из указанных рейтингов в 2018 году китайский режим запретил гражданам покупать 17,5 млн билетов на самолёт и 5,5 млн билетов на поезд. 290 000 граждан были лишены руководящих должностей.

В настоящее время в рамках борьбы с коронавирусным кризисом китайские власти используют различные технологии наблюдения для ранжирования граждан в соответствии со степенью риска заражения этой болезнью. Система, основанная на технологии ИИ (AI), выполняет алгоритмический анализ различных данных о гражданах, таких как их географическое положение и история болезни. В зависимости от результатов анализа система выдаёт каждому гражданину Китая «код здоровья», который маркируется визуально (красным, жёлтым или зелёным цветом) и выражает степень его риска. Рейтинги граждан в этом контексте могут влиять на определённые аспекты их поведения в публичной сфере. Например, по данным различных изданий, в Китае есть города, где на улицу допускаются только граждане с низким уровнем риска (т.е. зелёные).

Социальный рейтинг в свете права на неприкосновенность частной жизни: случай Израиля
Социальное ранжирование граждан и/или резидентов явление не новое. В Израиле государственные органы проводят ряд рейтингов деталей на основе различных индексов и данных. Например:

1. Центральное статистическое бюро ранжирует местные органы власти в Израиле по социально-экономическому индексу проживающего в них населения (социально-экономический рейтинг). Этот рейтинг призван помочь улучшить политику центрального правительства по отношению к местным органам власти и дает возможность количественно и объективно взглянуть на аспекты власти, а не на аспекты жизни человека (гражданина и резидента).

2. Другие индексы являются рейтинговыми показателями военнослужащих АОИ, такими как АОИ (Группа качества) и начальный психотехнический рейтинг (ДПР). По большей части эти показатели не доводятся до сведения общественности и не передаются другим сторонам и, следовательно, не влияют на жизнь людей после окончания военной службы.

3. Различные страны и органы по всему миру используют различные социальные рейтинги, основанные на анализе информации о людях, таким образом, что это может иметь экономическое влияние на их жизнь. Ключевым примером в Израиле является рейтинговая система кредитных данных, регулируемая Законом о кредитных данных 2016 года, которая собирает данные о кредитных обязательствах физических лиц, граждан и резидентов Израиля, а также о том, как эти обязательства погашаются. Этот рейтинг должен помочь кредиторам определить, следует ли предоставлять конкретный индивидуальный кредит, а также определить его условия. Этот рейтинг также не передаётся другим организациям, которые могут использовать его дополнительно, что влияет на человека.

В рамках попытки Государства Израиль справиться с вирусом короны и особенно в эти дни, когда предпринимаются первые попытки смягчения карантина, можно рассмотреть ряд технологических решений, основанных, среди прочего, на рейтинге, указывающем на здоровье каждого человека и риск заражения другими вирусами. Так, например, как явствует из публикаций в СМИ, рассматривается разработка системы концентрации информации о шансах заражения граждан и жителей Израиля. Согласно изданиям, система будет основана на технологии искусственного интеллекта, который будет хранить информацию о гражданах и резидентах из различных источников, анализировать её и выставлять каждому гражданину и жителю «балл» от 1 до 10 («рейтинг заражения»), которая выражает степень риска того, что такая система, основанная на сочетании местоположения и продолжительности пребывания (а возможно, и на различных данных, таких как медицинские сведения), легко может стать системой широкого социального ранжирования, путём добавления дополнительных переменные, такие как: возраст, пол, сексуальные предпочтения, история болезни, происхождение, религия, место работы, политическая позиция и многое другое.

Использование технологических систем социального ранжирования, в том числе в контексте борьбы с коронавирусом, является механизмом, который обязательно включает серьёзное нарушение неприкосновенности частной жизни граждан и жителей.

Поэтому Управление по защите конфиденциальности считает, что социальное ранжирование является исключительным решением, которого следует избегать, насколько это возможно, и что до тех пор, пока рассматривается возможность принятия таких решений, будет необходимо реализовать их при всех условиях, требуемых законом. Менее оскорбительное, прозрачное, жёсткое ограничение использования по назначению и многое другое.

Ниже мы попросим указать на возможные проблемы при использовании, в основном с точки зрения права на неприкосновенность частной жизни. Сначала мы разместим строительные блоки в отношении права на неприкосновенность частной жизни.

Израильское законодательство рассматривает право на неприкосновенность частной жизни как производное конституционное право человеческого достоинства, а также гражданское право, выражающее основную свободу человека «быть оставленным в покое». Конфиденциальность в этом контексте соответствует необходимости для людей оставаться анонимными, а также быть защищёнными от неправомерного вмешательства государства и других факторов в их жизнь. Это восприятие отражено в израильском законодательстве, в частности, в положениях раздела 2 (1) Закона о защите частной жизни 5741-1981, который определяет вторжение в частную жизнь как «обнаружение или отслеживание лица, которое может его беспокоить». Конфиденциальность также выражает контроль человека над информацией, касающейся его. В этом смысле человек несёт ответственность за то, какая информация о нем раскрывается и кому. Этот аспект отражён в разделе 1 Закона о защите частной жизни, в котором говорится, что «лицо не может нарушать частную жизнь другого лица без его согласия».

Неприкосновенность частной жизни считается необходимым условием существования свободного и демократического общества, поскольку она позволяет человеку самостоятельно принимать решения относительно определённых социальных норм вне критического рассмотрения, а не слепого повиновения.

Однако, как и все права, право на неприкосновенность частной жизни не является абсолютным, и вполне могут быть обстоятельства, при которых другие интересы, такие как защита общественного здоровья в контексте борьбы с вирусом короны, оправдывают определённое нарушение права на неприкосновенность частной жизни. Конфиденциальность – это понятие регулируется, в частности, статьёй 18 Закона о защите частной жизни. Однако такое нарушение должно соответствовать общим принципам деятельности на основе разумности и добросовестности, а в отношении государственных органов - ещё и требованию соразмерности.

Риски вторжения в частную жизнь, связанные с функционированием систем социального ранжирования
На базовом и базовом уровне сбор информации о гражданах и резидентах государственными органами и ее обработка без получения согласия и без законного источника полномочий может представлять собой акт слежения за физическими лицами, посягающий на их неприкосновенность частной жизни. Эта ситуация особенно проблематична в условиях, когда неясно, как обрабатывается информация и какие дополнительные потребности, если она вообще может быть использована.

Кроме того, работа с массивом социальных рейтингов требует хранения личной и конфиденциальной информации обо всем населении Израиля, поступающей из разных источников, в одной системе (или одной базе данных). Ввиду того, что информация должна быть отнесена к конкретным лицам, такая информация в принципе не может проходить процедуру признания невиновности или храниться в агрегированном виде. Такая ситуация вызывает опасения по поводу возможности утечки информации со всеми вытекающими отсюда последствиями. Эта проблема особенно актуальна, если информация собирается и обрабатывается частными компаниями или с их участием. Эта ситуация, которая также требует передачи информации от частных компаний государственным органам, вызывает опасения утечки и раскрытия информации.

Кроме того, если такие системы хотя бы в какой-то степени эксплуатируются частными компаниями, это означает, что в рамках одной системы будет не только централизовано большое количество секретной информации обо всем населении страны, эта информация, по сути, будет находиться в руках частной компании, как часть огромной базы данных, используемой ею для исследования и разработки алгоритмов искусственного интеллекта. Такая ситуация создала бы проблемную возможность для компании использовать информацию в своих собственных целях, то есть не в тех, для которых информация была собрана в первую очередь.

Более того, ситуация, когда решения о физических лицах принимаются на основе рейтинговой системы, основанной на сложных технологических инструментах, которые недостаточно прозрачны, может быть проблематичной, так как может привести к тому, что решения относительно физических лиц будут приниматься автоматически, на основе статистических моделей, не подвергаясь сомнению или известности. Какая информация взвешивается, чтобы их получить. Эта ситуация может ущемить самостоятельность и выбор лица, а также затруднить получение и обжалование принятых по его делу решений, существенно влияющих на его жизнь, некоторые из которых могут быть даже предвзятыми и ошибочными.

Социальный рейтинг по своей природе предназначен для ранжирования населения по различным показателям. Целью этого рейтинга является создание различия между людьми, которое влияет на их жизнь, а иногда даже на отношение к ним различных факторов (частных, общественных или государственных). Безусловно, ранжирование граждан и жителей на основе различных данных, в том числе состояния их здоровья, может открыть путь для многих проблем, связанных, в том числе, с вторжением в их частную жизнь.
Использование социального рейтинга для уменьшения распространения вируса короны может привести к созданию скользкой дорожки, которая приведет к созданию различных социальных, добровольных обязательств по отношению к другим аспектам повседневной жизни и, следовательно, к любому мышлению в этом направлении. следует делать очень осторожно.

Так, например, гораздо проще, в целях снижения количества дорожно-транспортных происшествий, можно представить предложение, согласно которому водители и владельцы автомобилей будут обязаны наносить ударный код, численно, свою степень осторожности и соблюдение правил дорожного движения. , Заправочные услуги. Точно так же частные компании могут просить граждан принять участие в социальных рейтингах, чтобы получить те или иные преимущества. Позднее эти компании также могут поделиться данными рейтингами с государственными органами. Достаточно вернуться к обзору китайской SCS, представленному ранее в этом документе, чтобы понять значение этого и возможные последствия для израильского общества.

В связи с этим следует иметь в виду, что более широкое использование технологий наблюдения может иметь нормализующий эффект. По мере того, как использование технологий слежки становится все более приземленным и распространенным, общественность, в конце концов, привыкает к такой слежке, рассматривая ее как «нормальное» явление. Такой ход может произойти и в отношении существования таких-то и таких-то социальных рангов. Беспокойство состоит в том, что люди, привыкшие к слежке — и в контексте рассматриваемого социального положения — усвоят слежку и иерархический взгляд таким образом, что сделают их источником собственного подчинения. Такой шаг может стать ключевым фактором в превращении израильского общества в «общество надзора» (Surveillance Society), и все это подразумевает нанесение ущерба автономии населения Государства Израиль и демократическому характеру израильского общества как целое.

Усвоение принципов проектирования конфиденциальности в контексте борьбы с вирусом короны
Обращение властей с вирусом короны может быть связано с нарушением конфиденциальности. Правда, есть обстоятельства, оправдывающие вторжение в частную жизнь. Однако, как кратко отмечалось ранее, любая деятельность органов государственной власти, которая может посягать на неприкосновенность частной жизни лиц, в том числе в контексте борьбы с коронавирусом, должна соответствовать ряду условий:

Таким образом, вначале орган государственной власти должен действовать исключительно в соответствии с полномочиями, возложенными на него законом. В этом смысле, согласно ограничительной оговорке в Основном законе: человеческое достоинство и свобода, поскольку это действие, нарушающее неприкосновенность частной жизни, это действие должно преследовать надлежащую, соразмерную и регулируемую законом цель.

Кроме того, орган государственной власти должен действовать в соответствии с принципом объективности, который требует, чтобы сбор информации осуществлялся исключительно для той цели, для которой она была собрана. Государственный орган должен стараться, насколько это возможно, основывать свою деятельность на согласии отдельных лиц на сбор информации и ее использование (принцип согласия). Решения должны быть разумными с учетом обстоятельств дела, соответствовать требованию пропорциональности, быть такими, которые допускают надлежащий государственный надзор, и быть достаточно прозрачными, чтобы обеспечить общественное обсуждение и надзор. В дополнение ко всему вышесказанному Управление по защите конфиденциальности рекомендует, чтобы любое технологическое решение, в котором используются технологии, которые могут нарушать неприкосновенность частной жизни граждан и жителей, подвергалось процессу «Privacy by Design», используя его.
 
Резюме
Этот документ стремился привлечь внимание к феномену использования систем социального ранжирования для достижения различных целей и к большой сложности применения такого подхода, особенно когда речь идёт о государственных системах. Этот документ был написан на фоне предложений по использованию основанной на искусственном интеллекте системы социального ранжирования граждан и жителей Государства Израиль в рамках противостояния государства коронавирусу.
Хотя, как правило, бывают ситуации, когда необходимо вторжение в частную жизнь. Однако, как представлено в данной статье, использование систем социального ранжирования, в том числе в контексте решения вопросов, связанных со здоровьем населения, может повлечь за собой серьёзное нарушение права на неприкосновенность частной жизни.

Оставить комментарий

Популярные посты:

• Ранее
• Архив