И снова о толерантности.

dave_aka_doc — 04.09.2019

Новости толерантности: Для социальных сетей были разработаны специальные алгоритмы, позволяющие находить так называемые "хейт спич"(тм): расистские и агрессивные высказывания, призывающие к ненависти по отношению к какой-либо группе людей по какому-либо признаку.

Крупные платформы (Facebook, YouTube, Twitter) делают ставку на разработку технологии искусственного интеллекта, чтобы помочь остановить распространение ненавистнических высказываний в своих сетях. Идея состоит в том, что сложные алгоритмы ИИ, использующие обработку на естественном языке, будут помечать расистскую или насильственную речь оперативнее и точнее, чем это могли бы делать люди. Что в свою очередь поможет эффективнее (оперативнее) бороться (банить) с распространением расовой, гендерной, национальной, религиозной и прочих видов ненависти и ксенофобии в соцсетях. То есть - борьба с "токсичными"(тм) высказываниями и комментариями в соцсетях.

О - оптимизация.

После проведения исследований, основанных на практике использования этих ИИ для оценки токсичности контента, внезапно оказалось, что чернокожие пользователи соц.сетей значительно более "токсичны", чем "белые": на большой репрезентативной выборке (примерно 56 миллионов твитов) алгоритм в 1.5 раза чаще помечает как ненавистнические посты чёрнокожих пользователей по сравнению с другими группами и в 2.2 раза чаще - посты тех, кто говорит на афро-американском английском (сленг, представляющий гетто-вариант английского языка). Пруф-исследование №1. Пруф-исследование №2.

Как вы думаете, как отреагировала общественность на такие результаты исследований?))))

Результаты оказались скомпрометированы потому что такого ведь не может быть, чтобы белые гетеросексуальный цис-гендерный пользователь был менее токсичным, чем кто-то ещё, алгоритмы ИИ и сами ИИ оказались предвзяты: она ведь не делали различий, они ведь оценивали всех одинаково вне зависимости от принадлежности автора контента к той или иной группе. А дело в том, что, оказывается, употребление личных оскорблений, обсценной лексики и унижающих определений (расовых, гендерных, социальных, etc) имеет разную степень "токсичности" в зависимости от того, кто их употребляет. Так например если чернокожие люди на гетто-наречии допускают все это и пишут "хейт спич" - это не расизм и не ксенофобия, это такие особые языковые традиции и общественные обычаи, которые надо уважать не стоит рассматривать как насилие или призывы к ненависти.

Алгоритмы ИИ, основанные на обучении искусственного интеллекта описываются не иначе как "выраженная расовая предвзятость". Академические данные для обучения ИИ, описывающие и определяющие ненавистнические высказывания - ошибочны, не точны и не могут быть использованы так, как они были использованы. Кто бы сомневался)))))

Если простыми словами: создаётся самообучающийся инструмент, для обучения которого используют рекомендованные "академические материалы". Этот инструмент используется, но когда его результаты не нравятся активистам, сам инструмент и его создатели объявляются предвзятыми и необъективными, в то время как высшим эталоном отделения хорошего от плохого декларируется именно субъективная точка зрения (если эти правила работают против нас - это плохие и неправильные правила). "You can have the most sophisticated neural network model, but the data is biased because humans are deciding what’s hate speech and what’s not"(цитата).

Нечто подобное уже было, емнип, по поводу избрания Трампа президентом США с последующими бурлениями либеральной общественности. Выборы моментально стали неправильными и подтасованными, потому что они же не могли привести к такому результаты это все Путин и кремлёвские хакеры!. А ещё это очень напоминает дискурс большинства общественных заявлений "одного братского славянского народа"(тм), евпочя.

То есть официальная толерантность официально сдвигается как можно дальше от хоть какой-то объективности. Все исключительно субъективно: захотел - обиделся, увидел оскорбление и угнетение. Не захотел - не увидел. И это не бабушки на лавочке - это принцип принятия крупных экономических и технологических решений.

Я просто мимоходом напомню про уже реализованное решение убрать из компьютерного (!) языка программирования (из его кода, Карл) "Python" слова master и slave - по соображениям политкорректности.

Да что там пара слов в коде языка программирования... Целую международную конференцию PHP-разработчиков отменили, поскольку среди докладчиков не нашлось ни одного не-белого не-мужчины. Речь о мероприятии PHP.CE 2019, которое должно было пройти в Дрездене с 4 по 6 октября.



Конференция отменена и больше проводиться не будет. Организаторы заявили, что они бы с удовольствием приняли в докладчики всех желающих вне зависимости от пола и цвета кожи, но увы — кроме белых мужчин, заявки почему-то никто не подал. Легко догадаться, что это лишь подстегнуло общественный протест и осуждение в адрес организаторов конференции. Один участник публично заявил о пропуске конференции, поскольку организаторы отказались найти и добавить женщин в число докладчиков, после того, как отсутствие женщин в числе докладчиков было предъявлено как претензия. (Организаторы высказались в том смысле, что были готовы принять всех, но приём документов окончен для всех и в последний момент графики с планами конференции они переделывать не будут). Другой участник публично отозвал свою кандидатуру с конференции по причине того, что состав докладчиков исключительно мужской. Продажи билетов упали до нуля, начались финансовые трудности и конференция закрылась навсегда.

Вот такие они, новости толерантности.

И я честно даже теряюсь: как их комментировать? Что это вообще: баг или фича? Как вы думаете?

Оставить комментарий

Популярные посты:

• Ранее
• Архив