рейтинг блогов

Жаждущие освобождения от ответственности бояре формируют защитную ИТ-прослойку

топ 100 блогов ifc12.10.2024 восстание машин. начало

Минутка перекладывания.

Давние мои сожыжысты знают, что я оптимист, но при этом - не стараюсь уклоняться от обсуждения проблемных тем. Сегодня будет одна из них.

Мы сколько угодно можем угорать над упоротостью свидомых рагулей, совершающих действия подвида -

Офицеры украинского Генштаба загружали секретные документы в бот Chat GPT, чтобы узнать у нейросети как победить Россию. Десятки секретных документов и карт были загружены в GPT, чтобы найти способ "остановить российское наступление" и "перейти в контрнаступ".

- но при этом нельзя не отметить, что попытки спихнуть с себя ответственность на искусственных адиётов - предпринимаются, увы, и в любимом нашем Мордоре.

Пачку нажористых примеров в конце сентября привёл уважаемый мною Игорь Ашманов, который, как специалист, в теме на 100%. На днях он открыл свободный доступ к этой записи (она на Sponsr и ранее была доступна лишь по подписке), и я не могу не процитировать оттуда.

<...> Я ‎просто‏ ‎хочу‏ ‎подчеркнуть,‏ ‎что ‎идея ‎передать ‎ИИ ‎право‏ ‎принимать ‎автономные ‎решения‏ ‎о‏ ‎людях ‎-‏ ‎находит ‎всё ‎больше ‎сторонников,‏ ‎проникает ‎в ‎головы‏ ‎масс‏ ‎чиновников ‎и‏ ‎айтишников. ‎И‏ ‎очень ‎им ‎нравится.

Я ‎уже ‎писал‏ ‎о‏ ‎том,‏ ‎что ‎это‏ ‎не ‎передача‏ ‎ответственности ‎ИИ‏ ‎- ИИ‏ ‎не ‎может‏ ‎нести ‎никакой ‎ответственности ‎(и ‎никаких‏ ‎законов ‎об‏ ‎ответственности‏ ‎разработчиков‏ ‎или ‎эксплуатантов ‎ИИ ‎-‏ ‎тоже ‎нет).‏ ‎Это ‎снятие‏ ‎ответственности с‏ ‎людей,‏ ‎которые ‎её ‎раньше ‎несли.

Это ‎довольно ‎очевидно. ‎А ‎у ‎этих‏ ‎людей‏ ‎сбрасывание ‎бремени ‎ответственности ‎-‏ ‎вызывает ‎взрыв‏ ‎энергии ‎и‏ ‎эндорфинов.‏ ‎Такова‏ ‎сила ‎отказа‏ ‎от ‎ответственности.

Но ‎эту ‎тему‏ ‎стоит ‎продолжить‏ ‎в‏ ‎другой‏ ‎раз.

А ‎сейчас ‎стоит ‎поговорить ‎об‏ ‎алмазной ‎точности ‎этих‏ ‎решений.

Псевдоточность

Системы‏ ‎цифровизации, ‎основанные‏ ‎на ‎ИИ ‎(или ‎не‏ ‎основанные) ‎обладают ‎в‏ ‎первую‏ ‎очередь ‎крайней‏ ‎«точностью». ‎Своеобразной:‏ ‎они ‎требуют ‎точного ‎ввода ‎данных,‏ ‎заполнения‏ ‎формы‏ ‎- ‎в‏ ‎точности ‎так,‏ ‎как ‎потребовал‏ ‎программист.

Я‏ ‎думаю, ‎многие‏ ‎из ‎читателей ‎чертыхались, ‎когда ‎те‏ ‎или ‎иные‏ ‎сайты‏ ‎Госуслуг,‏ ‎банков ‎отрыгивали ‎введённые ‎формы‏ ‎с ‎сообщением:‏ ‎«это ‎поле‏ ‎обязательно‏ ‎к‏ ‎заполнению», ‎«введите ‎номер», ‎«введите ‎срок ‎действия ‎карты», ‎«загрузите ‎скан‏ ‎документа»,‏ ‎«формат ‎не ‎распознан» ‎и‏ ‎т. ‎п.

При‏ ‎этом, ‎естественно,‏ ‎алгоритмы‏ ‎распознавания‏ ‎номеров, ‎паспортных‏ ‎данных ‎и ‎прочего ‎непрерывно‏ ‎лажают ‎-‏ ‎то‏ ‎не‏ ‎понимают ‎8 ‎вместо ‎+7, ‎то‏ ‎обрезают ‎введённое ‎произвольным‏ ‎образом,‏ ‎то ‎неявно‏ ‎требуют ‎только ‎одного ‎неочевидного‏ ‎формата ‎ввода ‎без‏ ‎пояснений‏ ‎и ‎предупреждений‏ ‎и ‎т.‏ ‎п.

То ‎есть ‎работают ‎шумно, ‎коряво‏ ‎-‏ ‎но‏ ‎зато ‎требуют‏ ‎точно подстраиваться ‎под‏ ‎их ‎работу.

Например,‏ ‎прошлым‏ ‎летом ‎моя‏ ‎дочь ‎поступала ‎в ‎университет. ‎Регистрироваться‏ ‎в ‎приёмной‏ ‎комиссии‏ ‎надо‏ ‎было ‎почему-то ‎обязательно ‎в‏ ‎онлайне. ‎Экономия‏ ‎персонала ‎и‏ ‎современно-инновационно.‏ ‎И‏ ‎документы ‎- ‎тоже ‎загружать ‎в ‎онлайне, ‎в ‎виде ‎сканов.‏ ‎
Это,‏ ‎кстати, ‎нарушение ‎прав ‎граждан,‏ ‎вообще-то.

Но ‎при‏ ‎этом ‎загруженные‏ ‎документы‏ ‎система‏ ‎не ‎принимала.‏ ‎Потому ‎что ‎она ‎требовала‏ ‎загружать ‎их‏ ‎в‏ ‎вертикальной‏ ‎ориентации ‎- ‎а ‎сама ‎их‏ ‎упорно ‎автоматически ‎переворачивала‏ ‎в‏ ‎альбомную ‎ориентацию‏ ‎и ‎потом ‎отказывалась ‎принимать.‏ ‎

Я ‎посчитал ‎-‏ ‎мы‏ ‎с ‎дочкой‏ ‎сделали ‎25‏ ‎попыток. ‎А ‎время ‎уходило, ‎оставалось‏ ‎сначала‏ ‎два‏ ‎дня, ‎потом‏ ‎день, ‎потом‏ ‎полдня ‎до‏ ‎срока‏ ‎подачи!
Но ‎я‏ ‎хотя ‎бы ‎понимаю, ‎как ‎думает‏ ‎программист, ‎поэтому‏ ‎я‏ ‎последовательным‏ ‎обрезанием ‎полей ‎сканов ‎и‏ ‎изменением ‎форм-фактора‏ ‎скана ‎заставил‏ ‎систему‏ ‎перестать‏ ‎переворачивать. ‎

А ‎что ‎делали ‎неопытные ‎юные ‎абитуриенты? ‎Как ‎они‏ ‎пробились?‏ ‎А ‎может ‎быть, ‎кто-то‏ ‎и ‎не‏ ‎пробился. ‎Техподдержка,‏ ‎естественно,‏ ‎никак‏ ‎не ‎помогала.‏ ‎«Идите ‎на ‎сайт, ‎там‏ ‎всё ‎работает».


Это‏ ‎вот‏ ‎ключевое:‏ ‎система ‎требует ‎от ‎человека ‎исключительно‏ ‎точного ‎поведения - при ‎этом‏ ‎она‏ ‎неполноценна, ‎неполна‏ ‎и ‎неточна ‎сама. ‎Не‏ ‎выносит ‎отличия ‎вариантов,‏ ‎не‏ ‎имеет ‎люфтов.

А‏ ‎человеки ‎всегда‏ ‎создают ‎облако ‎вариантов.

Ещё ‎одна ‎история,‏ ‎которую‏ ‎мне‏ ‎рассказали ‎недавно:

Женщина‏ ‎садится ‎в‏ ‎поезд ‎из‏ ‎Ростова.‏ ‎Показывает ‎проводнику‏ ‎ксерокопию ‎паспорта. ‎Проводник ‎не ‎пускает:‏ ‎«не ‎положено,‏ ‎нужен‏ ‎оригинал».

- Да‏ ‎я ‎из-под ‎Курска, ‎сгорели‏ ‎все ‎документы.‏ ‎Хохлы ‎деревню‏ ‎захватили.
- А,‏ ‎тогда‏ ‎проходите, ‎- ‎говорит ‎проводник.


У ‎проводника ‎есть ‎человеческий ‎«люфт», ‎он‏ ‎понимает‏ ‎жизнь ‎и ‎её ‎непростое‏ ‎устройство, ‎не‏ ‎прямоугольное. ‎Он‏ ‎-‏ ‎человек.‏ ‎В ‎этот‏ ‎момент ‎он ‎принял ‎этическое‏ ‎решение ‎в‏ ‎ситуации‏ ‎этического‏ ‎выбора: ‎взял ‎на ‎себя ‎ответственность‏ ‎(возможно, ‎небольшую), ‎но‏ ‎помог‏ ‎человеку ‎против‏ ‎формальных ‎правил.

Вряд ‎ли ‎это‏ ‎была ‎агентша ‎СБУ,‏ ‎хотя‏ ‎это ‎всё‏ ‎равно ‎как‏ ‎бы ‎нарушение ‎безопасности ‎(хотя ‎сам‏ ‎принцип‏ ‎проезда‏ ‎по ‎паспорту‏ ‎можно ‎трактовать‏ ‎по-разному ‎-‏ ‎так‏ ‎уж ‎ли‏ ‎он ‎полезен ‎и ‎безопасен).

Возможно, ‎если‏ ‎бы ‎на‏ ‎проводника‏ ‎наехал‏ ‎потом ‎начальник ‎поезда, ‎или‏ ‎на ‎начальника‏ ‎поезда ‎наехали‏ ‎бы‏ ‎его‏ ‎начальники, ‎менты, ‎ФСБ ‎- ‎аргумент ‎про ‎сгоревший ‎дом ‎и‏ ‎на‏ ‎них ‎бы ‎подействовал. ‎Они‏ ‎же ‎тоже‏ ‎люди, ‎даже‏ ‎если‏ ‎это‏ ‎не ‎всегда‏ ‎заметно.

А ‎вот ‎что ‎бы‏ ‎делала ‎эта‏ ‎погорелица,‏ ‎если‏ ‎бы ‎документы ‎на ‎входе ‎проверял‏ ‎ИИ? ‎В ‎поезд‏ ‎бы‏ ‎точно ‎не‏ ‎села. ‎Болталась ‎бы ‎многие‏ ‎недели ‎в ‎Ростове,‏ ‎пытаясь‏ ‎восстановить ‎документы,‏ ‎без ‎жилья‏ ‎и ‎денег? ‎Так ‎ей ‎бы‏ ‎ИИ‏ ‎и‏ ‎в ‎МФЦ‏ ‎тоже ‎не‏ ‎дал ‎бы‏ ‎ничего‏ ‎восстановить.

А ‎ведь‏ ‎с ‎текущим ‎триумфальным ‎шествием ‎ИИ‏ ‎и ‎цифровизации‏ ‎до‏ ‎окончательного‏ ‎оцифрошизения ‎РЖД ‎- ‎недолго,‏ ‎похоже. ‎Будут‏ ‎пускать ‎в‏ ‎поезд‏ ‎только‏ ‎по ‎биометрии ‎лица ‎или ‎автоматическому ‎сканированию ‎паспорта. ‎И ‎с‏ ‎ксероксом‏ ‎не ‎пустят.

Восстановление ‎или ‎замена‏ ‎документов ‎из‏ ‎ДНР ‎и‏ ‎ЛНР,‏ ‎русских‏ ‎мигрантов ‎из‏ ‎Прибалтики ‎- ‎вообще ‎квест‏ ‎ещё ‎тот,‏ ‎как‏ ‎мы‏ ‎обсуждали ‎в ‎прошлом ‎посте.

И ‎там‏ ‎Госуслуги, ‎как ‎правило,‏ ‎ломаются‏ ‎- ‎не‏ ‎дают ‎прописать ‎в ‎квартире,‏ ‎например, ‎без ‎военного‏ ‎билета,‏ ‎а ‎старый‏ ‎военник ‎не‏ ‎того ‎формата ‎и ‎юрисдикции ‎-‏ ‎не‏ ‎признают.

Работают‏ ‎ли ‎там‏ ‎за ‎фасадом‏ ‎цифрового ‎сервиса‏ ‎тупые‏ ‎и ‎равнодушные‏ ‎люди ‎или ‎это ‎чисто ‎ИИ-распознавалка‏ ‎дурит ‎-‏ ‎не‏ ‎так‏ ‎уже ‎важно.

Важно, ‎что ‎требуют‏ ‎точного исполнения ‎узких,‏ ‎плохо ‎выпиленных‏ ‎правил,‏ ‎безукоризненного прохождения‏ ‎по ‎каким-то ‎прописанным ‎каким-то ‎анонимным ‎программистом ‎путям, ‎где ‎шаг‏ ‎в‏ ‎сторону ‎считается ‎за ‎побег.

Психология‏ ‎отношений ‎чиновника‏ ‎и ‎его‏ ‎программиста

Очевидно,‏ ‎сервисы‏ ‎для ‎граждан‏ ‎изначально ‎делаются ‎по ‎ТЗ.

ТЗ‏ ‎эти ‎часто‏ ‎описывают‏ ‎идеального‏ ‎пользователя. ‎Если ‎ТЗ ‎исполнено ‎по‏ ‎букве ‎- ‎их‏ ‎выкатывают‏ ‎«в ‎продакшн».

При‏ ‎этом ‎логика ‎программиста ‎очень‏ ‎часто ‎не ‎соответствует‏ ‎реальной‏ ‎жизни ‎и‏ ‎поведению ‎реальных‏ ‎пользователей, ‎но ‎как ‎он ‎об‏ ‎этом‏ ‎узнает?

Если‏ ‎пробиться ‎через‏ ‎услугу ‎не‏ ‎получается, ‎а‏ ‎пожаловаться‏ ‎можно ‎только‏ ‎чатботу ‎- ‎то ‎как ‎сведения‏ ‎о ‎реальных‏ ‎косяках‏ ‎дойдут‏ ‎для ‎разработчиков?

Через ‎чиновника? ‎Так‏ ‎он ‎же‏ ‎реагирует ‎только‏ ‎на‏ ‎пинки‏ ‎начальства ‎или ‎на ‎медийную ‎шумиху.

Я ‎не ‎раз ‎слышал ‎от‏ ‎жертв‏ ‎онлайновых ‎сервисов: ‎ну, ‎через‏ ‎сайт ‎ничего‏ ‎сделать ‎не‏ ‎удаётся,‏ ‎поеду‏ ‎в ‎понедельник‏ ‎лично ‎разговаривать ‎(Госуслуги, ‎МОЭК,‏ ‎мусорные ‎упыри-мытари‏ ‎и‏ ‎тому‏ ‎подобное).

Часто ‎это ‎поездка ‎из ‎области‏ ‎куда-то ‎в ‎районный‏ ‎город‏ ‎километров ‎за‏ ‎сорок ‎- ‎но ‎там‏ ‎хоть ‎поговорить ‎можно,‏ ‎объяснить‏ ‎ситуацию.

Сайт ‎или‏ ‎сервис ‎после‏ ‎такой ‎поездки, ‎конечно, ‎не ‎меняется‏ ‎-‏ ‎никто‏ ‎по ‎итогу‏ ‎косяка ‎сервиса‏ ‎не ‎добавляет‏ ‎вариантов,‏ ‎гибкости, ‎нечёткости.‏ ‎Я ‎подозреваю, ‎что ‎в ‎большинстве‏ ‎случаев ‎просто‏ ‎нет‏ ‎никакого‏ ‎информационного ‎канала ‎от ‎тех,‏ ‎кто ‎разговаривает‏ ‎с ‎ушибленными‏ ‎онлайном‏ ‎гражданами,‏ ‎к ‎программистам ‎системы.

Более ‎того, ‎не ‎в ‎интересах ‎чиновника ‎как-то‏ ‎исправлять‏ ‎ситуацию ‎с ‎негодным ‎сервисом.‏ ‎Почему? ‎Потому‏ ‎что ‎основное‏ ‎уже‏ ‎произошло:‏ ‎ответственность ‎уже‏ ‎снята.

Целевая ‎функция: ‎ИТ-прослойка

Основной ‎смысл‏ ‎цифровизации, ‎по‏ ‎сути‏ ‎- ‎создание ‎ИТ-прослойки ‎между ‎чиновником ‎и‏ ‎населением, которая ‎позволяет ‎снять‏ ‎ответственность‏ ‎и ‎вообще‏ ‎не ‎общаться ‎с ‎быдлом.

Чатбот‏ ‎не ‎помогает ‎гражданам,‏ ‎а‏ ‎отгоняет ‎их‏ ‎от ‎оператора‏ ‎контакт-центра, ‎чтобы ‎снизить ‎нагрузку. ‎На‏ ‎банковском‏ ‎форуме‏ ‎прямо ‎рассказывали‏ ‎об ‎успехах:‏ ‎в ‎три‏ ‎раза‏ ‎снизили ‎расходы‏ ‎на ‎контакт-центр! ‎При ‎этом ‎ни‏ ‎слова ‎о‏ ‎качестве‏ ‎самой‏ ‎услуги ‎и ‎удовлетворённости ‎клиентов.‏ ‎Ну ‎и‏ ‎в ‎самом‏ ‎деле,‏ ‎если‏ ‎клиента ‎отогнали ‎- ‎его ‎уже ‎и ‎не ‎спросить ‎о‏ ‎качестве.

Это‏ ‎очень ‎облегчающая ‎функция ‎ИИ:‏ ‎даже ‎если‏ ‎что-то ‎работает‏ ‎не‏ ‎так,‏ ‎население ‎недовольно‏ ‎- ‎то ‎виноват ‎не‏ ‎чиновник, ‎а‏ ‎все‏ ‎прочие.‏ ‎Программисты, ‎эксплуатанты, ‎хакеры. ‎ИИ ‎барахлит,‏ ‎ну ‎да, ‎мы‏ ‎же‏ ‎знаем, ‎что‏ ‎ИТ ‎барахлят ‎часто. ‎Все‏ ‎к ‎этому ‎привыкли,‏ ‎понимают.‏ ‎Компьютер ‎завис‏ ‎- ‎ну,‏ ‎понятно.

Вы ‎наверняка ‎не ‎раз ‎слышали‏ ‎в‏ ‎МФЦ‏ ‎«ой, ‎сейчас‏ ‎что-то ‎система‏ ‎с ‎утра‏ ‎глючит,‏ ‎не ‎могу‏ ‎пока ‎документ ‎подгрузить, ‎подождём ‎перезагрузки,‏ ‎щас, ‎щас», хотя‏ ‎сами‏ ‎девочки‏ ‎в ‎МФЦ ‎- ‎хорошие,‏ ‎вежливые, ‎старательные‏ ‎и ‎эффективные.‏ ‎Потому‏ ‎что‏ ‎люди.

<...>

Цифровизаторам ‎кажется,‏ ‎что‏ ‎ИИ‏ ‎и ‎ИТ-сервисы‏ ‎будут ‎прекрасно‏ ‎безлюдно ‎обслуживать‏ ‎население,‏ ‎которое, ‎ну‏ ‎прямо ‎надо ‎сказать, ‎поднадоело ‎уже.

Проблема‏ ‎тут ‎даже‏ ‎не‏ ‎в‏ ‎том, ‎что ‎тот ‎уродливый‏ ‎ИИ, ‎который‏ ‎разрабатывают ‎наши‏ ‎отечественные‏ ‎имитаторы,‏ ‎галлюцинирует ‎и ‎несёт ‎чушь ‎(я ‎писал тут ‎уже ‎про‏ ‎орех вместо‏ ‎гайки, ‎рисуемый ‎Кандинским, ‎выдуманные‏ ‎бредогенератором ‎безумные‏ ‎истории, ‎и‏ ‎тому‏ ‎подобную‏ ‎генерируемую ‎пургу,‏ ‎как ‎ментовская ‎распознавалка ‎путает‏ ‎лица ‎с‏ ‎порогом‏ ‎70%,‏ ‎как ‎распознавалка ‎в ‎метро ‎долго‏ ‎думает, ‎так ‎что‏ ‎в‏ ‎турникет ‎пробегают‏ ‎двое ‎и ‎т. ‎п.).

Проблема‏ ‎именно ‎в ‎том,‏ ‎что‏ ‎ИИ ‎безжалостен,‏ ‎требует ‎от‏ ‎хомо ‎сапиенсов, ‎кожаных ‎мешков, ‎точного‏ ‎поведения, а‏ ‎стандарты‏ ‎этого ‎точного‏ ‎поведения ‎задаёт‏ ‎неизвестно ‎кто,‏ ‎с‏ ‎этикой ‎и‏ ‎логикой ‎аутичного ‎программиста, ‎техноварвара, ‎отделённого‏ ‎от ‎реальной‏ ‎жизни‏ ‎многими‏ ‎звеньями ‎тендера, ‎заказа, ‎ТЗ,‏ ‎приёмки, ‎откатов.

С‏ ‎человеком ‎можно‏ ‎поговорить.‏ ‎С‏ ‎ИИ ‎нельзя.

Эта ‎ситуация ‎в ‎целом ‎описывается ‎общей ‎аналогией: ‎скоро‏ ‎ИИ‏ ‎будет ‎штрафовать ‎водителя ‎за‏ ‎заезд ‎колесом‏ ‎на ‎сплошную‏ ‎на‏ ‎два‏ ‎сантиметра. ‎Не,‏ ‎ну, ‎а ‎чо, ‎это‏ ‎же ‎нарушение?‏ ‎Камера‏ ‎посмотрит,‏ ‎заметит, ‎выпишет ‎штраф. ‎Если ‎сразу‏ ‎заплатить ‎- ‎скидка‏ ‎50%.‏ ‎Отлично ‎же.‏ ‎Мечта ‎чиновника.

Сейчас ‎пока ‎ещё‏ ‎люди ‎принимают ‎законы‏ ‎и‏ ‎подзаконные ‎акты‏ ‎о ‎штрафах.‏ ‎Там ‎есть ‎люфты. Допустим, ‎на ‎данном‏ ‎участке‏ ‎ограничение‏ ‎90, ‎а‏ ‎общеизвестный ‎люфт‏ ‎- ‎20,‏ ‎так‏ ‎что ‎за‏ ‎105 ‎км/ч ‎не ‎оштрафуют. ‎Этот‏ ‎люфт ‎много‏ ‎раз‏ ‎пытались‏ ‎отменить ‎или ‎уменьшить ‎поборники‏ ‎пуристического ‎зажима‏ ‎нарушителей, ‎адепты‏ ‎Железной‏ ‎руки.

Пока‏ ‎не ‎вышло. ‎Но ‎это ‎сейчас ‎не ‎вышло. ‎А ‎вот‏ ‎с‏ ‎ИИ ‎всё ‎ведь ‎будет‏ ‎круче.

Сейчас ‎и‏ ‎так ‎постоянно‏ ‎идут‏ ‎разговоры‏ ‎о ‎вычислении‏ ‎«средней ‎скорости ‎по ‎маршруту»,‏ ‎штрафовании ‎«за‏ ‎опасное‏ ‎поведение»,‏ ‎распознанное ‎камерой и ‎т. ‎п. ‎Всё‏ ‎конечно, ‎автоматически, ‎это‏ ‎же‏ ‎так ‎круто,‏ ‎да.

А ‎кто ‎задаст ‎критерии‏ ‎«опасного ‎поведения»? ‎Безжалостный‏ ‎ИИ,‏ ‎в ‎который‏ ‎заложат ‎правила‏ ‎аутичные ‎и ‎асоциальные ‎программисты ‎(у‏ ‎которых‏ ‎даже‏ ‎может ‎не‏ ‎быть ‎собственного‏ ‎автомобиля ‎и‏ ‎опыта‏ ‎вождения).

Но. ‎Штрафов‏ ‎будет ‎больше, ‎хорошо ‎же. ‎Губернатор‏ ‎Воробьёв ‎будет‏ ‎доволен.

Возражение,‏ ‎что‏ ‎это ‎страшилки, ‎что ‎ИИ‏ ‎отладят ‎в‏ ‎конце ‎концов,‏ ‎разбивается‏ ‎об‏ ‎истории ‎Амазона* ‎и ‎других ‎ИТ-гигантов, ‎где ‎сотрудники ‎суперкомпьютеризированных ‎супермегагигаскладов‏ ‎Амазона,‏ ‎управляемые ‎всеведущим ‎ИИ, ‎писают‏ ‎под ‎камерами‏ ‎в ‎пустые‏ ‎пластиковые‏ ‎бутылки‏ ‎прямо ‎на‏ ‎рабочем ‎месте, ‎потому ‎что‏ ‎ИИ ‎штрафует‏ ‎их‏ ‎-‏ ‎автоматически ‎- ‎за ‎слишком ‎частые‏ ‎походы ‎в ‎туалет.‏ ‎Слишком‏ ‎частые ‎-‏ ‎по ‎мнению ‎начальства ‎и‏ ‎его ‎программистов, ‎они‏ ‎же‏ ‎лучше ‎знают,‏ ‎сколько ‎раз‏ ‎в ‎день ‎упаковщику ‎надо ‎мочиться.

То‏ ‎есть‏ ‎это‏ ‎не ‎вопрос‏ ‎отладки. ‎Это‏ ‎вопрос ‎того,‏ ‎что‏ ‎ИИ ‎удобно использовать‏ ‎как ‎электронный ‎хлыст, ‎которым ‎погонять‏ ‎хуманов.

У ‎ИИ‏ ‎люфтов‏ ‎нет,‏ ‎с ‎ним ‎нельзя ‎поговорить‏ ‎и ‎договориться. Идиоты‏ ‎цифровизаторы ‎считают,‏ ‎что‏ ‎это‏ ‎очень ‎хорошо. ‎Ведь ‎ИИ ‎не ‎берёт ‎взяток. ‎Никакой ‎коррупции.‏ ‎Никаких‏ ‎отклонений, ‎кумовства ‎и ‎семейственности!‏ ‎Всё ‎чётко!‏ ‎Жёсткие ‎правила!

И‏ ‎он‏ ‎научит‏ ‎человека ‎не‏ ‎делать ‎ошибок и ‎жить ‎правильно!

То‏ ‎есть ‎речь‏ ‎от‏ ‎том,‏ ‎чтобы ‎расчеловечить ‎человека. ‎Ведь ‎делать‏ ‎ошибки ‎- ‎это‏ ‎не‏ ‎просто ‎встроенная‏ ‎особенность ‎человека, ‎это ‎его‏ ‎право ‎и ‎возможность.

Нас‏ ‎в‏ ‎итоге ‎ждёт‏ ‎что-то ‎вроде‏ ‎ошейника ‎с ‎током, ‎который ‎надевают‏ ‎на‏ ‎плохо‏ ‎обученных ‎и‏ ‎импульсивных ‎собак‏ ‎породы ‎джек-рассел,‏ ‎чтобы‏ ‎не ‎убегали.

Я‏ ‎пока ‎не ‎вижу ‎просвета. ‎Цифровизаторы‏ ‎бодро ‎едут‏ ‎на‏ ‎этом‏ ‎нарративе.

А ‎дальше ‎нас, ‎возможно,‏ ‎ждёт ‎следующая‏ ‎триумфальная ‎ступень‏ ‎развития‏ ‎ИИ‏ ‎- ‎передача ‎ИИ ‎возможности ‎самостоятельно ‎расширять ‎пространство ‎принимаемых ‎решений.‏ ‎На‏ ‎«основе ‎самообучения».

То ‎есть ‎Страж-птица‏ ‎по ‎Шекли.


Добавлю свои пять копеек: если кто-то думает, что в частном секторе - рулит Невидимая Рука и пресловутая "клиентоориентированность", то это, конечно же, заблуждение. Не рулит. Вот лишь один пример из личного опыта.

Несколько лет назад стал клиентом одного из мордорских банков - не стану называть, какого, дабы не делать им рекламу. У меня сначала была их кредитка, а затем и дебетовой картой обзавёлся.

Плюсом запиленного ими интерфейса было то, что он выглядет как кошелёк. То есть, все карты - включая добавялемые юзером карты других банков - были сведены в единую ленту, которую можно было перелистывать влево-вправо, словно физический кардхолдер. Интерфейс делал какой-то весьма толковый программист, и делал для людей.

Но в минувшем году к власти в ИТ-департаменте оного банка пришли какие-то аутисты. Которые развалили этот интерфейс, начав переделывать отдельные его элементы под мобильную платформу. В одной карте поменяли удобное для ПК юзабилити на кривой-косой дрэк, заточенный под сраные мобильные девайсы - и вся система нарушилась. Единая лента карт распалась на составляющие, и более того - все операции по картам, которые ранее были видны в меню каждой карты - свалили в одно меню.

То есть, ранее я заходил и видел, что вот это - операции только по кредитке, а вот это - по дебетовой. А после их сраного "улучшения" на меня свалилась необходимость отыскивать нужные операции вручную (!) в общем списке.

Длительная переписка с техподдержкой - ничего не дала. Мне приносили формальные извинения, заверяли, что очень сожалеют etc., и даже какую-то сумму денег бросили типа для "компенсации". Сиди, мол, и не вякай, ретроград, со своей десктопной версией личного кабинета. Мы тут, типа, динамично движемся в будущее, а ты - цепляешься за отжившее прошлое.

Закончилось всё тем, что я попросту отказался от их кредитки. Закрыл её к чортовой матери, чтобы не путать с дебетовой и не попадать на деньги. А к новому откровенно уродскому интерфейсу пришлось привыкнуть, так как у других банков - интерфейсы ещё хуже.

Суммирую: что разработчикам казённых электронных сервисов, что работающим на частный сектор мамкиным кодерам - вообще сиренью на удобство и удовлетворённость пользователя. Такой показатель тупо отсутствует в списке выдаваемых им ключевых параметров, формируемом эффективными манагерами. О цели которых всё чётко написал процитированный выше Ашманов.

Мордорские бояре хотят отгородиться от сограждан. Манагеры из частного сектора - попучить бонусы за "обновление интерфейса" и подобное, оправдав через  ИБД свои раздутые зарплаты. Принцип "работает - не трогай" для них пустой звук, поскольку они - не инженеры, а продаваны, для которых главное - рост каких-нибудь формальных количественных показателей.

Что со всем этим делать? Возможно, надо бы начать с продвижения темы законодательных изменений, нацеленных на закрепление материальной ответственности разработчиков и заказчиков государственных тырнет-сервисов за функционирование их продукта.

Например, если заказчик медицинского приложения - федеральный или региональный Минздрав - то у граждан должна быть легальная возможность получать от него финансовые компенсации за некорректную работу оного приложения. А уж само министерство пусть затем судится с криворукими кодерами и теми чиновниками, которые формировали ТЗ, а затем подписали акт приёмки сделанной работы.

Добавляйте варианты действий в комменты, если есть желание.

* - я писал по теме вот здесь

Оставить комментарий

Предыдущие записи блогера :
Архив записей в блогах:
Это мы с Тенькой бродили по сугробам, - я пытаясь передать снежную красоту, а Тень просто, вдруг там вкусненькое дают? за компанию. Не знаю, почему меня так притягивают текстуры снега. «Знаешь, Гарри, я постоянно ищу и ищу что-то, какую-то маленькую деталь...» Вот и я, видимо, ищу ...
П осмотрел под настроение американский вестерн, который ранее прошел мимо меня... Режиссер: Дэниэл Барбер. Сценарий: Джулия Харт. В главных ролях: Брит Марлинг, Хейли Стайнфелд, Муна Отару, Сэм Уортингтон, Кайл Соллер, Нед Деннехи, Эми Натталл, Николас Пиннок, Анна-Мария ...
Китай задействовал армию для обеспечения карантинных зон, которые создаются не только вокруг Уханя, но и других городов, где порог заболеваемости за последние двое суток резко возрос. Пока число выявленных заболевших невелико - в пределах тысячи человек (реально больше, но речь о ...
Вдали Храм в селе Поречье Калязинского района. У меня недавно был пост про этот храм ( https://uncle-pafnutiy.livejournal.com/371144.html ), а сегодня некоторые подробности проекта "Поречье Ленд" Красной галочкой отмечено место с которого сделано заглавное фото. Информация с сайта ...
...