Жаждущие освобождения от ответственности бояре формируют защитную ИТ-прослойку
ifc — 12.10.2024
Минутка перекладывания.
Давние мои сожыжысты знают, что я оптимист, но при этом - не стараюсь уклоняться от обсуждения проблемных тем. Сегодня будет одна из них.
Мы сколько угодно можем угорать над упоротостью свидомых рагулей, совершающих действия подвида -
Офицеры украинского Генштаба загружали секретные документы в бот Chat GPT, чтобы узнать у нейросети как победить Россию. Десятки секретных документов и карт были загружены в GPT, чтобы найти способ "остановить российское наступление" и "перейти в контрнаступ".
- но при этом нельзя не отметить, что попытки спихнуть с себя ответственность на искусственных адиётов - предпринимаются, увы, и в любимом нашем Мордоре.
Пачку нажористых примеров в конце сентября привёл уважаемый мною Игорь Ашманов, который, как специалист, в теме на 100%. На днях он открыл свободный доступ к этой записи (она на Sponsr и ранее была доступна лишь по подписке), и я не могу не процитировать оттуда.
<...> Я просто хочу подчеркнуть, что идея передать ИИ право принимать автономные решения о людях - находит всё больше сторонников, проникает в головы масс чиновников и айтишников. И очень им нравится.
Я уже писал о том, что это не передача ответственности ИИ - ИИ не может нести никакой ответственности (и никаких законов об ответственности разработчиков или эксплуатантов ИИ - тоже нет). Это снятие ответственности с людей, которые её раньше несли.
Это довольно очевидно. А у этих людей сбрасывание бремени ответственности - вызывает взрыв энергии и эндорфинов. Такова сила отказа от ответственности.
Но эту тему стоит продолжить в другой раз.
А сейчас стоит поговорить об алмазной точности этих решений.
Псевдоточность
Системы цифровизации, основанные на ИИ (или не основанные) обладают в первую очередь крайней «точностью». Своеобразной: они требуют точного ввода данных, заполнения формы - в точности так, как потребовал программист.
Я думаю, многие из читателей чертыхались, когда те или иные сайты Госуслуг, банков отрыгивали введённые формы с сообщением: «это поле обязательно к заполнению», «введите номер», «введите срок действия карты», «загрузите скан документа», «формат не распознан» и т. п.
При этом, естественно, алгоритмы распознавания номеров, паспортных данных и прочего непрерывно лажают - то не понимают 8 вместо +7, то обрезают введённое произвольным образом, то неявно требуют только одного неочевидного формата ввода без пояснений и предупреждений и т. п.
То есть работают шумно, коряво - но зато требуют точно подстраиваться под их работу.
Например, прошлым летом моя дочь поступала в университет. Регистрироваться в приёмной комиссии надо было почему-то обязательно в онлайне. Экономия персонала и современно-инновационно. И документы - тоже загружать в онлайне, в виде сканов.
Это, кстати, нарушение прав граждан, вообще-то.
Но при этом загруженные документы система не принимала. Потому что она требовала загружать их в вертикальной ориентации - а сама их упорно автоматически переворачивала в альбомную ориентацию и потом отказывалась принимать.
Я посчитал - мы с дочкой сделали 25 попыток. А время уходило, оставалось сначала два дня, потом день, потом полдня до срока подачи!
Но я хотя бы понимаю, как думает программист, поэтому я последовательным обрезанием полей сканов и изменением форм-фактора скана заставил систему перестать переворачивать.
А что делали неопытные юные абитуриенты? Как они пробились? А может быть, кто-то и не пробился. Техподдержка, естественно, никак не помогала. «Идите на сайт, там всё работает».
Это вот ключевое: система требует от человека исключительно точного поведения - при этом она неполноценна, неполна и неточна сама. Не выносит отличия вариантов, не имеет люфтов.
А человеки всегда создают облако вариантов.
Ещё одна история, которую мне рассказали недавно:
Женщина садится в поезд из Ростова. Показывает проводнику ксерокопию паспорта. Проводник не пускает: «не положено, нужен оригинал».
- Да я из-под Курска, сгорели все документы. Хохлы деревню захватили.
- А, тогда проходите, - говорит проводник.
У проводника есть человеческий «люфт», он понимает жизнь и её непростое устройство, не прямоугольное. Он - человек. В этот момент он принял этическое решение в ситуации этического выбора: взял на себя ответственность (возможно, небольшую), но помог человеку против формальных правил.
Вряд ли это была агентша СБУ, хотя это всё равно как бы нарушение безопасности (хотя сам принцип проезда по паспорту можно трактовать по-разному - так уж ли он полезен и безопасен).
Возможно, если бы на проводника наехал потом начальник поезда, или на начальника поезда наехали бы его начальники, менты, ФСБ - аргумент про сгоревший дом и на них бы подействовал. Они же тоже люди, даже если это не всегда заметно.
А вот что бы делала эта погорелица, если бы документы на входе проверял ИИ? В поезд бы точно не села. Болталась бы многие недели в Ростове, пытаясь восстановить документы, без жилья и денег? Так ей бы ИИ и в МФЦ тоже не дал бы ничего восстановить.
А ведь с текущим триумфальным шествием ИИ и цифровизации до окончательного оцифрошизения РЖД - недолго, похоже. Будут пускать в поезд только по биометрии лица или автоматическому сканированию паспорта. И с ксероксом не пустят.
Восстановление или замена документов из ДНР и ЛНР, русских мигрантов из Прибалтики - вообще квест ещё тот, как мы обсуждали в прошлом посте.
И там Госуслуги, как правило, ломаются - не дают прописать в квартире, например, без военного билета, а старый военник не того формата и юрисдикции - не признают.
Работают ли там за фасадом цифрового сервиса тупые и равнодушные люди или это чисто ИИ-распознавалка дурит - не так уже важно.
Важно, что требуют точного исполнения узких, плохо выпиленных правил, безукоризненного прохождения по каким-то прописанным каким-то анонимным программистом путям, где шаг в сторону считается за побег.
Психология отношений чиновника и его программиста
Очевидно, сервисы для граждан изначально делаются по ТЗ.
ТЗ эти часто описывают идеального пользователя. Если ТЗ исполнено по букве - их выкатывают «в продакшн».
При этом логика программиста очень часто не соответствует реальной жизни и поведению реальных пользователей, но как он об этом узнает?
Если пробиться через услугу не получается, а пожаловаться можно только чатботу - то как сведения о реальных косяках дойдут для разработчиков?
Через чиновника? Так он же реагирует только на пинки начальства или на медийную шумиху.
Я не раз слышал от жертв онлайновых сервисов: ну, через сайт ничего сделать не удаётся, поеду в понедельник лично разговаривать (Госуслуги, МОЭК, мусорные упыри-мытари и тому подобное).
Часто это поездка из области куда-то в районный город километров за сорок - но там хоть поговорить можно, объяснить ситуацию.
Сайт или сервис после такой поездки, конечно, не меняется - никто по итогу косяка сервиса не добавляет вариантов, гибкости, нечёткости. Я подозреваю, что в большинстве случаев просто нет никакого информационного канала от тех, кто разговаривает с ушибленными онлайном гражданами, к программистам системы.
Более того, не в интересах чиновника как-то исправлять ситуацию с негодным сервисом. Почему? Потому что основное уже произошло: ответственность уже снята.
Целевая функция: ИТ-прослойка
Основной смысл цифровизации, по сути - создание ИТ-прослойки между чиновником и населением, которая позволяет снять ответственность и вообще не общаться с быдлом.
Чатбот не помогает гражданам, а отгоняет их от оператора контакт-центра, чтобы снизить нагрузку. На банковском форуме прямо рассказывали об успехах: в три раза снизили расходы на контакт-центр! При этом ни слова о качестве самой услуги и удовлетворённости клиентов. Ну и в самом деле, если клиента отогнали - его уже и не спросить о качестве.
Это очень облегчающая функция ИИ: даже если что-то работает не так, население недовольно - то виноват не чиновник, а все прочие. Программисты, эксплуатанты, хакеры. ИИ барахлит, ну да, мы же знаем, что ИТ барахлят часто. Все к этому привыкли, понимают. Компьютер завис - ну, понятно.
Вы наверняка не раз слышали в МФЦ «ой, сейчас что-то система с утра глючит, не могу пока документ подгрузить, подождём перезагрузки, щас, щас», хотя сами девочки в МФЦ - хорошие, вежливые, старательные и эффективные. Потому что люди.
<...>
Цифровизаторам кажется, что ИИ и ИТ-сервисы будут прекрасно безлюдно обслуживать население, которое, ну прямо надо сказать, поднадоело уже.
Проблема тут даже не в том, что тот уродливый ИИ, который разрабатывают наши отечественные имитаторы, галлюцинирует и несёт чушь (я писал тут уже про орех вместо гайки, рисуемый Кандинским, выдуманные бредогенератором безумные истории, и тому подобную генерируемую пургу, как ментовская распознавалка путает лица с порогом 70%, как распознавалка в метро долго думает, так что в турникет пробегают двое и т. п.).
Проблема именно в том, что ИИ безжалостен, требует от хомо сапиенсов, кожаных мешков, точного поведения, а стандарты этого точного поведения задаёт неизвестно кто, с этикой и логикой аутичного программиста, техноварвара, отделённого от реальной жизни многими звеньями тендера, заказа, ТЗ, приёмки, откатов.
С человеком можно поговорить. С ИИ нельзя.
Эта ситуация в целом описывается общей аналогией: скоро ИИ будет штрафовать водителя за заезд колесом на сплошную на два сантиметра. Не, ну, а чо, это же нарушение? Камера посмотрит, заметит, выпишет штраф. Если сразу заплатить - скидка 50%. Отлично же. Мечта чиновника.
Сейчас пока ещё люди принимают законы и подзаконные акты о штрафах. Там есть люфты. Допустим, на данном участке ограничение 90, а общеизвестный люфт - 20, так что за 105 км/ч не оштрафуют. Этот люфт много раз пытались отменить или уменьшить поборники пуристического зажима нарушителей, адепты Железной руки.
Пока не вышло. Но это сейчас не вышло. А вот с ИИ всё ведь будет круче.
Сейчас и так постоянно идут разговоры о вычислении «средней скорости по маршруту», штрафовании «за опасное поведение», распознанное камерой и т. п. Всё конечно, автоматически, это же так круто, да.
А кто задаст критерии «опасного поведения»? Безжалостный ИИ, в который заложат правила аутичные и асоциальные программисты (у которых даже может не быть собственного автомобиля и опыта вождения).
Но. Штрафов будет больше, хорошо же. Губернатор Воробьёв будет доволен.
Возражение, что это страшилки, что ИИ отладят в конце концов, разбивается об истории Амазона* и других ИТ-гигантов, где сотрудники суперкомпьютеризированных супермегагигаскладов Амазона, управляемые всеведущим ИИ, писают под камерами в пустые пластиковые бутылки прямо на рабочем месте, потому что ИИ штрафует их - автоматически - за слишком частые походы в туалет. Слишком частые - по мнению начальства и его программистов, они же лучше знают, сколько раз в день упаковщику надо мочиться.
То есть это не вопрос отладки. Это вопрос того, что ИИ удобно использовать как электронный хлыст, которым погонять хуманов.
У ИИ люфтов нет, с ним нельзя поговорить и договориться. Идиоты цифровизаторы считают, что это очень хорошо. Ведь ИИ не берёт взяток. Никакой коррупции. Никаких отклонений, кумовства и семейственности! Всё чётко! Жёсткие правила!
И он научит человека не делать ошибок и жить правильно!
То есть речь от том, чтобы расчеловечить человека. Ведь делать ошибки - это не просто встроенная особенность человека, это его право и возможность.
Нас в итоге ждёт что-то вроде ошейника с током, который надевают на плохо обученных и импульсивных собак породы джек-рассел, чтобы не убегали.
Я пока не вижу просвета. Цифровизаторы бодро едут на этом нарративе.
А дальше нас, возможно, ждёт следующая триумфальная ступень развития ИИ - передача ИИ возможности самостоятельно расширять пространство принимаемых решений. На «основе самообучения».
То есть Страж-птица по Шекли.
Добавлю свои пять копеек: если кто-то думает, что в частном секторе - рулит Невидимая Рука и пресловутая "клиентоориентированность", то это, конечно же, заблуждение. Не рулит. Вот лишь один пример из личного опыта.
Несколько лет назад стал клиентом одного из мордорских банков - не стану называть, какого, дабы не делать им рекламу. У меня сначала была их кредитка, а затем и дебетовой картой обзавёлся.
Плюсом запиленного ими интерфейса было то, что он выглядет как кошелёк. То есть, все карты - включая добавялемые юзером карты других банков - были сведены в единую ленту, которую можно было перелистывать влево-вправо, словно физический кардхолдер. Интерфейс делал какой-то весьма толковый программист, и делал для людей.
Но в минувшем году к власти в ИТ-департаменте оного банка пришли какие-то аутисты. Которые развалили этот интерфейс, начав переделывать отдельные его элементы под мобильную платформу. В одной карте поменяли удобное для ПК юзабилити на кривой-косой дрэк, заточенный под сраные мобильные девайсы - и вся система нарушилась. Единая лента карт распалась на составляющие, и более того - все операции по картам, которые ранее были видны в меню каждой карты - свалили в одно меню.
То есть, ранее я заходил и видел, что вот это - операции только по кредитке, а вот это - по дебетовой. А после их сраного "улучшения" на меня свалилась необходимость отыскивать нужные операции вручную (!) в общем списке.
Длительная переписка с техподдержкой - ничего не дала. Мне приносили формальные извинения, заверяли, что очень сожалеют etc., и даже какую-то сумму денег бросили типа для "компенсации". Сиди, мол, и не вякай, ретроград, со своей десктопной версией личного кабинета. Мы тут, типа, динамично движемся в будущее, а ты - цепляешься за отжившее прошлое.
Закончилось всё тем, что я попросту отказался от их кредитки. Закрыл её к чортовой матери, чтобы не путать с дебетовой и не попадать на деньги. А к новому откровенно уродскому интерфейсу пришлось привыкнуть, так как у других банков - интерфейсы ещё хуже.
Суммирую: что разработчикам казённых электронных сервисов, что работающим на частный сектор мамкиным кодерам - вообще сиренью на удобство и удовлетворённость пользователя. Такой показатель тупо отсутствует в списке выдаваемых им ключевых параметров, формируемом эффективными манагерами. О цели которых всё чётко написал процитированный выше Ашманов.
Мордорские бояре хотят отгородиться от сограждан. Манагеры из частного сектора - попучить бонусы за "обновление интерфейса" и подобное, оправдав через ИБД свои раздутые зарплаты. Принцип "работает - не трогай" для них пустой звук, поскольку они - не инженеры, а продаваны, для которых главное - рост каких-нибудь формальных количественных показателей.
Что со всем этим делать? Возможно, надо бы начать с продвижения темы законодательных изменений, нацеленных на закрепление материальной ответственности разработчиков и заказчиков государственных тырнет-сервисов за функционирование их продукта.
Например, если заказчик медицинского приложения - федеральный или региональный Минздрав - то у граждан должна быть легальная возможность получать от него финансовые компенсации за некорректную работу оного приложения. А уж само министерство пусть затем судится с криворукими кодерами и теми чиновниками, которые формировали ТЗ, а затем подписали акт приёмки сделанной работы.
Добавляйте варианты действий в комменты, если есть желание.
* - я писал по теме вот здесь
Сохранено
|
|
</> |
Жаждущие освобождения от ответственности бояре формируют защитную ИТ-прослойку
Оставить комментарий
Популярные посты:
Обзоры, отзывы и жалобы на компании – все, что нужно знать об eto-razvod.ru и его преимуществах 
Кленовый лист, кленовый лист 
О пресс-секретаре здорового человека Ну как вам? 
КАМАЗ представил свой самый большой грузовик «Атлант-65» грузоподъемностью 65 
Без названия 
По будущему «договорняку» 
Дорога в литературную даль 
352. Когда Миклош Ибл был начинающим архитектором 
К вопросу о психологах Предыдущие записи блогера :
Архив записей в блогах:
Вот - прекрасное. Интересное. В 1970-1980-х любили изображать людей_настоящего либо, как людей_прошлого (в духе Ренессанса), либо, как людей_будущего. Здесь - второй вариант. Ощущение ясности цели и осмысленности бытия. Мичурин Владимир Иосифович (1944 - 1984). «Воскресенье на Оби» . ...
Как хранили продукты в жару до холодильника? На самом деле, это была совсем не простая задача. Многие помнят рассказы бабушек о том, как они сохраняли сливочное масло летом в тазу, на дно которого клалось блюдце с этим самым маслом. Сверху оно накрывалось перевернутой тарелкой. А ...
фото кликабельные, с фейсбука президента Грузии Сегодня президент Грузии открыл очередную больницу, на этот раз в Лагодехи. Она принадлежит компании Архимед глобалс Джеорджиа. Но в отличие от предыдущих больниц, эта уже давно работает, ...
Всем привет! Это будет заключительный пост про выпускные платья. Давайте, так сказать, добьем тему, и сделаем это красиво :) Как вы уже знаете, скандал с шокирующим платьем Насти Фоминой обернулся для девушки отличной возможностью устроить свое ...
с подругой ...
