Добровольные андроиды радостно застревают на пике глупости

ifc — 22.09.2025

В продолжение темы добычи, на которую охотятся искусственные хищники.

Из нормальной-то страны, где югэн, саби, ваби, сибуй и управляемые школьницами с 6-м размером ОБЧР, сообщают:

Искусственный интеллект станет лидером региональной японской партии, пишет The Japan Times. ИИ будет принимать решения и распределять ресурсы внутри партии "Путь к возрождению". Это будет первая зарегистрированная партия в мире, которой будет управлять искусственный интеллект.

Что тут хотелось бы.

Вопрос о том, как может управлять чем-либо искусственный адиёт, не имеющий личности, а значит - и спонтанного целеполагания, я считаю риторическим. Однако эльфы такое проглотят - можно не сомневаться. Ибо дзюбинг на таких адиётов со стороны их натуральных аналогов позволяет вторым застревать на упоминаемом скептиками "пике глупости" (см. картинку в начале поста). Том самом, о котором один такой скептик около месяца тому написал всякое неудобное (цитирую по переводу из доклада коллеги Мараховского, откуда я позаимствовал упомянутую картинку):

<...> Мне встретилась очередная попытка осмысления «революции ИИ» от профильного учёного.

«В 2008 году The Atlantic разжёг споры провокационной статьей на обложке: «Google делает нас глупее?» В обширном эссе, позже переработанном в книгу, автор Николас Карр предположил, что ответ - да, утверждая, что такие технологии, как поисковые системы, ухудшают способность американцев глубоко мыслить и сохранять знания (то есть попросту запоминать - В.М.). В основе беспокойства Карра лежала идея о том, что людям больше не нужно запоминать или изучать факты, когда они могут мгновенно найти их в интернете. Хотя в этом, возможно, есть доля правды, поисковые системы по-прежнему требуют от пользователей критического мышления для интерпретации и контекстуализации результатов.

(...) С появлением инструментов генеративного ИИ интернет-пользователи не просто передают на аутсорсинг память - возможно, они передают на аутсорсинг и само мышление. Возникает важный вопрос: не делает ли ChatGPT нас глупее? Как профессор информационных систем, работающий с ИИ уже более двух десятилетий, я наблюдал эту трансформацию своими глазами. И поскольку всё больше людей делегируют когнитивные задачи ИИ, я думаю, стоит задуматься о том, что именно мы приобретаем и что рискуем потерять.

(...) Многих людей ИИ избавляет от необходимости анализировать источники, сравнивать точки зрения и справляться с неоднозначностью. Вместо этого ИИ выдаёт ясные, чёткие ответы за считанные секунды. Хотя эти результаты могут быть неверными, они, несомненно, эффективны. Это уже привело к значительным изменениям в нашем образе работы и мышления.

Но пассивное потребление контента, созданного ИИ, может подавлять интеллектуальное любопытство, снижать концентрацию внимания и формировать зависимость, которая ограничивает долгосрочное когнитивное развитие.

Рассмотрим эффект Даннинга-Крюгера. Это явление, при котором люди с наименьшими знаниями и компетенциями, как правило, наиболее уверены, поскольку они не знают, чего именно они не знают. Напротив, более компетентные люди, как правило, менее уверены в себе - они-то способны осознавать сложности, которые ещё предстоит разрешить.

(...) Некоторые [использующие ИИ] застревают на «пике глупости», используя ИИ как замену творчеству и мышлению».

Единственное, в чём профессор вынужденно лукавит - это слово «некоторые». Понятно, что среди использующих робота тех, кто застревает на «пике глупости», подавляющее большинство.

Мне нравится термин "пик глупости", поскольку он, на мой взгляд, не просто уместно называет явление, о котором идёт речь, но и содержит в себе отсылку к настоящим, расположенным IRL, горам.

Помните недавнюю историю о мордорской альпинистке по фамилии Наговицина, которая полезла на высочайший пик Тянь-Шаня в Киргизии, сломала там ногу и в мучениях рассталась с жизнью? Окончив свои дни так же, как её муж, умерший в 2021 году в ходе восхождения на Хан-Тенгри - там же, на Тянь-Шане.

Мужу, впрочем, было полегче: он не умирал медленно со сломанной конечностью, а просто не перенёс инсульта. Легко отделался, в общем-то, если сравнивать эти два способа окончательной отработки кармы в текущем перерождении.

Так вот, пациенты, добровольно лезущие на виртуальный пик глупости, чтобы остаться там навсегда - весьма похожи своей неадекватной самоуверенностью на тех, кто остаётся на Пике Победы и других равнодушных к человеческой возне горных вершинах Этого Глобуса. У гор, как принято считать в наше дзюбящее на достижения учёных жрецов столетие, тоже нет личностей, а потому Эльбрус или там Пик Победы над упоротыми альпинистами - не принимают никаких решений, не распределяют ресурсов, ничем не управляют, а просто занимают своё место в человеческих представлениях - ровно так же, как искусственные адиёты. Имея над последними вдобавок то преимущество, что наличие искусственных дятлоедов в оных представлениях требует расходования электроэнергии, тогда как наличие горных вершин - нет.

Горы любой живой человек способен увидеть без применения внешних костылей - смартфонов и прочих гаджетов. Тогда как искусственных адиётов - не способен.

Причём если созерцание горных пиков дарит множеству людей высокие мысли и умиротворение (не зря те же японцы так зациклены на Фудзи), то созерцание глубин виртуального дна - ещё до запиливания искусственных адиётов - одаривало юзеров лишь деградаций, которую начали "замечать" и  бить тревогу лишь относительно недавно:

Смартфон до 13 лет - прямой билет к разрушенной психике уже к совершеннолетию.

Чем раньше ребёнок получает смартфон, тем ниже у него показатели психического здоровья в будущем. Владельцы телефонов до 13 лет в два раза чаще страдают приступами агрессии, тревожности и оторванности от реальности. У девочек падает самооценка, у юношей начинается эмоциональная неустойчивость. К такому выводу пришла группа исследователей из Индии и США.

Ранний доступ к соцсетям же связан с серьезными изменениями в психике, которые не всегда фиксируются стандартными методами, пишет автор исследования доктор Тара Тиагараджан. Главные риски для детей - травля, проблемы со сном и напряженные отношения в семье.

Эксперты предлагают ввести для смартфонов те же ограничения, что для алкоголя и табака. В них входят: постепенный запрет пользования телефонами и соцсетями до 13 лет, обучение цифровой грамотности и ответственность IT-компаний за соблюдение правил.

«Масштаб потенциального вреда слишком велик, чтобы его игнорировать», - подытожила Тиагараджан.

В каком там году передовитые учёные жрецы начали пилить искусственных адиётов? Видимо, мало заказчикам было того влияния, которое намного раньше начали оказывать на снижение численности эльфийских пролов те же соцсети -

Соцсети могли негативно повлиять на психику и привести к росту суицидов у девочек и молодых женщин.



- понадобились более эффективные инструменты. Те, запиливанием коих любит прихвастнуть тов.Маскопуло:

Маск похвастался, что встроенный в соцсеть Твиттер AI-толмач, призванный быстро помогать людям понять публикации Правильно и сформировать Правильное отношение (см. советский мультфильм про Вовку "а вы что, AI-помощники, и думать за меня будете? - АГА"), был значительно улучшен.

Проверка показала что да. Оно стало более изворотливо врать, убедитесь по скриншотам (лежащим по ссылке). И чуть что - рассыпаться мелким бесом извинений и объяснений, впрочем не меняя утверждаемые тезисы.

Впереди нас ждёт ослепительное будущее; умственные калеки, воспитанные смартфонами и планшетами, покажутся Лобачевскими и Больцманами на фоне того, что получится если при виде любого текста сложнее "Вася лох" спрашивать у вездесущего толкователя "Грок, а это правда? А растолкуй на простом языке" и веровать в написанное "ибо это робот, автомат, оно врать не будет, оно беспристрастное и оснащено всеми знаниями мира".

Красота.

Оно оснащено, ага. Надо просто веровать, что оно врать не будет, радостно застревая на пике глупости и добровольно превращаясь в кожаного андроида.

Каковой теме и посвящён очередной пост на проекте "Концепция прогрессорской деятельности".

Оставить комментарий

Популярные посты:

• Ранее
• Архив