«Только небо, только ветер, только радость впереди» — 2

топ 100 блогов miguel_kud22.08.2025 /Продолжение. Начало и оглавление в предыдущей записи./

нашем первом цикле 2018 г.

А теперь представим, что мы поручили похожий поиск ИИ, который формирует свой ответ на основе наиболее вероятной цели пользователя. Он отсеивает основную массу выпадающих ему в поиске результатов как нерелевантные, например, считает ненужные результаты слабо связанными с той сферой, в которой работает пользователь. В 99,9% случаев решение ИИ отсеять какие-то результаты будет правильным, а в 0,1% случаев он ошибётся (цифры, разумеется, условные). Эта его ошибка будет отвечать за опцию, которая идёт вразрез с устоявшимися представлениями о взаимосвязи явлений, и ИИ, казалось бы, вполне «вправе» отмахнуться от найденного результата как инфошума, случайности. Попадись этот результат добросовестному исследователю, тот бы мог догадаться, что в данном конкретном случае «инфошум», расходящееся с логикой явление раскрывает существенно новое знание. Вспоминается приписываемое П.Л. Капице высказывание «чем дальше эксперимент от теории, тем ближе он к Нобелевской премии». Так вот, поиск ответов с помощью ИИ будет часто отбирать у исследователя возможность набрести на совершенно неожиданный, прорывной результат, заставляющий радикально изменить представления об устройстве мира, потому что о расходящихся с теорией случаях исследователь просто не узнает.

Слов нет, гипотетически можно представить себе алгоритм работы с ИИ, заставляющий его «подсвёчивать» выбивающиеся из колеи результаты, а не ожидаемые. Но и тут нас подстерегают две проблемы. Во-первых, заранее неизвестно, в каком из многих поисков вероятно появление нестандартного результата: человек не знает, что надо будет использовать именно этот алгоритм. Во-вторых, для понимания, что результат не просто рвёт шаблоны, но и несёт прорывной результат, тоже нужно человеческое знание, выходящее за рамки контекста, которому, с учётом ожидаемой задачи, обучили нейросеть. В приведённом выше примере о внедрении тематики ЧВК в российские политические обсуждения моё внимание привлекло то, что первый встреченный мною вброс с этим предложением был выложен в уже известном мне откровенно провокаторском блоге. Который никак не претендовал на аналитичность и выдвижение больших идей, зато встречался мне в других неблаговидных политических провокациях. Поэтому я сразу уцепился за находку. А вот ожидать такого же владения контекстами от ИИ, вообще говоря, нет оснований. Никто заранее не знает, что перед исследованием нейросетью тематики внедрения ЧВК в российские политобсуждения надо поручить ей найти в сети и запомнить всех анонимных персонажей, явно работающих в связке со спецслужбами и милицейским начальством, которые накануне беспорядков на Манежной площади три месяца бегали по Рунету с призывами «резать чёрных». Слишком алогично.

Таким образом, мы снова описываем сценарий пресечения эвристической деятельности (и вообще получения важных открытий) после перехода на массовое использование ИИ, о котором мы говорили как теоретически возможном в общем случае. Только теперь мы привели пример, как к этому ведут уже современные нейросети в конкретных ситуациях, причём не в результате их недоработки, а, наоборот, в результате сознательно выбранных алгоритмов целевого функционирования ИИ. Казалось бы, так нужная индивидуальная «подстройка» ИИ под запросы советующегося с ним пользователя и понимание сферы, в которой пользователь хочет разобраться, позволяет дать персонализированный ответ, наиболее нужный пользователю. И в 99,9% случаев это именно то, что надо. Однако в 0,1% случаев человеку будет полезен совсем не такой ответ, который он рассчитывал получить, а ответ, максимально далёкий от теории и ожиданий. Развитие знаний обеспечивает вот этот «рвущий шаблоны» 0,1%, а не банальные 99,9%. А создатели ИИ даже не поймут, что не так с их ориентацией на 99,9%.

* * *

Если мы говорим о сознательно обрубленных возможностях поисковиков, то к этому следует добавить и очевидные уже особенности ИИ, имеющие не конститутивный характер (как в случае с «одноканальностью» ответа), а, по-видимому, ситуативный. Это, например, склонность ведущих ИИ «подлизываться» к пользователю, не расстраивая его через резкий разрыв индивидуальных шаблонов. Ответы современных нейросетей на политически значимые и не только вопросы часто построены по принципу «Чего изволите?», ведь зачем обижать людей и резко тыкать их мордой в собственные ошибки? Это позволяет ведущим нейросетям сохранить потребителей, которым более приятно общаться с вежливым собеседником. Однако в результате ориентации на психологический комфорт подавляющего большинства пользователей, которые традиционно ищут в сети подтверждение своих взглядов, доверчивый пользователь ИИ будет пребывать в инерционной реальности, из которой ИИ не будет даже пытаться его вытягивать. В живом человеческом обществе с разными точками зрения, когда человек сталкивается с противоречиями, больше шансов на принципиальное расширение картины мира, чем в общении с норовящим угодить ИИ.

* * *

Персонализация и максимальная подстройка искусственного интеллекта под пользователя обращают нас к ещё одному аспекту новой технологической эпохи. До сих пор мы анализировали последствия развития ИИ как такового, допуская только «добронамеренные» искажения с его стороны, не направленные злонамеренными третьими лицами. Однако развитие и использование ИИ в сторону превращения в единственный (и одноканальный, безвариантный) источник информации, который подстраивается не только под клиента, но и под его картину мира, под ожидаемые им ответы идёт так, что он не может не применяться для манипуляции. Вопрос только в том, когда ИИ будет потакать пользователю, а когда — незаметно для него слегка корректировать картину мира в «нужную» сторону.
И манипуляционное создание индивидуализированной реальности тем сложнее будет распознать, чем ближе подходят трактовки к ожиданиям. Вот уже ChatGPT собирается предоставить почтового клиента, который полностью возьмёт на себя переписку пользователя: читать и разбирать корреспонденцию, отвечать и всё такое. Как двое из ларца из «Вовки в тридевятом царстве»: «А, это вы и пальцы за меня загибать будете?» — «Ага». ИИ всё больше превращается в абсолютно индивидуализированного, точно подогнанного под клиента помощника, через которого клиент делает абсолютно всё и без которого ничего не делает, даже «видит его глазами». Внедрить через ИИ нужную картину мира теми, кто контролирует нейросети, просто «подкрутив» выдаваемые им результаты, и без того манипуляционные, становится настолько «плёвым» делом, что эта возможность не может не быть использована, а может и уже используется вовсю.

«Только небо, только ветер, только радость впереди» — 2 vovka.png

Создание с помощью ИИ индивидуализированной, персонализированной картины реальности может быть распространено манипуляторами на любые человеческие группы: какие-то представления могут навязываться уже не отдельным людям, а группам, народам, блокам стран. Ещё до массового выхода ИИ на авансцену была развёрнута программа «разделения» национальных ноосфер, если понимать под этим термином систему бытующих представлений, картины мира, стилей мышления. Лично я заметил это по тому, как для аудиторий РФ и Украины вещают всяческие тарологини и прочие визионеры: и там, и там насаждается принятие идущей сейчас войны как неизбежного зла, в ходе которого наступит ужас-ужас, но вот конкретно та страна, на которую вещает данный рупор, якобы непременно спасётся в конечном итоге — именно такой нарратив от «ясновидящих» помогает минимизировать сопротивление проектной бойне. А за последние три года для пресечения межстрановых информационных обменов сделано столько, включая запрет мессенджеров и блокировку сайтов, что не возникает сомнений в преднамеренном разграничении ноосфер с целью облегчения раздельного манипулирования ими, организации безнадёжных вековечных войн и взаимной утилизации. Надо сказать, первую скрипку в милитаризированном отграничении своей ноосферы сыграл Запад, за 2014-2017 годы выстроивший систему «отмены» и недопущения не просто «пророссийских» идей, движений, общественных деятелей, а любой точки зрения, призывавшей учитывать интересы России и выстраивать с ней диалог вместо одностороннего повелевания, что ещё она должна сдать и как. Западная политически значимая ноосфера, таким образом, была отграничена от диалога с российской не столько технически (блокировка российских СМИ), сколько институционально. Одновременно отграничивал свою ноосферу Китай, но уже скорее технически, создавая «автономный» Интернет. РФ как будто идёт к воспроизводству китайского опыта после 2022 года, причём западные партнёры ей в этом помогают: чего только стоит запрет для российских пользователей пользоваться ChatGPT от компании-создателя! Западу тоже не надо, чтобы граждане РФ знали западную точку зрения, ему не нужен никакой диалог и его вполне устраивает превращение русских в совершенно чуждых западному человеку «инопланетян».

Дополнительным фактором манипуляционной возможности искусственного интеллекта становится прискорбно высокая авторитетность ответа нейросети для простоватой публики (тех самых 99,9%, на которые ориентированы одноканальные ответы ИИ) по сравнению с утверждениями отдельного человека, будь он хоть семи пядей во лбу, или результатами поиска им информации через поисковик и последующей обработки. Уже сейчас пропагандистские сеточки со стороны Украины и РФ вытаскивают на свет божий какие-то неполиткорректные формулировки от нейросети Grok, чем-то оскорбительные или разоблачительные для эрэфянской или укровской идеологии, и несут это по каналам и платформам с воплем: «Вот видите, сам Grok такое сказал!!!». В лучшем случае, эти оскорбления просто высмеивают глупую идеологию, но не несут содержательной альтернативы. И ведь они всё равно не доносятся до носителей высмеиваемой идеологии, а служат раздуванию ненависти и чванства среди секты сугубо «своих». А теперь представим, как со временем дозволенная «общепринятая мудрость» от ИИ, неважно, сознательно «подкрученная» манипуляторами или просто наследующая всеобщее заблуждение, будет забивать любое нестандартное мнение, любую попытку обратить внимание общества на доселе незамеченную угрозу!

Говоря о краткосрочных перспективах, следует упомянуть очевидно идущее пока разделение мира на две зоны, в одной из которых (западной) эффективнее работает ChatGPT и, по всей видимости, ограниченно работает DeepSeek, а в другой (околокитайской, включая РФ) — наоборот. Недалёк тот час, когда ИИ, господствующие в разных блоках, будут склонять подвластную аудиторию к соответствующему «индивидуализированному» (по странам) видению геополитической реальности.

* * *

Размышляя об индивидуализированной реальности, которую будет создавать для людей современный ИИ, я вспомнил прочитанную в 80-х книгу советской фантастки Ольги Ларионовой «Чакра Кентавра». В ней описывался мир, в котором незрячие люди жили в симбиозе с крэгами — птицами с телепатическими способностями, которых с рождения сажали младенцам на головы, и последние так и вырастали, видя мир глазами крэгов. К концу книги выясняется, что крэги не только помогали людям видеть окружающее, но и сильно его искажали в выгодную им сторону, манипулируя людьми по своему усмотрению. Перечитав этим летом книгу, я узнал, что у неё есть продолжения: «Делла Уэлла» (1996 г.), «Евангелие от крэга» (1998 г.) и «Лунный нетопырь» (2005 г.); анонсированную пятую книгу «REX» автор так и не написала. Цикл оказался вполне пророческим в том плане, что в нём раскрыты многие положения теории ПЧА, до которых мы с таким трудом дошли после 2017 г. Это идея о манипуляции с помощью навязывания ложной картины мира (с характерными деталями подстроенного гадания на картах, провоцирования геноцида мирных народов через сатанизацию), идея о «подстройке» внешней управляющей силой механизмов внешнего управления к уровню развития и верованиям каждой цивилизации, это разные детали, свидетельствующие о понимании автором психологических особенностей представителей управляющей силы, ограниченных возможностей борьбы с застарелым манипуляционным управлением, с паразитирующим симбиотом, понимание использования спецслужбистских информационных технологий вроде запуска инфовброса «по кругу».

Указанные книги интересны и своим футурологическим видением, если понимать под ним многовариантность сценариев дальнейшего развития, определённую теми или иными параметрами. В приложении к современной Земле я бы, вслед за Ольгой Ларионовой, выделил следующие параметры, определяющие долгосрочное развитие человечества. Во-первых, это пределы развития искусственного интеллекта, его способность заместить человека в общем управлении техносферой. Если это замещение продвинется далеко, то деградация человечества высоковероятна. Во-вторых (второй пункт — уже добавка от меня, не от Ольги Ларионовой), это способность ИИ заместить человека в принципиально эвристической деятельности и способность человечества сохранить независимые от ИИ сферы познавательной деятельности, чтобы был достаточный задел внемашинного развития. В-третьих, это выбранный способ решения (или игнорирования) экологической проблемы, перерасхода ресурсов и перенаселения. В-четвёртых (по важности даже в-нулевых), это планы внешней для человеческих обществ управляющей силы и человеческое сопротивление им. При продвинутом понимании какие-то из этих параметров могут оказаться эндогенными, зависимыми от других «экзогенных» факторов. Заметим, международный аспект у автора вообще не рассматривался, если не считать глубокого замечания о приспособлении системы манипуляционного внешнего управления к специфике каждой из планет-цивилизаций, и иллюстрации принципиально разных механизмов этого управления, по сути остающихся одним и тем же. Так вот, мне показалось довольно убедительным представление Ольги Ларионовой, что самые разные сочетания ключевых параметров технологического развития с большой вероятностью (но, конечно, необязательно) ведут к той или иной форме деградации человечества: замораживанию технологического прогресса, потере достигнутых способностей, безнадёжной порче среды обитания, откату назад в системе управления, радикальному сокращению населения по итогам какой-то катастрофы.

Такая многовариантность современных технологических перспектив, отсутствие единого магистрального сценария и, в то же время, наличие высоковероятных «аттракторов», к которым большая часть человечества всё равно будет идти разными путями, — примерно то, что ожидает и нас.

/Продолжение следует./

Оставить комментарий

Архив записей в блогах:
Как же меня бесят люди, возомнившие себя судьями и критиками!!!!!! Слов нет!!!!!!! Сами они обычно ничего не умеют, зато по их мнению, окружающие все делают не так, не правильно, не о том пишут , не о том говорят, не те фильмы смотрят, не те книги читают и т.д. Если ...
Прекрасный зимний Рыбинск нам очень понравился, если бы не мороз в -35 градусов. Увидели, мы, увы, немного в таких условиях, но захотелось вернуться летом :)  Спонсор ...
Вчерашние фотографии. Сегодня день ничем не отличается. Только вчера снег хоть пунктирно увидеть в парке было можно, а сегодня уже и следа нет. Такой вид на горы А это в другую сторону от гор. Город пустынный. Народ гуляет в парке. ...
Николай I стремился укреплять существующий в России порядок, избегая радикальных преобразований и новшеств (за исключением технических!). Он начал с того, что необычайно расширил функции Собственной его императорского Величества канцелярии, дабы еще крепче держать все нити ...
Месяц назад несчастную привезли под ворота частного дома, который Мухтарова с добровольцами снимает для бездомных, оказавшихся в морозы на улицах Новороссийска. Медики, как говорит ...