lytdybr

ailev — 30.07.2025 Опубликован мой второй разговор в подкасте "Ноосфера", https://youtu.be/nZwtZk2oQHs. Еще раз пообщались с Сергеем Суховым, автором ТГ-канала https://t.me/sukhovjournal. Разговаривали о том, как из Школы системного менеджмента получилась Мастерская инженеров-менеджеров, как сильно изменилась инженерия, как я при помощи AI создавал сначала унифицированный системный подход, а потом и first principles framework, наговорили на полтора часа.

В gonzo-обзорах как обычно, много околофилософских дискуссий. Я там похихикал ещё раз про рабоче-крестьянское (AI researches сегодня - это ж и есть рабочие и крестьяне 21 века) понимание экономики. Например, безусловный базовый доход понимается как "раздача денег, вроде той, которая была во время ковида". До сих пор всем икается от этой раздачи, инфляцию же никто не отменял от раздач денег. Если раздача денег такое простое дело, то почему не раздать бы сейчас каждому по миллиарду-другому? Не ждать нового ковида и AGI? При этом есть много самых разных схем "безусловного базового дохода", все они называются примерно одинаково (Full Universal Basic Income, Partial Basic Income, Negative Income Tax,Resource/Social Dividends, Guaranteed Minimum Income, Deficit-Financed UBI -- большинство пляшут вокруг идеи поиграться с перераспределением от тех, кто работает хорошо к тем, кто работает похуже по совокупности причин), но устроены абсолютно по-разному -- собеседники этого вообще не учитывают. Ещё пример - это рассуждение про "AI отберёт всё работу, а зарабатывать будут только крупные корпорации с нулём людей". Исходят при этом почему-то из неявного тезиска, что сумма работ на планете постоянная. И если какие-то работы взяты, то работ становится меньше. Это же ни разу не так! Когда работу отняли у крестьян, люди пошли на заводы, когда заводов стало поменьше, пошли в офисный планктон, когда офисного планктона стало поменьше, пошли в маникюрную экономику (grooming), а дальше ещё что-нибудь придумается. Опять же, если за AI (как сервис) никто не платит, то его никто и не делает, даже AI-агент из их толпы будет ограничен в ресурсах. Калькуляционный аргумент Мизеса при этом до сих пор не фальсифицирован, так что работает и для AI-агентов. Если все без работы и без денег, то никто ничего не покупает, поэтому бизнесы обанкротятся. Ну, или AI будут покупать у AI, бизнесы не обанкротятся, экономика просто станет безлюдной, так вроде и сейчас бизнесы с очень небольшим количеством людей покупают много у бизнесов с очень небольшим количеством людей, но все они в конечном итоге пока работают на удовлетворение потребностей людей. У экономики нельзя раздельно обсуждать потребление и производство, при этом нельзя исходить и из того, что есть "баланс спроса и предложения", равновесие. Равновесия нет, оно динамическое. При этом спрос и предложение только растут, общий объём производства только растёт (кризисы перепроизводства и последующие межотраслевые переливы капитала тут нормальное явление, длинного тренда не меняют), он не постоянный - это почему не обсуждается? Вот чего не хватает во всех этих рассуждениях "на коленке", так это опоры на хоть какую-то теорию (скажем, праксиологию как "математику деятельности агентов", над которой уже выстраиваются разные "физики" - экономика, право, социология).

Сокращение работников от AGI/ASI обсуждается только текущих, почему не обсуждается сокращение работников абсолютное, от всемирного падения рождаемости? Подвымереть численно человечество собирается от того, что жить стало слишком хорошо, поэтому не нужны дети для подачи воды в старости. Как справедливо говорит Евгений Пескин, стакан воды в старости приносит водопровод, от колодца за 200 метров воду старикам тащить не надо. Поэтому всё быстренько развернулось: теперь не дети работают на родителей, а родители на детей -- и старые родители кормят взрослых детей, "подают им стакан воды", а не наоборот. Вот всё стремительно и развернулось с народонаселением, во всех странах мира, даже в Китае, даже в Индии. И, заметьте, никакого AGI как угрозы человечеству, всё без его помощи, это сокращение численности homo sapiens на планете сделано абсолютно самостоятельно самими мясными людьми, просто резко улучшившими свои условия существования.

Одновременно продвигается обратная тема: сегодняшний AI настолько плох, что не может работать. Ну вот по моей предметной области мне нужны спецы 10 разных профессий, и чтобы у них было много времени. Их просто не соберёшь такую команду. А с AI я беседую про свои проблемы. Да, тупит AI (беседую сразу с тремя от трёх постащиков, везде плюс-минус одинаково), но другого-то пути нет. Прототип я смастерю с AI, а без AI — нет шансов с такой скоростью, как сейчас получается. Поэтому для меня superhuman не в том, что один человек, который сможет что-то лучше меня или лучше кого-то, а команда обычных human, которые тупят, но которых я задёшево себе ни разу не могу заполучить. Поэтому я смотрю на всех этих пропонентов и критиков, а сам активно пользую и имею своё мнение. У цифровой фотографии была куча критиков на её заре, а я пользовал Olympus С1000L 1998 года и посмеивался над критиками — ибо это давало невиданные возможности по сравнению с цветной плёночной фотографией, которая по качеству была вроде тогда лучше, только вот недоступна обычно по весу, времени, стоимости и прочим подобным характеристикам. Вот и нынешний AI даёт невиданные возможности по сравнению со всякими консилиумами умных людей, которые тебе недоступны и поэтому их можно и не учитывать. Поэтому критики идут критиковать, а остальные работают с AI и над критиками хихикают. В прессе же — ошибки выжившего, показывают только провалы, ибо если AI сработал хорошо, то этого никто не замечает, а если плохо — то можно опубликовать занятный случай!

Ну, работ по реальной критике мышления людей тоже до чёртиков, личный опыт ошибающихся людей тоже ой какой, опыт использования natural intelligence вообще чудовищно богат на понимание избыточности похвалы отдельному natural/human intelligence, но вот на этой среднечеловеческой тупости были достигнуты неплохие результаты: комп, на котором я печатаю эти строки, интернет, софт социальных сетей, где всё это читают. Если начинать кидаться разными ASI, AGI и сетовать на то, что они убоги, то сначала надо эти же аргументы применить к Васе с улицы, или даже профессору Васе с улицы (неважно даже, по какой дисциплине он профессор). Потом окажется, что это всё споры о терминах. Мой пойнт простой: люди тупы, AI тупой - но других пока на планете нет, поэтому пользоваться приходится AI, потому как он а) дешевле и б) не такой тупой, как это можно вычитать в критике. Так что я с надеждой жду следующего поколения моделей, а следующее поколение людей останется того же уровня умности. Интерес поговорить с людьми (задорого! люди себя ой-ой как ценят) будет ещё чуть меньше, чем интерес поговорить с не таким дорогим AI. Но критики будут ещё долго утверждать, что AI проблемен. Нет, это интеллект как таковой проблемен, люди тут не лучше ни разу. Но AI вроде как находят способы улучшать, с каждой новой моделькой AI умнеет, а вот с людьми не очень получается в сравнимых масштабах. Хотя постойте... что там говорилось про использование людьми AI? Поэтому я не воспринимаю всерьёз всю эту критику AI, AGI, ASI. С людьми надо сначала разобраться, как с ними работать с учётом их заведомых когнитивных искажений, желания смухлевать и т.д. Если критик AI этого не пробовал с людьми, то некомпетентен, уволить. Вся эта тема как тема про "сознание": сплошная художественная литература. Надо не отвлекаться на эти пустопорожние сетования на глупость AI, а работать с текущими моделями (со всеми их недостатками, немного разными у моделей разных поставщиков), с нетерпением ждать следующих моделей. С людьми тоже можно работать, спору нет. Но для людей как-то не ожидаешь следующих более умных моделей, а уже имеющиеся хорошие модели людей обычно тебе недоступны: им с тобой неинтересно разговаривать, или за разговор они требуют таких денег, каких у тебя нет. Всё, с этого момента AI текущей глупости победил, как бы ни был (пока!) плох.

Ещё один свеженький разговор -- это про то, что автоматизируются не унылые рутинные работы, которые люди с удовольствием бы передали компьютерам, а наоборот -- творческие, которые можно было бы компьютерам не передавать, https://arxiv.org/abs/2506.06576, https://hai.stanford.edu/news/what-workers-really-want-from-artificial-intelligence, https://www.forbes.com/sites/moinroberts-islam/2025/06/30/future-of-work-41-of-ai-startups-build-automation-workers-dont-want/. Но платят-то за автоматизацию не работники, а работодатели. Поэтому работодатели автоматизируют по возможности самую дорогую "творческую" работу, ибо эта работа оказывается не такой уж творческой и её можно купить дешевле! А сделается она примерно с таким же качеством, как и человеческая (при этом огромная часть творческой работы делается вообще ненужной, всякие "эксперименты", "пробы", "попытки", не идущие дальше в дело, это ведь и есть "творческий поиск"). По большому счёту, так автоматизируется вообще всё подряд, без разбора, если это выгодно. Начиная с перехода от мотыги к плугу на бычьей тяге, тоже ведь "автоматизация".

Что касается моей работы с AI, так она уныла и равномерна, как любая работа по программированию, или как любой большой консалтинговый проект: хорошие новости тогда, когда новостей нет. Я уже смог отказаться от больших промптов, когда получил FPF -- промпт-инструкцию. Но мне надо менять сам FPF под его же управлением. ОК, я добавляю в него самого средства рекурсивности для того, чтобы он мог развиваться. Но как делать большие эволюционные переходы, как менять архитектуру? Ещё один класс промптов, которые пришли из "обычной жизни разработчика", это записи об архитектурных решениях. Поэтому я уже несколько дней обсуждаю с товарищами из числа нежити набор ADR для переписки First principles framework. Есть большие планы по переделке этих ADR (начиная с того, что там часть решений не архитектурные, а другие: визионерские, методологические, разработчика-проектировщика и т.д.). Конца-края этому не видно, но ряд интересных решений при этом уже появился: неявные мои ожидания от проекта стали явными и записаны теперь письменно. В итоге переписки будет три части: одна концептуальная (микроядро и плагины-архитеории), другая человекоориентированная (руководства интеллект-стека), третья - инструкция по ведению базы знаний проекта на основе knowledge graph. В FPF заявляется штук восемь всяких levels, ladders, scales, tiers, rungs и т.д., и для разных артефактов и даже фактов, а нежить упорно хочет вести строгий и автоматизированный учёт их формальности, надёжности, общности и прочих важных характеристик. Я не думаю, что это вот так уж осмысленно в текущем виде, но без tooling (а в наших руководствах это называется экзокортекс) всё равно мышление не обойдётся, поэтому пусть эта часть будет. В любом случае, предусмотрена "лестница инструментальности": инженер без ничего, инженерный проект "с PLM", инженерный проект со строгими требованиями к формальным доказательствам - и там даже HoTT, почему бы и нет (поэтому в тексте приходится "логика" менять в большинстве мест на "математика"). То есть принцип там такой, что каждый может получить себе нужную ему степень серьёзности, но это просто будет отмечено. Ну, и там ещё много всего интересного, например те же canvas (которые сейчас больше известны под названием мантр) уже описаны. Поглядеть на текущий кривоватый набор ADR одним глазком можно вот тут: https://disk.yandex.ru/d/qbEwoQ6Jm_LgbA, текущий FPF (который будет переписан) вот тут: https://disk.yandex.ru/d/FeMwAUgjHgfFRA. Рекомендация прежняя: текста там много, он замороченный и вперемешку человечьи куски с кусками YAML для инструментальной поддержки и заумной теоркатегорной математики для самых-самых формалистов, поэтому просите там разобраться свою любимую LLM и рассказать вам то, что вам интересно. Читать это глазами не так интересно. Ну, или традиционно: дать своей любимой LLM и попросить с этим подходом помочь вашему проекту. Это уже наши инженеры-менеджеры делали, у кого-то не сработало, но у некоторых -- сработало, они получили свои инсайты для проектов.

Оставить комментарий

Популярные посты:

• Архив