Контр-аргументы в пользу роботизации экономики (II)

giovanni1313 — 22.05.2025 (продолжение)
<< Часть I <<


5. Разрыв в скорости между машиной и человеком НЕ уменьшается

Чтобы обосновать свой пессимистический взгляд на скорость роботизации экономики, исследователь Эге Эрдил подключают теорию. В частности, известный парадокс Моравека. Он гласит, что машины могут сильно превосходить человека только в тех областях, которые не оптимизированы эволюцией за миллионы лет. А если речь идёт о такой области, как агентность, способность самостоятельно действовать в окружении и добиваться своих целей — то здесь машинам безумно тяжело угнаться за биологическими мозгами.
Но вместо того, чтобы заранее паниковать перед теоретическими предпосылками, давайте лучше посмотрим на практику. Видим ли мы в сложных задачах — и особенно в задачах, релевантных для экономики — проблемы с низкой скоростью работы машин?

Пожалуй, самый красноречивый пример — система «DeepResearch» от «OpenAI» (а также аналогичный продукт от «Гугла»). Система, напрямую покушающаяся на работу человеческих специалистов и способная создавать такие разнообразные документы, как технико-экономические обоснования, аналитические обзоры, обзоры научной литературы и так далее.

Некоторые из пользователей делятся примерными оценками времени, которые понадобилось бы человеку для составления аналогичных документов. И там, где система выдаёт отчет за несколько десятков минут, человеку требуются недели работы. Если попробовать оценить разницу в скорости более конкретно, то это порядка 300х-500х преимущество.

Игнорировать такую разницу и преждевременно «хоронить» потенциал машин было бы очень неуместно. Но именно это и делает Эге Эрдил. Более того, он почему-то утверждает, что разница в скорости между «DeepResearch» и человеком не превышает и 10х — что совершенно не соответствует действительности.

Для полноты картины взглянем на итоги свежего исследования способностей моделей, проведенного некоммерческой лабораторией METR. METR’овцы сосредоточились на задачах из области ИТ, максимально приближенных к реальным заданиям для человеческих работников. Как раз то, что нам нужно. И подсчитали стоимость их выполнения машиной и человеком. Получилось такое распределение разницы в стоимости:
Разброс весьма велик. В том числе и потому, что на этом графике отображены результаты для разных ИИ-моделей. Но для более-менее сложных заданий, на выполнение которых человеку требуется несколько десятков минут и более, медианное преимущество машин составляет 50х-100х.

Это, во-первых, опять огромная разница, которую невозможно игнорировать. Во-вторых, разрыв между человеком и машиной, по-видимому, даже немного увеличился по сравнению с аналогичным исследованием, выполненным летом 2024. Где METR насчитал 30-кратную разницу. То есть здесь тоже нет оснований говорить о негативной динамике.

В-третьих, и в-главных, график не показывает никакого тренда на то, что в более сложных и более длительных («более агентских») заданиях преимущество машины перед человеком начинает таять. Скорее оно только растёт — впрочем, здесь могут играть роль иные факторы, и лучше проявить консерватизм.

Так что практика пока никак не подтверждает взгляды Эге Эрдила. А как же эволюция и оптимизация биологических мозгов на протяжении миллионов лет? Возможно, всё дело в том, что нынешние трудовые задачи человеков не сильно перекликаются с опытом миллионов поколений обезьян. Обезьянам нужно было вовремя замечать хищников и искать труднодоступную еду. А не пилить сайтики на React.js и писать запросы к реляционным базам данных. И если человечество не собирается возвращаться обратно к первобытным порядкам — у ИИ есть шанс сильно обогнать человека в выполнении экономических задач.
6. Человеческий мозг не предназначен для выполнения профессиональных задач

Следующий аргумент является классическим для ИИ-скептиков. Он апеллирует — немножко утрируя — что заменить человека может только человек. Якобы мы с вами, представители вида homo sapiens, настолько идеально подходим для выполнения экономических задач, что любая машина, претендующая на экономические роли, просто обязана неукоснительно копировать все человеческие свойства. Как говорится, «по образу и подобию». Антропоцентризм был популярной точкой зрения задолго до появления термина «искусственный интеллект».

Самым важным пунктом в позиции сторонников «по образу и подобию» является человеческий мозг. Действительно, остальные отличия homo sapiens от его биологических родственников совсем невелики: 97% генома шимпанзе и человека совпадает. А вот в мозгах имеется разница: у человека он большой, а у шимпанзе — не очень. Поэтому, утверждают сторонники «по образу и подобию», машина должна непременно догнать и перегнать человека по количественным характеристикам мозга (у человека 86 млрд. нейронов и 150 трлн. синапсов). А там, говорят сторонники, количество моментально перейдёт в качество, и машина наконец будет удостоена чести считаться полноценной заменой в человеческих профессиях.

При этом сторонники деликатно замалчивают неудобные контр-примеры к их количественным требованиям. Например, крупные животные вроде слона и китообразных имеют в разы больше нейронов, чем человек. Но никто пока не возлагает на этих животных больших надежд в области замены работников.
Ситуация выглядит чуть лучше, если брать только подсчеты нейронов в коре головного мозга. Человеку удается даже обойти слона и некоторых китообразных. Но, опять-таки, не всех, и на качественную разницу это никак не тянет.

Возможно, дело всё-таки не в размере, а в том, как его использовать? Действительно, исследования метаболической активности человеческого мозга подтверждают эту истину. Дело в том, что потребление энергии нашим мозгом на удивление стабильно и слабо зависит от того, спит человек, отдыхает или же решает в уме сложные проблемы. По современным оценкам, напряженная умственная деятельность способна повысить интенсивность метаболизма мозга лишь на 5-8%. А ведь большая часть энергии расходуется мозгом именно на нейронную активность.

Другими словами, умственная работа не требует от человеческого мозга каких-то масштабных вычислительных затрат по сравнению с отсутствием этой самой умственной работы. Этот мысль хорошо сочетается с выводом из предыдущего пункта: эволюция миллионы лет формировала мозг приматов совсем не для абстрактных рассуждений. Вся наша интеллектуальная мощь — лишь небольшая подпрограмма, которая не сильно обременяет «хардверные мощности» внутри нашей черепной коробки. Что и позволило человечеству добиться такого ошеломляющего прогресса на фоне отсутствия значимых физиологических изменений, практически одномоментно с точки зрения темпа эволюции.
Но сторонники «по образу и подобию» не приемлют никакого принижения характеристик человеческого интеллекта. Ибо произвольно взятая подпрограмма уже не может считаться образом и подобием! Только во всей своей сакральной целостности мозг имеет право носить в себе Священный Разум!

Впрочем, скоро сакральный подход меняется на наукообразность. Потому что дальше сторонники «по образу и подобию» пытаются привести к общему знаменателю человеческий мозг и полупроводниковую микроэлектронику. Задача нетривиальная — куда нетривиальнее, чем пресловутое сравнение яблок и апельсинов. Но если философствования на тему яблок и апельсинов вряд ли кого-то заинтересуют, то натягивание биологического мозга на глобус микропроцессорных технологий выглядит достаточно внушительно. И позволяет впечатлить неподготовленного читателя познаниями как в области нейробиологии, так и в микроэлектронике.

Владение терминологией, увы, не сильно помогает задаче. «Натягивание» превращается в поиск самых удобных и самых простых аналогий, об адекватности которых сторонники «по образу и подобию» заботятся мало. Возьмем анализ, на который опирался Эге Эрдил при подсчетах мощности вычислительной инфраструктуры, требующейся для роботизации всех рабочих мест на планете. Анализ подробный и честно предупреждающий, что целью расчетов является эмуляция работы мозга, а совсем не практические требования к «хардверу» для замещения человеческих профессий.

Но это не спасает его от описанных выше грехов. Проблемы начинаются уже на этапе подсчета числа срабатываний нейронов в человеческом мозге. Эксперты дают оценки, различающиеся на 4 (!) порядка. Консенсус снижает разбег до 1 порядка. При этом консенсус игнорирует расчеты, выполненные методом оценки энергетических затрат и показывающие довольно низкий темп активации нейронов в коре головного мозга, 0,16 Гц.
Оценки числа синапсов в человеческом мозге тоже разнятся на порядок. И в итоге диапазон потенциального числа синаптических сигналов в анализе разбегается на два порядка: от 10^13 до 10^15 сигналов в секунду.

В общем, получаются упражнения в спекуляциях: по-другому подобный разбег интерпретировать трудно. Стоит ли строить на такой шаткой базе какие-то далеко идущие выводы и прогнозировать конкретные уровни требуемой вычислительной инфраструктуры? Мне это кажется сомнительным занятием.

Гораздо полезнее было бы смотреть не на «образ и подобие», а на функциональные достижения конкретных моделей. О вычислительных затратах которых мы знаем вполне достаточно. Даже нескольких примеров будет достаточно, чтобы опровергнуть предпосылку о том, что только мощь человеческого мозга способна осилить экономически востребованную работу.

Создание изображений? Потребительская видеокарта за несколько десятков секунд создаст картинку, которую человеческий профессионал-художник не сможет нарисовать и за несколько месяцев труда.
Вождение автомобиля? Беспилотники компании ”Waymo” вряд ли имеют на борту больше двух ИИ-видеокарт. И при этом водят машину, по статистике, в 8-12 раз безопаснее, чем средний человеческий водитель.

Подбор и найм персонала? ИИ-агент на базе небольшой языковой модели проверит поступившие резюме, проведет интервью с подходящими кандидатами и выберет лучшего из них. Стоить это будет совсем копейки, никакой гигантской вычислительной инфраструктуры не требуется.

Итак, можно добиваться большого малым. Главный момент, про который стоит помнить — это специализация. Эволюция не имела возможности как-то специализировать мозг человекообразных обезьян: геном был один на всю популяцию, наши предки жили малыми группами. Доставшийся нам в наследство «хардвер» достаточно универсален, чтобы обеспечивать выживание и в дикой саванне, и в цивилизованной цифровой экономике. Но насколько он универсален — настолько же он и неэффективен в плане задействования «вычислительных мощностей» для выполнения профессиональных задач.
В то время как алгоритмы можно специализировать и оптимизировать сколь угодно глубоко. Этот инженерный потенциал, этот потенциал для оптимизации использования вычислительных ресурсов означает, что машины могут легко превзойти человека в эффективности.

7. Экономическая отдача от актива определяется балансом спроса и предложения

Чтобы подкрепить свой скептический взгляд на перспективы ИИ, Эге Эрдил приводит следующий аргумент. Пускай с момента «революции ЧатГПТ», с декабря 2022, способности ИИ-моделей очень выросли. Но при этом выручка от ИИ-моделей, в расчете на один ускоритель Nvidia H100, за это время почти не изменилась.

Значит, делает вывод исследователь, эти ваши ИИ-модели не в состоянии приносить экономическую пользу с приемлемым уровнем вычислительных ресурсов. Чтобы появилась польза, ресурсов надо очень много. То есть никакие экономические прорывы невозможны. Более того, весь быстрый рост способностей ИИ в 2020-2025, который ИИ-оптимисты любят экстраполировать в будущее, по факту имеет незначительный эффект с точки зрения экономики. И именно этот незначительный эффект и надо экстраполировать на ближайшие годы.

Что на это стоит возразить? Любая экономическая отдача от той или иной технологии определяется балансом спроса и предложения. Спрос мы разбирали выше, в 1-ой и 2-ой части этого поста. Для динамики спроса важны конкурентные преимущества перед альтернативами (в нашем случае — человеческими работниками). Чем больше конкурентных преимуществ — тем ближе переломная точка — тем больше растёт спрос.
Там же мы упомянули, что до переломной точки ИИ еще не дошел. То есть спрос на технологию растёт небыстро (у ИИ мало конкурентных преимуществ по сравнению с человеками). Но и не совсем медленно: скорость развития технологии, скорость появления у нее новых конкурентных преимуществ по историческим меркам довольно высока.

Теперь посмотрим на сторону предложения. Мы увидим, во-первых, взрывной рост числа ИИ-компаний, предлагающих эту технологию клиентам. Во-вторых, взрывной рост финансирования этой темы как со стороны венчурной индустрии, так и со стороны ИТ-гигантов. Ни ИТ-гиганты, ни, тем более, венчур не требуют от финансируемых проектов агрессивной монетизации. Более того, они вполне готовы субсидировать убытки от таких продуктов.

В-третьих, момент «революции ЧатГПТ» практически совпал с моментом «революции ИИ с открытыми весами», то есть свободного распространения мощных ИИ-моделей. Свободное распространение подразумевает, что ИИ-компания фактически уходит от монетизации своего продукта. Центром генерации выручки становится предоставление облачных мощностей.

Красноречивым свидетельством «переизбытка» на стороне предложения является то, что почти все ведущие ИИ-компании бесплатно предоставляют базовый доступ к своим моделям.

Пока существует переизбыток предложения, пока рынок остаётся очень конкурентным — ИИ-компаниям будет сложно наращивать доход со своей вычислительной инфраструктуры. Для изменения этой ситуации нужно сначала упереться в «бутылочное горлышко» по производству ИИ-ускорителей. Это реалистичный сценарий, но всё-таки он лежит в будущем. До сих пор динамика отрасли была совершенно иной. И эта динамика никак не подтверждает тезис Эге Эрдила.

Заключение: скепсис против оптимизма

Если мы станем обобщать все эти контр-аргументы — то увидим, что многие из них опровергают чрезмерно скептические взгляды на ИИ. Они опровергают тезисы о том, что ИИ слаб, что прогресс в этой технологии тормозится, что какие-то области не скоро станут доступны для ИИ.

Потенциал развития ИИ далеко не такой ограниченный, как предполагают скептики. Многие «фундаментальные» барьеры существуют только в их воображении. Технология берет всё новые барьеры. С темпом, который опережает даже оптимистичные ожидания.

Но большой потенциал ИИ сталкивается с запредельной сложностью задачи. Человеческая экономика, глобальные потребности в трудовых ресурсах — это огромные, необъятные вызовы. Эге Эрдил практически не касается этого аспекта в своем анализе — но именно эта сложность в конечном итоге будет определять сроки автоматизации.

Автоматизировать миллион специальностей будет трудно, очень трудно. Требование догнать «мощность» мозгов человекообразных обезьян выглядит избыточным — но в любом случае потребуется наращивать объемы производства микроэлектроники на порядки. А если мы еще и вспомним про законодательные, регуляторные ограничения, которые будут искусственно тормозить замещение рабочих мест…
В общем, трудно представить, как широкая автоматизация экономики может быть развернута за 2-3 года. Моя оценка — 12-15 лет — не так уж и кардинально отличается от оценки Эге Эрдила. И это оптимистичная оценка. Которая предполагает продолжение быстрого прогресса в ИИ, благоприятное отношение властей к такой автоматизации и отсутствие социальных катаклизмов из-за массовой потери заработка.

Как-то ускорить этот сценарий может лишь «джокер» в виде создания искусственного сверхинтеллекта. На который возлагают надежды самые радикальные из ИИ-оптимистов. Исключать появление этого «джокера» нельзя. Но такой вариант является настолько революционным, несет в себе столько неопределенности, что строить какие-то прогнозы для этого случая попросту бессмысленно. Никогда еще в истории планеты Земля не существовало объекта, который мог бы совершенствовать сам себя на горизонте не в месяцы (геном микроорганизмов) и не в часы (обучение людей), а в доли секунды.

Одним из важных свойств концепции технологической сингулярности является то, что старые, привычные закономерности перестают работать. Опора на старый опыт становится невозможна. В этом плане построения ИИ-оптимистов несколько наивны: они ждут радикальных перемен, но при этом опираются на экстраполяцию старых трендов.

Если старые тренды продолжают работать — значит, сингулярность не так и близко. Значит, человечеству еще придется потрудиться. Широкая автоматизация экономики потребует много усилий — и рабочих рук.


_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!

Оставить комментарий

Популярные посты:

• Ранее
• Архив