Контр-аргументы в пользу роботизации экономики (I)

giovanni1313 — 20.05.2025
В предыдущем посте мы познакомились с мнением исследователя Эге Эрдила о том, возможна ли массовая роботизация рабочих мест уже в ближайшие 2-3 года. В отличие от многих своих коллег, Эрдил занял скептическую позицию. И выдвинул ряд аргументов в пользу того, что ИИ-трансформация экономики случится скорее в конце 2040-ых годов.

Наверняка многие воспримут этот вывод с облегчением. Потеря работы — сама по себе тяжелая ситуация. И она становится втройне тяжелее, когда вокруг тебя теряют работу десятки миллионов людей. Можно быть оптимистом в отношении технологий ИИ — но трудно спорить с тем, что такое массовое замещение рабочих мест выльется в гигантский социальный кризис. Чем дальше это событие отодвинуть в будущее — тем спокойнее на душе.

Но комфортность той или иной точки зрения никак не говорит о том, что она близка к истине. Нам стоит обращать внимание исключительно на силу аргументов. И вот здесь позиция Эге Эрдила далеко не так тверда, как хотелось бы консервативной аудитории. Давайте вновь обратимся к аргументации Эрдила и посмотрим, нет ли в ней слабых мест и ошибок. Ошибок, которые указывали бы на более близкую ИИ-революцию в экономике. Поехали!

1. Простая экстраполяция трендов не в состоянии отразить динамику распространения технологии

Почти всю свою исследовательскую карьеру Эге Эрдил занимался тем, что искал в данных тренды и пытался их количественно описать. Неудивительно, что и для прогнозирования размера ИИ-экономики он пытается просто продлить эти тренды далеко в будущее.

Мы отмечали, что экстраполяция трендов — один из самых надежных методов прогнозирования. Вдобавок он интуитивно понятен и прост: приложил линейку к графику — и получил прогноз. Проблема в том, что надежность этого метода имеет свои пределы, и «слепо» использовать его в любой ситуации не всегда оправдано. Иначе есть риск оказаться героем этого классического xkcd-комикса:
А ведь на самом деле для моделирования процесса, который пытается прогнозировать Эрдил — распространение новой технологии — необязательно высчитывать какие-то сложные процессы и уравнения. Всё придумано до нас. Речь об S-образных кривых — логистической и ее модификациях, которые очень точно описывают динамику внедрения более ранних технологий. Выглядит это примерно так:

C математической точки зрения, S-образная кривая отличается от экспоненты тем, что в ней присутствует отрицательная обратная связь. Ее сила зависит от близости к асимптоте (пределу роста). В примерах выше это число потребителей в экономике. Чем ближе доля проникновения технологии приближается к 100% потребителей — тем медленнее она будет расти.

Но верно и обратное: если большинство потребителей пока не использует технологию — особых поводов для торможения роста быть не должно. И здесь мы возвращаемся к одному из основных скептических тезисов Эге Эрдила, о замедлении роста продаж ИИ-чипов. Эрдил пишет, что нынешние темпы роста выручки компании «Нвидиа» «неустойчивы» и «должны начать замедляться уже сейчас».

При этом исследователь рассматривает в качестве потенциальных пользователей все компании с рабочими местами, которые можно перевести на удаленный формат. Глобально это рынок размером 20 трлн. долларов в год (совокупная зарплата на таких позициях). То есть сейчас ИИ-чипы составляют лишь 0,7% этого рынка. Исторический опыт говорит нам, что никакого замедления роста в такой начальной фазе не бывает. Рынок должен расти, расти и расти!

В качестве аргумента Эге Эрдил приводит динамику выручки интернет-компаний, которая замедлилась в 4 раза после 2000 года. Но в 2000 уже 52% взрослых американцев пользовались интернетом! Разумеется, при таком уровне проникновения больше нельзя удваивать объем рынка каждый год. Так что аналогия, предлагаемая Эрдилом, станет верной не раньше того момента, когда ИИ-чипы заместят хотя бы 20% рабочей силы.

2. Главное — улучшение технологии

В графике c S-образными кривыми, который вы видели немного выше, есть любопытный тезис: «потребление [новых технологий] сейчас распространяется быстрее». Вот еще более наглядная иллюстрация этого тезиса:
В чем причина? Наверняка здесь участвует множество факторов. Но в качестве ключевого я хотел бы выделить развитие самой технологии. В первую очередь качественное развитие, появление новых полезных свойств. Но также и количественное улучшение в характеристиках.

Скажем, сравним автомобиль в 1908 и 1918, и интернет в 1992 и 2002. В первом случае разница будет невелика: самой массовой моделью на протяжении десятилетия оставался Форд Т, и для потребителя наиболее заметным было снижение цены в 1,6 раза на этом промежутке. А вот в случае с интернетом... Он изменился настолько фундаментально, стал настолько богаче, разнообразнее, полезнее и удобнее для пользователя, что сравнивать эти две версии становится очень затруднительно.

Это подводит нас к важному элементу динамики распространения технологии: конкурентному преимуществу. Новая технология занимает рынок совсем не из-за своей новизны. А потому, что в глазах потребителей она выигрывает у существующей технологии по тем или иным практическим качествам.


Все потребители разные, имеют разный набор предпочтений, разное желание платить за те или иные свойства и разную степень консерватизма. Развитие технологии позволяет постепенно склонять на свою сторону всё новых и новых потребителей, которые раньше не были готовы ей пользоваться. Из этого складывается ежегодный рост доли рынка, который мы обсуждали в предыдущем пункте.

Как только новая технология становится предпочтительнее старой по большинству пунктов — наступает так называемая переломная точка (tipping point). Это точка, в которой значительная доля потребителей переходит со старой на новую технологию. На графиках c S-образными кривыми это их отрезок, самый близкий к вертикали. Как правило, он продолжается недолго. Например, в США доля пользователей интернета выросла с 14% до 59% за 7 лет.

Чем быстрее развивается технология — тем быстрее ее распространение достигает переломной точки. И тем быстрее она проходит этот переломный отрезок, тем вертикальнее будет линия роста доли рынка.

А технологии ИИ развиваются быстро. Феноменально быстро. Настолько быстро, что они продолжают опережать даже самые оптимистичные ожидания.
Переломной точкой в данном случае является общий ИИ — ИИ, который может заменить работу человека на массовых позициях, вроде менеджера по продажам, программиста, юриста или государственного клерка.

И у такого применения есть несколько особенностей, которые тоже влияют на сроки массового принятия технологии. Во-первых, ИИ-работники практически не требуют новой инфраструктуры на стороне корпораций-пользователей (в отличие от, скажем, инфраструктуры для использования технологий электричества или автомобильного транспорта). То есть не требуют от пользователей серьезных капиталовложений.

Во-вторых, корпорации сейчас платят за человеческий труд на понедельной или помесячной основе. По сути, «краткосрочно арендуют» людей. Это значит, что они могут одномоментно отказаться от их труда, одномоментно заменить их на новый метод производства. Это радикально отличает такую трансформацию от прошлых технологических революций, которые касались замены производственных активов — активов дорогостоящих и уже оплаченных фирмой в прошлом, либо отягощенных кредитами.


Таким образом, после достижения переломной точки у корпораций практически не остаётся барьеров, тормозящих массовый переход на ИИ-работников. Исторические аналогии для такой ситуации найти будет трудно.

Впрочем, трудно найти исторические аналогии не только из-за отсутствия «естественных» экономических барьеров на пути к массовой автоматизации рабочих мест. Но и из-за того, насколько универсальна технология общего ИИ, насколько широкий круг отраслей она затрагивает и насколько большим будет масштаб изменений в корпоративных практиках.

Эти широта и масштаб будут двигать темп автоматизации уже в другую сторону, более медлительную. Ведь у нас получается максимально разнообразный набор потенциальных потребителей, с максимально разнообразными требованиями к замещающимся рабочим местам и с не менее разнообразной законодательной спецификой, которая будет «искусственно» консервировать старый порядок вещей. Чем больше набор предпочтений — тем сложнее технологии охватить их все сразу, «объять необъятное».
Автоматизация всей глобальной экономики — очень сложная задача. Чего мы еще коснемся ниже по тексту.

Таким образом, у нас сталкиваются два противоположно направленных фактора. С одной стороны, у нас есть сверхбыстрое развитие ИИ — и оптимисты обещают, что оно будет ускоряться с каждым годом. С другой стороны, у нас есть один из самых трудных техно-экономических вызовов, который только можно представить — освоение машиной всего разнообразия человеческого труда.

И какие сроки автоматизации мы можем ожидать, исходя из этих вводных? Эге Эрдил даёт порядка 20 лет до точки, в которой будут замещены более половины «удаленных» работников. Срок немалый. Но и 2-3 года, которые ожидают ИИ-оптимисты — явно заниженная цифра.

Очень многое зависит от темпа прогресса в технологиях ИИ. Ведь требования к способностям человеческих работников довольно инертны и не сильно изменятся в обозримой перспективе. Вероятно, оценка Эге Эрдила несколько консервативна. Но пока я не вижу возможностей сильно сжать предложенный им срок. Если смотреть оптимистично, замещение половины «удаленных» позиций вряд ли произойдёт раньше, чем через 12-15 лет.

3. Автоматизировать миллион специальностей сложнее, чем автоматизировать одну специальность

Главный «козырь в рукаве» ИИ-оптимистов — появление самосовершенствующегося ИИ. Он должен запустить петлю положительной обратной связи: ИИ становится всё мощнее, пускает свою мощь на своё собственное развитие и в конечном итоге становится настолько всемогущественным, что автоматизация экономики с ее 7-ю миллиардами занятых людишек становится для него совершенно тривиальной задачей.

Сценарий почти безукоризненный. Если не считать экзистенциальных рисков — появления на Земле силы, многократно превосходящей способности всего объединенного человечества…
Эге Эрдил пытается крыть этот «козырь» тем, что запустить такую петлю положительной обратной связи крайне сложно. Гораздо проще, считает он, начать применять способности ИИ в других экономических областях. Автоматизировать не разработки мощного ИИ — а перекладывание бумажек и общение с коммерческими партнерами.

И вот здесь нам стоит вспомнить предыдущие тезисы. Экономика — очень комплексная штука. Рабочие места, обеспечивающие ее функционирование, крайне разнообразны по своим задачам и специфике. Многие из них можно считать уникальными.

Нельзя объять необъятное. И любая сколь-нибудь широкомасштабная автоматизация неизбежно упрется в это разнообразие, в этот огромный набор требований, реализация каждого из которых требует немалых исследовательских и инженерных усилий. Не стоит забывать и про уникальность рабочих процессов на каждом отдельно взятом предприятии. Причем формально описана лишь малая часть этих процессов. Фактические процедуры часто отличаются от формально прописанных. И далеко не всегда фирмы готовы делиться этими внутренними данными. Справедливо считая, что они составляют ноу-хау, их коммерческие секреты и конкурентное преимущество.
Что этому противопоставляют ИИ-оптимисты? Нам достаточно автоматизировать одну «специальность», одно направление, говорят они. Нам достаточно сфокусировать все наши усилия, все таланты на одной области — а не распылять ресурсы на миллионы специфических рабочих позиций. И это единственно важное направление — автоматизация исследований в области ИИ.

Исследования — это сложно? Да. Но в то же время эта цель имеет и ряд особенностей, помогающих ее достижению. Во-первых, нам не нужно подстраиваться под имеющиеся в каждой фирме бизнес-процессы. Не нужно обеспечивать «бесшовность» работы виртуального сотрудника. Вместо этого мы можем начать «с чистого листа» и, напротив, пытаться выстраивать процесс исследований вокруг неизбежных недостатков и слабых сторон машины. Гибко «затыкая дыры» исследователями-людьми.

Во-вторых, большой объем исследований продолжает публиковаться открыто. Обеспечивая машины как огромной базой уже существующих знаний, так и образцами-обучающими данными для овладения необходимыми навыками. Образно говоря, машина уже может «стоять на плечах гигантов» и у этих «гигантов» учиться. А вот масштаб имеющихся данных для обучения более тривиальным профессиям, вроде менеджера по продажам, уже далеко не такой «гигантский».

В-третьих, исследования — это «вещь в себе». Хороший эксперимент — это эксперимент, который не зависит от внешних условий и капризов внешних игроков. В то время как массовая автоматизация рабочих мест опирается на множество «если»: коммерческих (себестоимость и производительность технологии), эмоциональных (настроения бизнес-лидеров и отношение общества), политических (в том числе внешней политики), законодательных и так далее. У ученых есть исследовательская свобода. А вот в экономике всё решает баланс сил, рыночных и нерыночных.

Наконец, главное преимущество автоматизации исследований — та самая положительная обратная связь. Чем больше нам удаётся развить ИИ — тем большего он может достичь. Другими словами, это направление позволяет получить нам максимальный выигрыш на вложенные усилия. Выигрыш, который продолжит многократно приумножаться.
И если ИИ может достичь большего — то многие проблемы широкой автоматизации экономики, описанные выше, снимаются сами собой. У нас не хватает ресурсов, чтобы заинженерить уникальные нюансы каждого рабочего места? Мы делегируем эту задачу мощному ИИ! У нас мало формальных данных о рабочих процессах? Мощный ИИ будет способен обходиться меньшим количеством данным, нежели более слабые системы!

В конечном итоге, всё разнообразие рабочих специальностей успешно может быть закрыто достаточно сложным и достаточно универсальным искусственным интеллектом. Вместо этого Эге Эрдил агитирует, что «нужна рыба, а не удочка»: что вместо создания этого сложного и универсального ИИ ученые должны вручную пилить узкие решения. Миллион узких решений.

Но отдача от узкого решения будет невеликой. И на создание большого количества таких решений у нас попросту не хватит сил. Поэтому лучше направить эти силы туда, где отдача может быть поистине революционной.

4. Широкая автоматизация экономики означает более сильный дефицит вычислительных мощностей

В качестве одного из контр-аргументов против сценария автоматизации исследований ИИ Эге Эрдил называет недостаток вычислительных мощностей. Все эти масштабные поисковые эксперименты, направленные на улучшение ИИ — дорогостоящая штука с вычислительной точки зрения, рассуждает он. И чтобы поддерживать их ресурсами, нам нужно масштабировать производственную базу для микроэлектроники. А это масштабирование, в свою очередь, по цепочке потребует и массивного роста в смежных секторах экономики.
Поэтому Эрдил предлагает обеспечивать этот массивный рост за счет широкой автоматизации рабочих мест. Собственно, других вариантов не так много: дополнительно взять откуда-то людей точно невозможно.

Но эта логика имеет очевидную уязвимость: если мы пытаемся «расшить» дефицит вычислительных мощностей, это надо делать средствами, которые не очень прожорливы до этих самых вычислительных мощностей. И массовое развертывание ИИ-агентов тут вряд ли является допустимым решением. Скорее наоборот, оно создаёт огромный спрос на вычислительные мощности, который будет конкурировать со спросом от автоматизации ИИ-исследований. И вытеснять его.

Заметим, что, при прочих равных, этот тезис отдаляет массовую автоматизацию рабочих мест еще дальше в будущее. Ведь вычислительные мощности становятся еще более узким «бутылочным горлышком». Еще большим тормозом на пути к сингулярности.

Хорошо, но есть ли альтернатива этому сценарию? С точки зрения распределения ресурсов — я думаю, есть. В сценарии дефицита вычислительных мощностей самым разумным является приоритетная автоматизация рабочих мест именно в микроэлектронной отрасли. А не в целом по экономике, как это подразумевает Эге Эрдил.
Эрдил исходит из предпосылки, что первыми будут срываться «низковисящие плоды» — специальности, которые проще всего автоматизировать. Это разумная предпосылка. Но надо учитывать и последствия такой динамики.

Любой сколь-нибудь масштабный успех в автоматизации человеческих профессий породит всплеск спроса на ИИ-ускорители. На вычислительную инфраструктуру. Всплеск, который микроэлектронная отрасль удовлетворить будет не в состоянии.

Это повысит стоимость на ИИ-микрочипы. И на факторы, являющиеся «бутылочными горлышками» в расширении их производства. В первую очередь, естественно, на рабочую силу в цепочке добавленной стоимости микроэлектроники.

Это будет означать, что микроэлектроника начнет буквально «купаться в деньгах» — и будет рада платить любые деньги за технологические решения, которые позволят ей «расшить» бутылочные горлышки в производстве. То есть у нас, с одной стороны, появляется ультимативный заказчик на «виртуальных работников». С другой стороны, большой рост зарплат в микроэлектронике будет означать высокую отдачу на ИИ-разработки, замещающие персонал в ней. Это потенциально снижает коммерческие риски для разработчиков ИИ-агентов, делая микроэлектронику более привлекательной областью.

С третьей стороны, инвесторы и бизнес-лидеры будут прекрасно представлять всю важность микроэлектронного «бутылочного горлышка» для грядущей ИИ-революции. И сосредоточат крупные усилия на автоматизации микроэлектронной отрасли чисто из этих стратегических соображений, даже без привязки к сложившимся коммерческим сигналам.
В общем, решать будет рыночек — а не только технологическая доступность автоматизации той или иной специальности. И если Эге Эрдил настолько уверен в дефиците вычислительных мощностей — то рабочие места будут автоматизироваться в первую очередь в микроэлектронной отрасли.

Это позволит добиться наилучшего соотношения «вычислительные затраты»/«прирост выпуска вычислительного оборудования». Что, в свою очередь, снижает требования к масштабу инфраструктурных вложений, необходимых для поддержания автоматизации ИИ-исследований. В отличие от сценария Эге Эрдила, требующего широкой роботизации всей экономики, в нашем случае получается ограничиться лишь роботизацией критических отраслей.


Продолжение следует...


_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!

Оставить комментарий

Популярные посты:

• Архив