"Единственная этичная модель для ИИ — социализм"

giovanni1313 — 15.07.2024
“Иногда большая языковая модель может показаться человеком, но у неё нет разума. Что у неё есть — так это невообразимо большие объемы данных.

Наших данных.

Почему это так важно? Вот гипотетический пример: представьте, что корпорации каким-то образом удалось запатентовать язык. Не компьютерный язык, не новую модную фразу или маркетинговый слоган, а сам язык. С этого момента каждому, кто использует письменный или устный язык в качестве средства общения, потребуется разрешение корпорации. По сути, именно это и сделали корпорации, работающие с ИИ, — не с языком, а с этим новым коллективным творением. Они присвоили нашу работу — наши стихи, наши рассказы, наши электронные письма, написанные для общения или работы, — себе“,

— журнал ”Current Affairs” опубликовал программную статью, агитирующую за социалистическую позицию в отношении ИИ. Антикапиталистические постики у меня проскальзывают регулярно, но вот конкретно социалистов не было давно — крайний раз, по-моему, засветился Янис Варуфакис, в 2022. ziavra даже начал пенять мне на то, что моим постам не хватает коммунистической пропаганды.

Ну, допустим, я не любитель пропаганды какого угодно разлива. Но в данном случае статья, за авторством Ричарда Эскоу, вполне достойна внимания. Поэтому предлагаю познакомиться с главными ее тезисами — и заодно эти самые тезисы в меру покритиковать. Поехали!
Итак, центральная идея, центральная несправедливость, которой Эскоу обосновывает необходимость введения социализма в отношении ИИ-моделей — это экспроприация общественных благ частным капиталом. Если в традиционной экономике аристократ-землевладелец присваивает часть труда крестьян, а капиталист — часть труда рабочих, то в цифровой экономике объектом экспроприации становятся наши данные. Это то, что мы пишем в Сети, это наша рабочая переписка с коллегами, это история наших действий в интернете, история покупок в магазинах и так далее. Вся гигантская индустрия капитализма слежки, по мнению Эскоу, занята исключительно экспроприацией информации, создаваемой миллиардами простых интернет-пользователей.

“Большая языковая модель ИИ была создана миллиардами людей, которые пользовались Интернетом. Они совершенствуют его и дополняют каждый день. Но это не сознательное индивидуальное произведение, подобное роману или картине. Как и язык, он органично возникает из социальной деятельности человека“.

И это интересный аргумент. Действительно, из всех, скажем так, артефактов человеческой цивилизации, из всех информационных систем интернет является одним из самых «общественных» продуктов, созданных усилиями бесчисленного множества авторов. Более того, люди вносили свой вклад, подразумевая, что созданная ими информация будет доступна любому желающему.

«LLM — это новая социальная и экономическая сущность, химера из речи, искусства и культуры. Чат-бот — это коллективное создание. Поскольку он создается всеми, с этической точки зрения он не может принадлежать какому-либо отдельному человеку».

И вот тут пора немного притормозить. Да, интернет — это общественное достояние. Но языковая модель — это не интернет. Она не тождественна интернету. И она не приватизирует интернет, не пытается брать с людей ренту за пользование интернетом — поэтому аналогия с языком, приведенная в самом начале поста, неверна.
Может ли языковая модель быть создана без интернета? Скорее да, чем нет, пускай и с более ущербными способностями. Языковой модели не нужен интернет как гигантская общественная площадка — для нее достаточно (не менее гигантской) «библиотеки». А использование библиотек, на моей памяти, еще никто не критиковал как эксплуатацию и экспроприацию.

Интернет стал базой для создания языковых моделей потому, что это очень эффективная информационная технология. Она позволяет получить информацию с минимальной стоимостью. Поскольку информация для обучения ИИ нужна в огромном количестве, этот параметр является очень важным.

Но «база» — это еще не вся языковая модель. Это лишь одно из необходимых слагаемых. Что-то вроде сырья. Для того, чтобы получить из этого сырья готовый продукт, необходимо вложить в него колоссальное количество ресурсов. В частности, труда людей — причем часто талантливых ученых, и капитала, прежде всего вычислительных мощностей.

Таким образом, языковые модели представляют собой довольно заурядный пример высокотехнологичного информационного продукта. Отличает его разве что довольно большая капиталоёмкость — в сравнении, например, с разработкой ПО или медицинскими исследованиями.
Любой высокотехнологичный продукт тоже требует «базы» в виде научных знаний — еще одного общественного достояния, для создания которого работали и продолжают работать миллионы людей. Но, слава Богу, мы не слышим возмущений социалистов по поводу того, что патентная система приватизирует публичную науку, или что прориетарное ПО запрещает использовать свободный софт.

Таким образом, частная собственность на языковые модели ничуть не менее этична, чем частная собственность на другие технологические продукты, вроде ОС Виндовс или производственные чертежи айфона. Так что, если уж и вводить социализм — то не ограничиваться одним только ИИ.

Ричард Эскоу, как уже можно догадаться, не видит в этом ничего плохого. И приводит такие аргументы:

«Прямо сейчас мы не владеем нашими коллективными творениями и не контролируем их, и они используются во вред нам: для того, чтобы завладеть нашим временем, перенаправить богатство в другое русло и эксплуатировать мировые ресурсы».

Другими словами, частная собственность на технологический капитал ведет к эксплуатации масс в пользу собственников этого капитала. Тезис, с которым трудно спорить. Правда, автор статьи в критическом угаре начинает утверждать, что яростная борьба бигтеха за внимание пользователей, за их вовлеченность и, в конечном счете, зависимость от платформы якобы ведется ради извлечения большего количества данных для обучения ИИ.
Это не так. Экономика внимания как концепция зародилась на заре эпохи доткомов, когда об ИИ мечтали только самые дерзкие из теоретиков. Очень скоро, в середине нулевых, эта коцепция доказала свой массивный потенциал для монетизации. Монетизация внимания — а не гонка за данными для ИИ — продолжает оставаться ключевым драйвером неэтичных механизмов эксплуатации пользовательского поведения.

Более того, по состоянию на сегодняшний день ИИ продолжает восприниматься как очередное, перспективное средство для увеличения интенсивности этой эксплуатации. А не как новая цель, ради которой эта эксплуатация осуществляется.

Разработка ИИ сейчас является огромной финансовой черной дырой для бигтеха. Капитал может какое-то время закрывать на такую ситуацию глаза, надеясь на лучшее — но менять приоритетность своих целей и ставить ИИ впереди монетизации он не станет никогда.
Но, упомянув о негативных эффектах капитализма, не стоит молчать и о его преимуществах. Главный парадокс капитализма состоит в том, что он может создавать негатив — но он же одновременно прекрасно умеет создавать и ценность. А вот социализм… Социализм с созданием ценности справляется плохо.

Теоретики выводят неэффективность социализма из теории игр. Например, для экономики очень хорошо описана так называемая трагедия общин. Если несколько упрощать, проблема упирается в то, что человек гораздо больше мотивирован создавать ценность для себя, чем создавать ценность для всех вокруг.

В контексте нашего обсуждения важен тот момент, что особенно сильно разница в эффективности между капитализмом и социализмом проявляется для инновационных продуктов. То есть если речь идёт о переднем крае технологий, о незаурядных ученых, о крупных затратах на основной капитал — утопические рассуждения социалистов больше всего разойдутся с реальными результатами. Если цель капитализма — монетизация, то социализм тяготеет к бюрократическим целям, малопродуктивным и откровенно враждебным к инновациям.
«Культура капитализма построена на принципах конкуренции и концентрации богатства. Эти принципы противоречат фундаментальной природе ИИ, основанной на сотрудничестве. Вот почему социалистический подход является единственным справедливым способом управления ИИ».

Увы, я не вижу в природе ИИ никаких черт, которые способствовали бы принципам сотрудничества и могли бы хоть как-то смягчить неприспособленность социализма к созданию ценности. Языковая модель весьма похожа на сложный софтверный продукт, вроде операционной системы или системы менеджмента предприятием. Мы видим вокруг вполне устойчивые рынки для проприетарного софта такого типа, что никак не указывает на некую «природную» несовместимость с частной собственностью на такие разработки.

Понимая нереалистичность резкого разворота к социалистической экономике в Соединенных Штатах, Ричард Эскоу призывает социализировать только языковые модели, не трогая остальные рынки. Мы можем обобщить его видение в нескольких тезисах:

1. «Люди могли бы получать компенсацию за использование их коллективной интеллектуальной собственности несколькими способами в рамках системы “демократического социалистического ИИ”. Доходы могли бы использоваться для улучшения образования и создания общественных СМИ, или люди могли бы получать небольшие стипендии за свою роль в общей системе. Однако до тех пор, пока люди не получат компенсацию за свой вклад в той или иной форме, система по своей сути останется эксплуататорской».

Идея монетизировать внеэкономические отношения не нова и скорее ближе к гиперкапитализму, чем к социализму с его фокусом на общественные ценности. Впрочем, последняя мысль цитаты вполне справедлива: пока не будет компенсации — будет существовать эксплуатация.


Классический контраргумент опирается на то, что, как правило, причина того, что вещи до сих пор не монетизированы — высокие транзакционные (т. е. сопутствующие) издержки на монетизацию, перевешивающие выгоды от нее. А не стремление кого-то там заэксплуатировать.

И здесь стоит помнить, что любой доход одновременно является чьими-то издержками. Выше я уже говорил, что дешевизна сбора информации из интернета является одной из ключевых предпосылок для создания языковых моделей. Информация станет дорогой — не будет и языковых моделей. Станет ли от этого жизнь лучше при социализме?

Наконец, отдельная ирония состоит в том, что большинство ведущих ИИ-компаний бесплатно предлагает хотя бы некоторые из своих моделей. Видимо, отсюда и проистекает надуманный аргумент о затягивании пользователей в зависимость от платформ: обвинить бигтех в том, что он отнимает «прибавочную стоимость» у своих клиентов, невозможно. Сервисы, как я уже сказал, глубоко убыточны.

2. «Людям также должно быть позволено видеть, понимать и голосовать за алгоритмы, которые используются для фильтрации информации, которую они видят. Общественность должна иметь как свободный доступ к информации, так и демократический контроль над "прилипчивостью" или вызывающим привыкание дизайном любых онлайн-технологий, которые они используют. Что-либо меньшее является нарушением основных свобод. Что касается прав на неприкосновенность частной жизни, то они могут быть установлены заранее и проголосованы участниками. Отдельным лицам может быть предоставлена возможность отказаться от системы и сохранить свои результаты для собственного использования, не используя общий ресурс».

А вот с этим нельзя не согласиться. Конечно, желание дать людям «понимание» весьма наивно и вряд ли реализуемо на практике. Слишком много здесь лазеек для реализации недобросовестных намерений. Тем не менее, стремиться в сторону озвученных принципов действительно стоит.

Заметим, что этот тезис практически не связан с экономикой и касается главным образом политики.
3. «Прежде всего, ИИ-экономика может быть использована для улучшения жизни людей и других существ. [...] На заре автоматизации социалист-революционер Че Гевара открыто призывал к освобождению человека с помощью технологий. В своей речи [...] в феврале 1963 года он сказал: “Мы пытаемся превратить машины в инструменты освобождения [...], чтобы достичь самого важного, чего мы должны достичь: полного развития личности”».

Утопичненько, но красиво. Эскоу справедливо замечает, что целью капиталистической экономики является максимизация PROFIT’a, в то время как целью социалистической — максимизация человеческого потенциала.

Конечно, здесь мы тоже должны отметить, что путь от красивых лозунгов к реальности в социализме лежит через бюрократию. Которой раскрытие человеческого потенциала, в общем-то, до одного места. Поэтому, увы, воплотить в жизнь замысел Че Гевары социалистам будет очень непросто.
Традиционную для капиталистической экономики проблему — уничтожение рабочих мест искусственным интеллектом — Эскоу нейтрализует очень изящно, отсылая к идее своего коллеги Натана Робинсона:

“Как насчет такого: как только работа, которой вы учились, будет автоматизирована, вы получите пенсию за автоматизацию и сможете отдыхать до конца своей жизни. Все будут молиться, чтобы их работа была следующей в списке на устранение”.

Базовый условный доход? Где условием является автоматизация твоего рабочего места? Что-то вроде того. И претензия здесь заключается в том, что люди будут получать доход — подразумевается, что близкий по величине к старой зарплате — по причинам, к которым они совершенно не были причастны. Отсюда и отсылка к «молитвам» богам технологий: рациональности в назначении такой пенсии очень немного.

Справедливо ли обогащать людей за чужие усилия? Спорный вопрос. Классический базовый безусловный доход в этом плане видится более приемлемым средством. Но и более радикальным с экономической точки зрения.

При этом на первых этапах адресная помощь людям, чья работа подрывается автоматизацией, безусловно, будет очень нужна. Это, во-первых, крупное пособие по безработице и, во-вторых, предоставление услуг по переобучению и освоению новых навыков. Первое гораздо больше похоже на «социальную страховку» от подрывных изменений, чем на пожизненную привилегию. Второе — это инвестиции в человеческий капитал. Вещь, крайне полезная для экономики в абсолютно любых ситуациях.

Склонность Эскоу к идеализированному представлению вещей сильно вредит предлагаемым им рецептам социалистического решения проблем. Возьмем, например, такой общетехнологический момент:

«Что касается других сопутствующих кризисов, с которыми мы сталкиваемся, от климатических до военных, которые усугубляются нынешним использованием искусственного интеллекта, то социалистическая этика освободила бы нас от разрушительной силы стремления к наживе, позволив нам действительно решать эти проблемы со всем вниманием, которого они требуют. Аналогичным образом, любые “экзистенциальные” риски, которые могут быть связаны с ИИ (что само по себе является весьма спорным вопросом), могут быть устранены путем введения моратория на деятельность, которая увеличивает такие риски».

Проблема здесь заключается в том, что любой — абсолютно любой — рост способностей ИИ увеличивает экзистенциальные риски от ИИ. Фактически, мораторий на подобные разработки означает, что надо запретить любое совершенствование ИИ как таковое. В очередной раз вспомним про бюрократии: запретить что-либо для них гораздо проще и привычнее, чем развивать нечто новое.

В заключение Эскоу призывает развивать демократические способы управления технологиями ИИ. И здесь у него действительно более обоснованные позиции. Социализм по своей природе более демократичен, чем капитализм. Капитализм стремится к концентрации ресурсов (и, следовательно, власти); социализм стремится к равенству возможностей.

Останутся ли его призывы лишь теорией? Боюсь, что в ближайшее время — да.

Не все из этих идей имеет смысл брать на вооружение. Но те, что касаются политических прав, действительно могут сделать использование ИИ более здоровым и устойчивым для общества. Увы, нынешние хозяева этой технологии очень мало заботятся об общественных интересах.


_______________________________________________________________

Оставить комментарий

Популярные посты:

• Архив