Миссия невыполнима

giovanni1313 — 07.03.2024 Новая судебная драма от Илона Маска: руководитель «Теслы» подал в суд на ”OpenAI”, обвинив ИИ-компанию в предательстве возложенной на нее миссии.


”OpenAI” создавалась в 2015 году как некоммерческая организация, которая будет бескорыстно работать на благо всего человечества. Илон в ту пору прочитал книгу «Суперинтеллект» Ника Бострома, сильно ей впечатлился и начал переживать за судьбу цивилизации после создания ИИ. Причём самым сильным поводом для его беспокойства был не ИИ как таковой, а то, что передовые разработки в этом направлении вело несколько технологических гигантов, среди которых выделялся «Гугл».

Казалось бы, ну «Гугл» и «Гугл». Не самая плохая компания. Действительно, это была крутейшая компания с точки зрения бизнес-способностей, с капиталистической точки зрения — и вот это могло быть не совсем по душе Маску, бизнес которого в ту пору был далеко не в лучшей форме.

Зависть усугублялась еще и тем, что «успешный успех» «Гугла» был практически под носом у Маска — Ларри Пейдж был его очень близким другом. Достаточно сказать, что Пейдж, искренне поверив в идеи Маска о колонизации других планет, озвучивал идею отдать своё гигантское состояние своему другу для реализации его смелых идей.


Пейдж и Маск, будучи очень увлеченными новыми технологическими идеями, часто обсуждали вместе смелые проекты. Пейдж был если не визионером, то как минимум техно-оптимистом. Искусственный интеллект занимал очень важное место в его видении будущего; фокус компании на таких разработках был далеко не случайным. Особенно важным направлением для «Гугла» была робототехника. К 2015 «Гугл» купил как минимум 6 стартапов в этой области, в том числе известнейший ”Boston Dynamics”.

И если планы Маска восхищали Ларри Пейджа, то планы Пейджа почему-то вызывали у Илона совсем другие чувства. Степень адекватности этих чувств передаёт следующая прямая цитата Маска: «[Пейдж] строит армию роботов, снабженных искусственным интеллектом и способных уничтожить человечество».

Да, с трудом верится, что можно так запросто путать реальность и сценарий третьесортного голливудского боевичка. Но именно такие мысли бродили в голове у Маска в то время. Несмотря на то, что, по мнению Илона, Пейдж был «фундаментально человеком с добрыми намерениями, а не Доктором Зло» и был «хорошим парнем», голливудский сценарий мог неожиданно реализоваться по какой-то несчастливой случайности.


Вряд ли можно было придумать какой-то рациональный план для устранения этой «угрозы». Но сидеть сложа руки тоже было не в натуре Маска. Поэтому у него появляется красивая идея: надо создать организацию, которая занималась исследованиями в области ИИ и при этом была бы полной противоположностью «Гугла». То есть не преследовала бы прибыли, занималась бы строго фундаментальными разработками, делала бы их открытыми для всех. И ставила бы безопасность превыше всего — превыше денег, личной славы и требований власть имущих.

Эта красивая идея, эта альтернативная благородная миссия подкупила многих сильных исследователей, согласившихся присоединиться к новому проекту. Многие из них как раз перешли в него из «Гугла» — включая сооснователя Илью Суцкевера, одного из самых талантливых ученых в области машинного обучения.

Но настоящая проблема с «Гуглом» была не в том, что он стремился зарабатывать деньги — этим вряд ли кого-то можно удивить. И уж конечно не в том, что он разрабатывал мифическую армию роботов-убийц. Проблема была именно в том, что это «Гугл», занимающий доминирующее положение в области ИИ-разработок. И его более слабые конкуренты — «Фэйсбук», «Майкрософт», «Амазон» — были примерно такими же капиталистическими корпорациями, закрытыми, бездушными и стремящимися только к одному: расширению своего контроля над рынками, потоками денег и человеческими желаниями.


Если кому-то из них удастся создать искусственный интеллект — главную технологию этого столетия, а может, и тысячелетия — они поставят его на службу своим монопольным стремлениям, стремлениям доминировать над остальными. И это очень опасная ситуация, учитывая те гигантские возможности, которые ИИ может дать своим полновластным хозяевам.

Перед ”OpenAI”, таким образом, стояла нетривиальная задача: потягаться с драконами. И не стать драконом самой.

Люди, которые встали во главе организации, были готовы принять первый вызов. Сэм Альтман — еще один друг Маска — был не менее талантлив в капиталистической стихии, чем Илья Суцкевер — в научной. В свои 19 лет Альтман уже ворочал миллионами в венчурном бизнесе. К 30 годам, в 2015, он уже был настоящей акулой капитализма. Грег Брокман тоже был опытной, зубастой фигурой в корпоративном мире Кремниевой долины.


Уже в первые месяцы существования проекта начали вылезать противоречия между декларируемыми целями и способами их достижения. Брокман сочинял для переманиваемых исследователей красивые истории про альтруизм и высокие цели. Но одновременно он признавался журналистам, что организация будет публиковать далеко не все разработки. И что «открытость» не обязательно означает научные публикации — но и также открытые для публики интернет-сервисы. И что ”OpenAI” намеревается патентовать свои разработки — действуя по шаблону обычных коммерческих корпораций.

...К началу 2018, спустя два с лишним года после создания ”OpenAI”, в активе организации было лишь одно громкое достижение: победа их алгоритма над сильнейшими человеческими игроками в игре Dota 2. Победа, которая совершенно потерялась на фоне прорывов гугловской лаборатории «Дипмайнд» в создании ИИ, достигшего сверхчеловеческого уровня в игре го.

Илон Маск к тому времени изрядно охладел к своей идее некоммерческой ИИ-организации. Пускай эта идея была красивой, но шансов на ее успех было слишком мало. Побороть «Гугл», аппелируя исключительно к альтруизму, оказалось не так просто. Но у него оставался еще один, безотказный способ превратить ”OpenAI” в историю сокрушительного успеха.

Для этого требовалось только одно: полный контроль над организацией должен перейти к самому гениальному, самому способному и самому прогрессивно мыслящему предпринимателю нашей эпохи, визионеру и покорителю Марса. К самому Илону Маску. И уж тогда, под его мудрым и слегка авторитарным руководством, ИИ-разработки непременно бы ускорились в разы и начали приносить счастье человечеству.


Другими словами, Маск решил своими же руками сломать высокую идею независимой, нацеленной строго на безопасность ИИ, дорожащей своей миссией организации. Потягаться с драконами не получилось? Надо сначала самому стать драконом и тягаться уже на равных.

Маск был уверен, что сделает совету директоров ”OpenAI” предложение, от которого те не смогут отказаться. По одной простой причине: кто платит, тот и заказывает музыку. На тот момент руководитель «Теслы» профинансировал 45 млн. долларов из общей суммы 135 млн., привлеченных в проект. А если бы совет директоров прогнулся под Маска, и ИИ-лаборатория стала бы частью «Теслы» - Илон обещал миллиардные вливания в ”OpenAI”. «Тесла» тогда всё еще зарабатывала мало денег - но ракета хайпа вокруг крупнейшего производителя электромобилей уже взлетала, и сторонние инвесторы готовы были вкладывать в нее любые суммы денег. Естественно, переход ”OpenAI” под крыло «Теслы» подогрел бы хайп еще больше.

Один нюанс: такой переход окончательно упразднил бы некоммерческий статус ”OpenAI”. Поиграли в альтруизм, и хватит. ИИ-лаборатория стала бы лишь еще одной частью бизнес-империи Илона Маска.


Сказать, что предложение похоронить изначальную идею пришлось не по душе ни сооснователям, ни команде — не сказать ничего. И дальше в ход пошли навыки, которыми Сэм Альтман и Грег Брокман владели очень хорошо. Завязалась скоротечная схватка за контроль над организацией, из которой эта пара вышла победителями. Илону пришлось уйти из совета директоров, якобы из-за «конфликта интересов в связи с разработкой «Теслой» автопилота». По факту, эта разработка уже шла полным ходом во время опубликования второй части мастер-плана «Теслы» в 2016.

Соглашение с Маском предусматривало, что тот продолжит финансирование ”OpenAI”, через несколько лет доведя пожертвованную сумму до 1 млрд. долларов. Но на самом деле после своей неудачи Маск не дал ”OpenAI” ни цента.

Если некоммерческой организации само по себе тяжело тягаться с драконами, то тягаться, не имея денег, вообще невозможно. С уходом главного спонсора эта проблема встала во весь рост. Ситуацию усугубило то, что новые исследования, проведенные ”OpenAI”, однозначно показывали: создание ИИ будет очень, очень капиталоемким процессом. Мало того, что ”OpenAI” предстояло играть с капиталистами — вдобавок играть надо было на их поле.

Исследовательская организация не склонилась перед волюнтаристским, авторитарным требованием Илона Маска. Но ей всё равно пришлось прогибаться под изменчивый капиталистический мир. Пускай, возможно, и на условиях, более согласующихся с ее изначальной миссией и более выгодных с точки зрения всё еще сохраняющейся репутации.

Начиная с 2019 г., ”OpenAI” постепенно мутирует. Под её крылом создается одноименное коммерческое подразделение. Оно начинает заключать соглашения о разделе будущих прибылей. Самым перспективным партнером становится «Майкрософт» — один из тех самых драконов, которые считались главной угрозой с точки зрения монополизации ИИ в момент создания ”OpenAI”. Организация передаёт «Майкрософту» право коммерциализировать свои имеющиеся ИИ-технологии.


«Майкрософт», в свою очередь, даёт исследовательской лаборатории самый важный для работы ресурс. Деньги. И вычислительные мощности, идущие в счёт инвестиций. Причем даёт в гигантских количествах — общий объём заявленной поддержки составляет уже 13 миллиардов долларов. Вот оно, предложение, от которого действительно нельзя отказаться — не авторитарное требование отдать контроль, а 11-значная сумма...

Но обязательным условием коммерциализации является то, что продукт не доступен бесплатно для любого желающего. Стало быть, ни о каком открытом доступе к разработкам ”OpenAI” уже не может идти и речи. Быстро находится и удобное оправдание: попадание таких технологий «не в те руки», к злонамеренным игрокам (Россия! Китай! Иран!) очень опасно и может принести много вреда.

Слава последовала за деньгами. В конце 2022 Сэм Альтман решается на открытие доступа для широкой публики к сильной языковой модели ChatGPT, и за этим следует взрывной рост популярности этого сервиса. Это опять подстёгивает рост капитализации ”OpenAI” и авторитет ее лидера. ”OpenAI” входит в тройку самых дорогих «единорогов» планеты. Альтман, поднаторевший в грамотном использовании хайпа и энтузиазма инвесторов в свою бытность руководителем YСombinator, начинает строить совсем уж грандиозные планы.


Сочетаются ли хайп, 100-миллиардная капитализация и планы покорения мира с ценностями, заявленными при создании ”OpenAI”? Скорее нет, чем да. Но зато они прекрасно сочетаются с амбициями Сэма Альтмана. А вот безопасности ИИ, увы, в этих амбициях отводится очень второстепенное место. Противоречия между задекларированными целями исследовательской организации и способами их достижения, видимые еще на заре ее работы, в 2016, к середине 2023 становятся совсем непреодолимыми.

Эти огромные противоречия, а также амбиции Альтмана, которые подменили собой миссию организации, и стали в итоге главной причиной тайного сговора совета директоров в ноябре прошлого года, за которым последовало неожиданное изгнание Альтмана и Брокмана. До этого Альтман пытался убедить директоров, что всё идёт нормально, что происходящее полностью укладывается в бытующие среди технологичного бизнеса нормы. Но заговорщики не имели бэкграунда в бизнесе — это были или исследователи, вроде Суцкевера, или руководители НКО с бюрократическим опытом. Они искренне считали, что стоит до конца быть верным ценностям, заложенным в миссии организации.

В итоге точка зрения Альтмана победила. Да, ”OpenAI” перешла на работу по правилам технологичного капитализма. И одним из этих правил является то, что от харизмы руководителя зависит очень многое. А от прописанных в миссии вещей — почти ничего. Команда организации выбрала харизматичного Альтмана, а не его противников из совета директоров. И команда настояла на возврате Альтмана. Мятежные директора были заменены на лояльных Альтману персон. Фактически, Сэму Альтману почти удалось то, что не удалось Илону Маску в 2018 — получить единоличный контроль над организацией. За исключением финансового аспекта: здесь у «Майкрософт», а также ряда учредителей, остаются права на заработанную прибыль еще на много-много лет вперед.
Так получилось ли у ”OpenAI” остаться организацией, полностью противоположной «Гуглу»? Увы, сейчас сходства между ними сейчас гораздо больше, чем различий. А в чем-то — в личности руководителя-визионера, в отчаянном толкотне венчурных инвесторов, пытающихся вложиться в этого «единорога», в фантастических обещаниях проектов на триллионы долларов — ”OpenAI” гораздо лучше «Гугла» воплотила в себе все «прелести» технологического капитализма.

И вот мы возвращаемся к судебному иску, поданному Илоном Маском против компании. Пожалуй, это один из немногих оставшихся шансов вернуть ”OpenAI” на изначально задуманный путь.

Заботит ли Илона превращение ”OpenAI” в еще одного «дракона», заботят ли связанные с этим угрозы технологического лидерства компании, находящейся в плену грандиозных амбиций своего лидера? Вряд ли. Этот же Илон Маск всего 4 года назад страстно хотел развернуть ”OpenAI” ровно в том же направлении.


Этот же Илон Маск, так и не дождавшись придуманной армии роботов от Ларри Пейджа, решился строить свою армию роботов. Довольно неожиданное воплощение старой навязчивой идеи.

Этот же Илон Маск в марте 2023 подписался под алармистским открытым письмом, призывающим остановить создание новых больших языковых моделей. И почти сразу после подписания ринулся их делать.

Этот же Илон Маск всегда предпочитал авторитарные методы руководства, стремился подмять контроль процессами под себя и затем не гнушался «срезать углы», вплоть до попытки отжать у других акционеров 56 миллиардов долларов при помощи «ручного» совета директоров.


В общем, Маск не выглядит ни идейным борцом за добро и справедливость, ни человеком, для которого экзистенциальная угроза от ИИ будет важнее, чем удовлетворение собственных амбиций. Главное его недовольство сегодняшним ”OpenAI”, видимо, проистекает из того, что только под руководством самого гениального, самого способного, и далее по списку, человека ”OpenAI” могла прийти к такому успеху, к какому она сейчас пришла. А коль скоро у руля ”OpenAI” стоит Сэм Альтман, а не Илон Маск — значит, успех этот неправильный, противозаконный и, самое главное, очень обижающий одного из богатейших людей планеты.

Другими словами, как и в 2015, Маском руководит зависть к своим близким друзьям. Что ж, если благими намерениями вымощена дорога в ад, то из тщеславных намерений, пожалуй, можно выжать и что-то хорошее. Тем более что суд не должна интересовать моральная чистота истца.  Разбираться он будет только по существу вопроса. В чем оно заключается?

““OpenAI Inc” была преобразована в закрытую от публики, де-факто дочернюю компанию крупнейшей технологической компании в мире: “Microsoft“. Под руководством нового правления она не просто разрабатывает, но фактически совершенствует AGI, чтобы максимизировать прибыль для “Microsoft“, а не на благо человечества”, — гласит иск.

Пункт первый, закрытость для публики, безусловно, имеет под собой основания. Я уже упоминал, что речи о закрытости шли с самого основания организации, когда Маск сопредседательствовал в ней вместе с Альтманом. Но трек-рекорд здесь не является убедительным доводом; эта претензия Маска справедлива.

Далее, дочернесть «Майкрософту». Интересный момент здесь в том, что «Майкрософт» инвестировал в коммерческую дочку «OpenAI», а не в оригинальную НКО, основанную Маском. Да, доля инвестиций внушительна и позволяет говорить о хотя бы потенциальном контроле. Но контроль дочки не означает контроля материнской организации. Это очевидный для суда момент. В своё время Альтман и Брокман тщательно продумали эту схему сделки, вероятно, не пожалев денег на юридические консультации.


Более того, фактический контроль со стороны «Майкрософт» доказать будет сложно. С управленческой точки зрения, директор «Майкрософт» Сатья Наделла недоволен сложившейся в корпорации культурой менеджмента, считая ее недостаточно гибкой и соответствующей духу времени (пресловутому «ДНК стартапа»). Поэтому в покупаемых сторонних проектах он предпочитает предоставлять существующей команде очень большую свободу. Так было с GitHub. С «OpenAI», де-юре независимой организацией, это проявляется еще более явно. Скажем, во время недавнего управленческого кризиса в «OpenAI» Наделла считал переход команды Альтмана под крыло «Майкрософт» не очень желательным исходом и с радостью от него отказался, когда удалось выдавить мятежных директоров «OpenAI» со своих позиций.

Далее, максимизация прибыли для «Майкрософт». Аргумент интересный, но не очень сильный. Начнем с того, что сейчас «OpenAI» страшно убыточна, ни о какой «максимизации прибыли» в данный момент речи не идёт. Для «Майкрософт» это черная дыра, в которую он будет бросать немалые по меркам ИТ-гиганта деньги, и перспектив их возврата пока не просматривается.

Деньги идут на совершенствование AGI, и не только, еще и на субсидирование сервисов для конечных пользователей. Если это не поддержка «на благо человечества» (т. е., по сути, благотворительность) — тогда я не знаю, что считать такой поддержкой.

Тем не менее, коммерческая деятельность есть, это факт. Равно как есть и соглашение о разделе прибыли, которое потенциально может принести «Майкрософт» 7-кратную доходность (а миноритариям-венчурным инвесторам — еще больше). Альтруизмом это никак не назовешь, задекларированной некоммерческой миссии это тоже совсем не соответствует.

Наконец, стоит упомянуть, что прибыль и благо человечества — это совсем не взаимоисключающие понятия. Скорее наоборот. Прибыль — это хорошо для человечества, убыток — это плохо. Это базовая экономика. Эта схема работает, и работает неплохо.

Одной из очень любопытных тем, упомянутых в иске, является часть соглашения между «OpenAI» и «Майкрософт», касающаяся создания первой организацией общего искусственного интеллекта (AGI). В случае появления такой технологии никаких прав на прибыль от нее у «Майкрософт» не будет. Это важная оговорка, демонстрирующая приверженность «OpenAI» своей изначальной миссии.

Но иск утверждает, что новый состав совета директоров «OpenAI», появившийся после кризиса в ноябре 2023, попросту некомпетентен в этом вопросе и не сможет распознать, что в руках у компании появился AGI.


Вопрос неоднозначный. Действительно, Брет Тейлор и Ларри Саммерс не имеют прямого опыта в области ИИ. C другой стороны, третий член совета директоров, Адам Д`Анджело, является, во-первых, блестящим интеллектуалом, и во-вторых, основателем сервиса с ИИ-помощниками "Poe". Так что некоторое представление об этой теме он должен иметь.

Но в любом случае, представленное в иске обвинение вряд ли имеет юридическую значимость. Закон не требует от членов совета директоров НКО вообще никакой экспертизы в деятельности их компании. А уж наёмный персонал «OpenAI», в котором немало «звезд» в области ИИ, должен справиться с задачей определения AGI на ура.

Итак, каково же требование истца? Оно звучит весьма размыто: «…соблюдать учредительное соглашение и вернуться к своей миссии по развитию AGI на благо человечества, а не для личной выгоды отдельных ответчиков и крупнейшей технологической компании в мире».

Вряд ли суд может вынести какое-то конкретное предписание, которое вернуло бы «OpenAI» обратно к своим бескорыстным мотивам. И еще труднее представить, как заставить организацию работать «на благо человечества». Но вот отменить личное обогащение суд в состоянии: для этого надо признать недействительной сделку с «Майкрософт» и запретить «OpenAI» лицензировать свои продукты на сторону. Не скажу, что это вероятный исход — но юридически он возможен. Разумеется, такое решение будет сокрушительным ударом по «OpenAI».


Еще одно требование — вернуть Маску деньги, которые он инвестировал в организацию до 2018. Здесь особых препятствий нет. Более того, я бы на месте «OpenAI» отдал бы эти деньги и пошел бы на мировую, лишь бы окончательно закрыть этот вопрос. Конфликт с Маском совершенно не в интересах «OpenAI».

Однако все рассмотренные здесь доводы за и против могут разбиться о маленькую, но очень важную деталь, которая позволит суду даже не начинать разбирательства по существу. Дело в том, что, как сообщает профессор права Брайан Куинн, у Маска может попросту не быть оснований для предъявления обвинений, поскольку он уже давно не является членом совета директоров «OpenAI».

Маск ссылается на то, что в 2015 они с Альтманом договорились об учредительном соглашении. Но, по мнению Куинна, этот документ имеет недостаточную юридическую силу в данной ситуации. По сути, когда Маск ушел из «OpenAI» в 2018 и не исполнил свои обязательства по дальнейшему финансированию организации, он перестал иметь к ней какое-то юридически значимое отношение. Это значит, что даже возврата вложенных денег он требовать не вправе.

Поэтому шансы на то, что Маску через суд как-то удастся направить «OpenAI» на путь истинный, очень невелики.

Наверное, из этой истории рано делать какие-то выводы. Но пока напрашивается такое заключение. Если тебе действительно не безразлична судьба человечества, если ты всерьез опасаешься экзистенциальной угрозы ИИ, если ты боишься концентрации власти над мощной технологией, и если ты уверен, что безоглядная погоня за деньгами может принести много вреда — тебе надо быть верным этим принципам до конца. Не ставить свои импульсивные желания выше их. И не бросать в начале пути своё же детище, которому предстояло воплощать в жизнь высокие идеалы на долгие годы вперед.


_______________________________________________________________

Оставить комментарий

Популярные посты:

• Архив