ИИ-неооптимизм доктора Опира из ХВВ​* - теперь в реальности: Зак Касс, футуролог

топ 100 блогов alex_rozoff21.01.2024 В 1964 Аркадий и Борис Стругацкие в новелле «Хищные вещи века», ввели персонажа с философией неооптимизма, которая сначала казалась им опасной и неправильной, однако затем мнение сильно изменилось*
ИИ-неооптимизм доктора Опира из ХВВ​* - теперь в реальности: Зак Касс, футуролог
В 2024 бывший исполнительный директор OpenAI Зак Касс (Zack Kass) дал большое интервью BI** именно в стиле неооптимизма, хотя есть нюансы
[цитирую выборочно в полу-машинном переводе]
...в чем вы видите наиболее значительные социальные выгоды от ИИ в краткосрочной перспективе?

Я думаю, что в этой краткосрочной перспективе мы увидим множество последствий для первого мира, которые действительно неудобны для людей, но на самом деле приносят пользу. Я думаю, что в конечном итоге мы будем работать намного меньше, и люди в ужасе от таких последствий. Но, честно говоря, я это приветствую. Давайте меньше работать, давайте займемся тем, что дает нам цель и надежду.

...все ли ваши знакомые в отрасли столь же оптимистичны, как вы?

Я думаю, что самое важное среди инсайдеров и коллег отрасли заключается в том, что все они признают невероятный потенциал этой технологии, но люди, кажется, разделились, так это вероятность того, что мы реализуем это либо в результате плохой политики, либо плохого исполнения. или несовпадение в модели. Я не встречал инсайдера отрасли, которого я уважал бы, который не признал бы тот факт, что это может быть последняя технология, когда-либо изобретенная человеком, и что с этого момента ИИ просто продвигает нас с исключительной скоростью, и мы живем все более и более полноценно. Радостная жизнь с меньшими страданиями, затем мы исследуем другие миры и галактики и т. д. Но я думаю, что многие инсайдеры отрасли придерживаются гораздо более сомнительного взгляда на обратную сторону, чем я. Я думаю, найдутся люди, которые скажут вам, что риск настолько велик, что даже потенциал роста того не стоит. Я просто с этим категорически не согласен. Я просто не вижу никаких доказательств того, что ИИ захочет убить нас всех.

...какие риски вы видите, если ИИ не является разрушителем мира в стиле Терминатора?

Я думаю, что в основном существует четыре риска ухудшения ситуации. Это
1) идиократия,
2) смещение идентичности,
3) проблема выравнивания или то, что мы называем экзистенциализмом, и
4) плохие деятели.
- Я думаю, что существует реальная вероятность того, что поколение или несколько поколений действительно перестанут развиваться из-за того, что больше не придется решать интересные и сложные проблемы. Если ИИ решит все наши проблемы, что будет делать наш мозг? И я думаю, что существует разумная вероятность того, что на какое-то время наш мозг перестанет развиваться.
Теперь у меня есть много причин думать, что это не долгосрочная проблема, точно так же, как Интернет породил социальные сети, а социальные сети будут рассматриваться как пагубное явление для целого поколения, и тогда мы решит эту проблему так же, как мы изобрели уголь, а уголь убил множество шахтеров и нанес много вреда окружающей среде, а теперь мы постепенно отказываемся от угля. На мой взгляд, это своего рода краткосрочные последствия.
- Второе – это смещение идентичности. Настоящей проблемой будут люди, которые всю жизнь, поколения, знаете ли, заботились о конкретном ремесле или ремесле, во многом подобно столярам во время промышленной революции или кузнецам до них, которые передавали эти семейные профессии, практики и ученичество, и внезапно они потеряли свою индивидуальность и свою цель, когда мы изобрели эти новые инструменты для выполнения своей работы. Их проблема заключалась не в том: «Эй, я не могу прокормить свою семью». Они пошли и нашли другую работу. Их проблема заключалась в следующем: «Эй, это была моя цель. Это то, что я люблю». И меня очень беспокоит смена идентичности. Знаете, какое-то время меня очень беспокоит то, что люди действительно пытаются понять, кто они такие.
- По-настоящему важным из них является экзистенциализм, и вся идея экзистенциализма очень разумна, а именно: можем ли мы натренировать модель, которая будет соответствовать человеческим интересам? И я считаю, что да, мы можем и будем...
- В решении этой проблемы заинтересованы все, даже самые жадные деятели хотели бы, чтобы эта проблема была решена. Вы не сможете наслаждаться своим выигрышем, если ИИ поработил вас. И поэтому решение проблемы выравнивания отвечает всем интересам.

...вы уверены, что ИИ каким-то образом не восстанет против нас?

Никто не может назвать мне причину, по которой ИИ хотел бы поработить нас, если он ориентирован и обучен на человеческом опыте. Почему ИИ хочет причинить вред людям? Я думаю, что мы настолько усвоили идею о том, что люди плохие, что все, что мы создаем, должно быть плохим по своей сути, и я просто не думаю, что это правда. Я также считаю, что антропоморфизировать ИИ очень опасно. Я думаю, что мы настолько увлечены идеей Терминатора Скайнет, и я просто не думаю, что это даже отдаленно интересно, учитывая то, что, по нашему мнению, мы создаем.

...как же выглядит регулирование отрасли, чтобы поддерживать порядок и одновременно продвигать инновации, необходимые для перехода к общему искусственному интеллекту (AGI)?

Три вещи, которые помешают нам создать AGI, — это дефицит вычислительных ресурсов, дефицит энергии и чрезмерное регулирование или плохая политика. Поэтому мы создали климатический кризис посредством политики, когда в 70-х и 80-х годах фактически объявили ядерную энергетику незаконной. Теперь мы все сидим и заламываем руки по поводу изменения климата, хотя сжигаем триллионы тонн угля. Я указываю на ядерную энергию как на лучший пример того, как одна политика, особенно под влиянием общественного мнения, может иметь поистине невероятные последствия для человеческого опыта. Я думаю, что мы сможем решить множество проблем, связанных с изменением климата, но я не думаю, что нам пришлось бы смотреть в тупик, если бы мы просто построили атомные электростанции и приняли на себя часть затрат на прогресс. Знаете, сколько Три-Майл-Айлендов и Чернобылей мы бы приняли в обмен на сжигание триллионов тонн угля? Я не знаю, сколько. Но, черт возьми, это больше двух, и это действительно сложная математика. Но нам определенно нужна политика, потому что я думаю, что просто сказать: «Эй, все будут вести себя соответствующим образом в масштабе» тоже немного наивно. Я думаю, что со стороны политиков было бы действительно разумно потребовать от компаний ежегодно публиковать экономические последствия внедрения ИИ и бороться с коррупцией, присущей чему-то подобному. На самом деле управлять этим действительно сложно, но я думаю, что мы должны быть очень осведомлены о том, что происходит в нашем обществе и, как следствие, в нашем деловом мире.

...как нам ориентироваться в таких правилах, если нас беспокоит то, как другие страны, такие как Китай, например, разрабатывают ИИ?

Я думаю, что вопросу ИИ против ИИ уделяется недостаточно внимания. И один из рисков, на который, как мне кажется, указывают многие, заключается в том, что столь быстрое продвижение может спровоцировать своего рода гонку вооружений. Я думаю, что очень важно признать, что AGI, если он правильно организован, приобретает ценность для человеческого рода. Таким образом, цель должна состоять в том, чтобы хорошие мировые деятели, кем бы они ни были и как бы вы их ни классифицировали, должны создать согласованный AGI и поделиться им с миром. При этом я считаю, что нам по-прежнему необходимо создавать международные коалиции для разработки разумных стандартов ИИ. Кажется, это действительно хороший способ заставить деятелей работать коллективно, чтобы двигаться к правильным вещам. И само собой разумеется, что чем раньше мы это сделаем, тем скорее мы начнем по-настоящему определять, кто на самом деле пытается строить на благо человечества, а кто пытается строить на благо государства или на благо отдельного человека. или группа. [конец цитирования]

...Такие дела...
--------------
*) Аркадий и Борис Стругацкие, «Хищные вещи века», 1964 (фрагмент о философии неооптимизма)
"Обедать с доктором философии Опиром оказалось очень удобно. Можно было есть, пить и слушать. Или не слушать. Доктор Опир не нуждался в собеседнике. Доктор Опир нуждался в слушателе.
– Наука! Ее Величество Наука! – восклицал он. – Она зрела долго и мучительно, но плоды ее оказались изобильны и сладки. Остановись, мгновенье, ты прекрасно! Сотни поколений рождались, страдали и умирали, и никогда никому не захотелось произнести этого заклинания. Нам исключительно повезло. Мы родились в величайшую из эпох – в Эпоху Удовлетворения Желаний. Может быть, не все это еще понимают, но девяносто девять процентов моих сограждан уже сейчас живут в мире, где человеку доступно практически все мыслимое. О наука! Ты наконец освободила человечество! Ты дала нам, даешь и будешь отныне давать все... пищу – превосходную пищу! – одежду – превосходную, на любой вкус и в любых количествах! – жилье – превосходное жилье! Любовь, радость, удовлетворенность, а для желающих, для тех, кто утомлен счастьем, – сладкие слезы, маленькие спасительные горести, приятные утешительные заботы, придающие нам значительность в собственных глазах... Да, мы, философы, много и злобно ругали науку. Мы призывали луддитов, ломающих машины, мы проклинали Эйнштейна, изменившего нашу Вселенную, мы клеймили Винера, посягнувшего на нашу божественную сущность. Что ж, мы действительно утратили эту божественную сущность. Наука отняла ее у нас. Но взамен! Взамен она бросила человечество за пиршественные столы Олимпа... Как жаль, что Мальтус умер! Над ним хохотал бы сейчас весь мир! Конечно, у него были какие-то основания для пессимизма. Я готов согласиться с теми, кто полагает его даже гениальным. Но он был слишком невежествен, он совершенно не видел перспективы естественных наук. Он был из тех несчастливых гениев, которые открывают законы общественного развития как раз в тот момент, когда эти законы перестают действовать... Мне его искренне жаль. Ведь человечество было для него миллиардом жадно разинутых ртов. Он должен был просыпаться по ночам от ужаса. Это воистину чудовищный кошмар: миллиард разинутых пастей и ни одной головы! Я оглядываюсь назад и с горечью вижу, как слепы они были – потрясатели душ и властители умов недалекого прошлого. Сознание их было омрачено беспрерывным ужасом. Социальные дарвинисты! Они не верили в возможность существования, видели только сплошную борьбу за существование: толпы остервенелых от голода людей, рвущих друг друга в клочки из-за места под солнцем, как будто оно только одно, это место, как будто солнца не хватит для всех! И Ницше... Может быть, он годился для голодных рабов фараоновых времен со своей зловещей проповедью расы господ, со своими сверхчеловеками по ту сторону добра и зла... Кому сейчас нужно быть по ту сторону? Неплохо и по эту, как вы полагаете? Были, конечно, Маркс и Фрейд. Маркс, например, первым понял, что все дело в экономике. Он понял, что вырвать экономику из рук жадных дураков и фетишистов, сделать ее государственной, безгранично развить ее – это и означает заложить фундамент Золотого Века. А Фрейд показал, для чего, собственно, нам нужен этот Золотой Век. Вспомните, что было причиной всех несчастий рода человеческого. Неудовлетворенные инстинкты, неразделенная любовь и неутоленный голод, не так ли? Но вот является Ее Величество Наука и дарит нам удовлетворение. И как быстро все это произошло! Еще не забыты имена мрачных прорицателей, а уже...
...Да! Любовь и голод. Удовлетворите любовь и голод, и вы увидите счастливого человека. При условии, конечно, что человек наш уверен в завтрашнем дне. Все утопии всех времен базируются на этом простейшем соображении. Освободите человека от забот о хлебе насущном и о завтрашнем дне, и он станет истинно свободен и счастлив. Я глубоко убежден, что дети, именно дети – это идеал человечества. Я вижу глубочайший смысл в поразительном сходстве между ребенком и беззаботным человеком, объектом утопии. Беззаботен – значит счастлив. И как мы близки к этому идеалу! Еще несколько десятков лет, а может быть, и просто несколько лет, и мы достигнем автоматического изобилия, мы отбросим науку, как исцеленный отбрасывает костыли, и все человечество станет огромной счастливой детской семьей. Взрослые будут отличаться от детей только способностью к любви, а эта способность сделается – опять-таки с помощью науки – источником новых, небывалых радостей и наслаждений...".
http://www.rusf.ru/abs/books/hvv04.htm
Более позднее пояснение Бориса Стиругацкого о мире ХВВ:
"Человек в этом мире – свободен. Хочешь – обжирайся и напивайся, хочешь – развлекай себя нейростимуляторами, хочешь – предавайся персональному мазохизму. Но с другой-то стороны: хочешь учиться – учись; хочешь читать – читай, все, что угодно и сколько угодно; хочешь самосовершенствоваться – пожалуйста... Ты волен в этом мире стать таким, каким сможешь и захочешь. Выбор за тобой. Действуй."
http://www.rusf.ru/abs/books/bns-04.htm
**) Jan 17, 2024. A former OpenAI exec says AI could be the last technology humans ever invent
Katherine Tangalakis-Lippert
https://www.businessinsider.com/future-ai-bright-if-accept-costs-progress-former-openai-executive-2024-1
Фото из статьи: turbovagon 24 дек 2022 Жук в атомном муравейнике
https://habr.com/ru/companies/timeweb/articles/707300/

Оставить комментарий

Предыдущие записи блогера :
Архив записей в блогах:
Сталин и Мао — проамериканские лидеры. Они строили свои страны по американским образцам, с непосредственной помощью американских инженеров, управленцев и предпринимателей, на основе американской техники, в союзе с США. Они ориентировали весь правящий класс на американские стандарты и ...
"Золотистый ретривер, крайне довольный собой, принёс очередную добычу. Окружающие брезгливо морщатся: "Опять несёт какую-то дичь!" А дичь и правда знатная: кто-то ужасается, кто-то еле сдерживает смех при виде этого, кто-то не может понять, как такое вообще на свете существует. А ...
Первый раз я поимел психолога ещё во время армейской службы. Мне совсем не понравилось. Наверное из-за того, что поимел в неправильном смысле. Упоминаю об этом эпизоде для иллюстрации того, насколько уже в те далекие времена было полно такого добра, как психологи. ...
Давно хотела записать этот монолог, да все раздумывала. Это все-таки моя родственница говорила. А я вот запишу, а вы все будете смеяться. Или плакать. Короче, вот: Я никогда не вмешивалась в личную жизнь моей дочери! Ее личная жизнь — это только ...
В продолжение темы: «Незапятно церковные "белые одежды"...» «P.S. Переделкинский сиделец и особа, особо приближенная к Императору kalakazo 5 декабря, 2018 « † 5 декабря 2008 года... † 5 декабря 2008 года – 10 лет со дня трагической кончины патриарха Алексия Ридигера ...