Если вдруг получится общий искусственный интеллект (AGI) – то что? А ничего.

alex_rozoff — 16.08.2024 Сеть полна энтузиастами искусственного интеллекта, в т.ч. общего/генерального (AGI) и сверхчеловеческого (ASI)
- Позитивные энтузиасты рассказывают, что уже в 2020-х появится AGI, который сразу перейдет в ASI, и жизнь от этого настанет прекрасная.
- Негативные энтузиасты согласны с позитивными, что в 2020-х появится AGI, который сразу перейдет в ASI, однако полагают, что жизнь от этого станет ужасной (но в лучшем случае ASI просто убьет всех человеков быстро, без лишних мучений)

…Я не соглашусь с обоими по обоим пунктам.
1) AGI не будет создан в 2020-х (ниже объясню почему), а останется примерно на том уровне, на котором завис после 1980-х. Это способность распознавать оцифрованные образы, заполнять формы по шаблону (составлять типовые отчеты клерков или рисовать котиков) и генерировать инфомусор – о чем, кстати, вышла очередная статья*
2) Если (каким-то чудом в стиле Гэндальфа) AGI все-таки появится, то это в принципе ни на что не повлияет. Ну, разве что, надуется еще один пузырь на финансовом рынке (ниже объясню почему).

1) Объясняю, почему AGI не будет создан в 2020-х
Как уже говорилось тут**, современный мейнстрим моделирования интеллекта не смог подняться выше исходной идеи Фрэнка Розенблатта, показанной в 1957-м - 1960-м (т.н. концепция многослойного персептрона, или т.н. искусственных нейронных сетей). Уже через 10 лет стало понятно, что исходная (вполне гениальная) идея не поднимется выше интеллекта медузы (очень круто по меркам 1960-х, но не годится на перспективу). Научное сообщество занялось было поисками продвинутой модели, но еще через 10 лет начался экстенсивный рост ресурсов компьютерной памяти и вычислительной мощности. Кто-то решил, что при таких ресурсах BigData, для AI будет вполне достаточно интеллекта медузы. Перспективные исследования были свернуты, и прикладная наука бросилась искать пути форсированной набивки электронной медузы - массивами данных. В итоге, мы имеем сейчас AI лишь как примитивный анализатор и синтезатор «больших данных», полезный только в очень ограниченном круге задач.
Для создания AGI хотя бы на уровне насекомого, придется вернуться в прошлое на 40 лет (к «повороту не туда») и поехать снова в будущее по другой дороге.

2) Объясняю, почему, если AGI все-таки появится, это в принципе ни на что не повлияет.
Как отмечалось здесь***, инфосфера превращается в циклопическую помойку данных, в которой доля полезной (или хотя бы потенциально полезной) информации стремится к нулю. 96% данных, созданных и загруженных в сеть между миллениумом и ковидом - не имели шансов быть замеченными, причем безотносительно к тому, есть ли в них потенциальная польза.
Возможно, там затеряны жемчужины колоссальной ценности (предпосылки к холодному ядерному синтезу, или к пузырю Алькубьере, или к средству Макропулоса) – мы никогда не найдем их среди 100 зеттабайтов сраного говна.
По мере того, как скорость порождения новой информации растет - вероятность того, что вновь созданная информация вообще никогда никем не будет замечена стремится к 100%.
В 2025-м году эта вероятность будет ориентировочно 99.92%
Где-то к 2030-му она превысит 99.999%.
Шанс любой новой информации быть хотя бы просто просмотренной составит менее 1/100.000
Практически это значит, что человечество вернется от глобального информационного мира - к информационному обмену между знакомыми. Т.е. в основном каждый потребитель и производитель информации будет вращаться в своем кругу - лишь крайне редко подбирая какой-то контент извне.
Поэтому компьютерный мистер Супер-Гениальность (ASI) ничего не изменит – как не изменил бы живой человек с интеллектуальными сверхспособностями (Hi, Marvel!)

…Такие дела…
---------------------------
*) https://hightech.plus/2024/08/15/yaponskaya-generativnaya-model-ai-scientist-popitalas-izmenit-sobstvennii-kod
**) https://alex-rozoff.livejournal.com/786381.html
***) https://alex-rozoff.livejournal.com/165957.html
Картинка: Отто Гетце «Полет ведьм»

Оставить комментарий

Популярные посты:

• Ранее
• Архив