можно сравнить с нулем

dibr — 17.03.2023 Помните, я примерно в декабре того года восхищался нейросетью ChatGPT? Которая реально прорыв в области ИИ, отвечает на относительно сложные вопросы, может пояснить ответ, ну и вообще демонстрирует выраженные способности к абстрактному мышлению. Пусть пока и не на уровне взрослого человека, но ЕГЭ скорее всего сдаст (и уже уверенно сдала экзамен на право работать врачом в США (USMLE), и экзамен по программе MBA (этот правда "на три с плюсом")). Иногда, правда, несёт откровенную чушь, но несёт вдохновенно, ну прямо студент на экзамене. И так же как студент, правильно реагирует на "давайте не будем спешить и подумаем" - реально думает и исправляет ответ.
Так вот, буквально на днях была выпущена новая версия. Говорят, всё стало ощутимо круче: чушь практически не несёт, задачки решает более сложные, понимает (и может объяснить) неприличные анекдоты, играет в шахматы (и может объяснить свои ходы), ну и так далее. Вышивать пока вроде не умеет, и на машинке тоже, но это явно вопрос времени.

А теперь что мы видим:
— С нейросетями возятся уже довольно давно, но если раньше это были в основном эксперименты по распознаванию образов и поиску неявных закономерностей, то сейчас, когда увеличили (на порядки, да) объём памяти нейронок и массив данных для обучения, нейронки стали делать то, чему их вообще говоря не учили: ту же ChatGPT не учили играть в шахматы, она научилась сама, прочитав(!) правила и изучив попавшиеся в обучающей базе примеры партий. И вот всего этого, "чему её не учили но она может", вообще уже довольно дофига - учили-то GPT по сути только слова друг с другом "правильно" складывать, по структуре это "говорильная" нейросеть, обученная на базе текстов. И по мере дальнейшего увеличения "мощности" (объёма базы) неожиданные умения продолжают появляться.
— Да, она во многом сильно уступает человеку, например, не способна думать слишком глубоко - начинает "терять контекст" (забывать то, о чём только что говорили), может начать "бредить". Но это-то похоже лечится простым увеличением доступной ей памяти (что, кроме всего прочего, они и сделали в новой версии), зато кое в чём она человека превосходит, и сильно. Например, в общем кругозоре: в эту сетку запихали терабайты данных (для текста это очень много - всю википедию и большинство энциклопедий запихнули точно), и все эти данные (не в исходном виде, а в виде "осмысленном" и приведённом к внутренней структуре самой сети) ей доступны СРАЗУ. Конечно, это означает, что она знает всё одинаково средне, и профессионал в конкретной области её легко превзойдёт, но "одинаково средне" она знает ВСЁ, и уровень этого "среднего" знания постепенно растёт - экзамены на врача и MBA она сдавала без дополнительного обучения, "из коробки". А можно же и дообучить...
— Быстро развивается. Всего три месяца от предыдущего релиза, и уже существенный прогресс. С одной стороны это ещё ничего не значит - быстрый рост не может длиться вечно, когда-то она упрётся в технологический предел развития, но с другой - мы пока не знаем, далеко ли до этого предела. Фразу про 640 килобайт (которые "ought to be enough for anybody") помним? Вряд ли тогда кто-то думал, что когда-то память будет измеряться не килобайтами, и даже не мегабайтами, а десятками гигабайт. А если привлечь к оптимизации нейросети саму нейросеть - зря что ли она умеет программировать?..
— Для обучения действительно нужен суперкомпьютер. Но, по слухам, уже обученная сеть будет работать и на обычной достаточно мощной персоналке. "Рисовальные" сети народ уже активно скачивает себе на компы и использует как инструмент, про возможность скачать "говорильную" сеть уровня ChatGPT я пока не слышал, но не удивлюсь если такое появится. А если не грузить в нейросеть ВООБЩЕ ВСЁ, а ограничиться только "общеязыковыми" материалами (чтобы с ней можно было объясняться словами) и материалами тематическими, под конкретную задачу, требуемые объёмы могут снизиться на порядок. И поместиться, например, в смартфон.
— Что нам там говорили про "сингулярность"? Прогресс пойдёт настолько быстро, что в какой-то момент всё произойдёт так, что мы даже не успеем понять, а что собственно произошло? Кажется началось: нейросети развиваются как-то больно быстро, понять это я лично не успеваю.
— ...и если Массачусетскую Машину обесточили, забетонировали и обнесли колючей проволокой, то нейросети уже так просто не забетонируешь. Обязательно найдётся "пятерка дьявольски талантливых сорвиголов из Швейцеровской лаборатории в Бамако"(с), которые скачают, обучат и запустят, и никакой КОМКОН-2 не поможет (тем более его у нас и нет, беспечные мы, не боимся неконтролируемого развития). А применения "сильного ИИ общего назначения" могут быть, сами понимаете, самыми разными.

В общем, если кто вдруг увидит Сару Коннор - предупредите, что похоже уже начинается, ладно? И - продолжаем наблюдение, конечно.

А на закуску - кусочек албана "Паутина" Лёхи Андреева, который я не так давно перечитывал. 1998 год, сейчас многое уже сбывается. Пора похоже и ИИ того. Сбыться...

==========
- А ты подумай: как быстро растут способности твоего электронного ангела-хранителя?
Я замялся. С математикой у меня всегда было неважно. С физикой и электроникой - тем более.
- Ну, наверное это связано с вычислительной мощностью компов. Был там какой-то закон... Кажется, удвоение скорости каждые два года.
- Закон Мура? Так это еще когда было, проснись! [...] В общем, суммарная скорость роста способностей Зазеркалья могла бы худо-бедно описываться законом Ли-Вонга-Барабаси-Фишмана-Алферова-Мура, если бы не появились суперсоты. С ними посложнее.
- Такие непредсказуемые?
- Вовсе нет. Просто они так засекречены, что человека, который их придумал, официально не существует. Потому и закон, описывающий вычислительную мощность суперсот, пока не назван ничьим именем. Но закон такой есть. Вполне конкретные цифры, могу показать.
- Да зачем? Я все равно в этом ничего не понимаю. Ну, назовешь ты огромное число, а мне и сравнить его будет не с чем.
- Можно сравнить с нулем. С твоим собственным мозгом. Его-то мощность за годы развития Сети не особенно увеличилась, так ведь? Скорее даже наоборот. Мозг человека вообще не любит ускоряться, кроме двух особых случаев.
- Ты хочешь сказать...
На том конце раздался знакомый звонкий смех
==========
(с) "Паутина", Лёха Андреев 1998

Оставить комментарий

Популярные посты:

• Ранее
• Архив