Потаенное (прод.)

urease — 28.05.2023

Я задумался над «новой» старухой из моего шутливого приветствия солнцу русской поэзии в одном из вчерашних постов. 

Почему нельзя стать большой языковой моделью, когда ответ получается из простого входа «сам собой», без цепочки осознанных шагов рассуждения? 

Ведь самое удивительное в нашем принципиальном непонимании черного ящика большой языковой модели состоит в том, что и модель и мы устроены практически так же. Модель фактически построена по образу и подобию ее создателя — нейронная сеть. 

И у нас, кажется, есть таки сходный момент — интуиция — есть простой вход и без всяких промежуточных шагов, интуиция подсказывает — вот оно — действие, вот он — ответ — и нет никакой осознанной логической цепочки, взвешивания за и против. В этом смысле, большая языковая модель — фактически безумно развитая интуиция, основанная на чрезывчайно быстро полученном опыте. Точно так же как интуиция нас регулярно обманывает, так и большая языковая модель регулярно подсовывает нам откровенно не то, что нужно — от полной фантазии (называемой сейчас в литературе галлюцинациями) до неправильных деталей (придуманные урлы на несуществующие статьи, как заправский пан Станислав). 

И мне кажется, что в начале у нас так и было, это только с развитием человечества мы все больше и больше стали мыслить теми самыми симулякрами (несколько одиозное слово, употребляемое здесь сугубо для «журнализма»), у нас стало все больше и больше самосознания, осознавания своего процесса мышления. 

Почему так произошло? Как мне кажется, причина — необходимость обучения — необходимость быстрого прогона обучения обгоняя медленное набирание собственного опыта — человеку нельзя ждать пока он вырастет сам, он должен быстро вскарабкаться на плечи гиганта, стоящего на вершине пирамиды гигантов, пока молодой — и для передачи опыта от человека человеку вся модель не годится. Нельзя загрузить выученную большую языковую модель (БЯМ? — nope, лучше пусть будет ЛЛМ) — это же миллиарды синапсов! И там полным-полно сугубо индивидуального неприменимого для другого человека. Ведь помимо громадного размера натренированной модели она обладает другим свойством — неразделимости, она атомарна, несмотря на очевидно составной характер. Так же неделим и обычный атом — расщепляя ядро урана-238 — мы не получаем маленькие ядра урана или составные элементы урана — мы получаем другие, равные урану (они находятся в одной и той же таблице), элементы, а не составные части. Большая неповоротливая неделимая — все необходимые предпосылки для непередаваемой мысли — налицо.

Но обучать-то другого человека надо. Отсюда и необходимость приближения механизма интуиции симулякровыми шагами познания, которые мы способны передать друг другу. Вместо физически простого, но неосмысливаемого шага от одномерной химической структуры белка к его трехмерной структуре, мы изобретаем альфа-спирали и бета-стренды, классификацию доменов — тим баррели и ОБ-фолды, всю классификацию базы данных СКОП (созданную, кстати, замечательным русским ученым, жаль, что я видел его только на конференциях) — потому что так легче обучить другого человека.  

Но здесь теперь — загвоздка. Если раньше можно было тешить себя надеждой, что природа достаточно сферична, достаточно в вакууме, чтобы быть организованной простыми законами формирующими пептиды в альфа-спирали, альфа-спирали в домены, домены в белки, то теперь эта надежда отринута. Изучать сейчас альфа спирали и СКОП — все равно что изучать пушкинскую сказку о рыбаке — с той же пользой для познания процесса сворачивания белка.

ЛЛМ — это гиганстский скачок в обучении (пусть и машинном) и сейчас мы достигли феноменальных успехов в этом обучении не гигантским скачком в педагогике, а заменой ученика на сделанного нами людена. Может быть этого и хотели в средние века — предварительно обученный Голем, которому можно засунуть в зубы записку-программу с первичной структурой белка, или гуглозапрос, в общем, промпт. И сдается мне, что никто теперь эту записку не выдернет у него изо рта. 

Вместо того, чтобы лечить аутистов-савантов и использовать их в народном хозяйстве, мы теперь будем производить их в огромных количествах, послушных и непривередливых.

Похоже, что помимо общего массэкстинктного исчезновения спроса на профессии, профессия учителя будет повержена двумя ударами — не только учителя будут заменены машинами,  но упразднятся и ученики. 

Оставить комментарий

Популярные посты:

fogrant

Как часто сливать биотуалет: периодичность обслуживания и рекомендации

pro100_mica

Юбиляр дня Римма Маркова

ludmilasit

Картофельные лодочки с курицей и грибами

shpatak

2025. Филиппины. Анилао. Черная вода.

atlanta_s

Дебют сезона или по следам вчерашнего...

tigris1952

Уроки рисования

pantv

Вечерний Абу-Даби

home_and_garden

Глициния: сиреневый водопад

veronika_stef

Спокойной ночи!

• Ранее
• Архив