lytdybr

ailev — 22.06.2023 Готовлю слайды на семинар "Образование для образованных летом 2023", он уже в это воскресенье. Прогресс с курсом "Интеллект-стек" на данный момент уместился на один слайд, что не успел переписать (от логики вверх до системной инженерии) -- буду рассказывать устно по слайдам. И это лишь одна из четырёх частей семинара (https://system-school.ru/ed4ed).


В журнале "Entropy" опубликована очередная работа Friston со товарищи, "A Variational Synthesis of Evolutionary and Developmental Dynamics", https://www.mdpi.com/1099-4300/25/7/964 (сразу скачать текст -- https://mdpi-res.com/d_attachment/entropy/entropy-25-00964/article_deploy/entropy-25-00964.pdf?version=1687355175). Там скоростной трек: Received: 20 March 2023, Revised: 12 June 2023 (добавочки по сравнению с препринтом), Accepted: 15 June 2023, Published: 21 June 2023. Там делается стык математики филогенеза и математики онтогенеза (раньше в этом месте была дырка -- или обсуждаем познание организма в ходе жизни, или обсуждаем познание вида через познание популяции, а тут рассматривается моделирование на двух масштабах времени сразу). Делается вывод, что невозможно обсуждать популяцию отдельного вида, но обязательно надо это делать в контексте разных видов, влияющих друг на друга. В генотипе вводятся internal kinds, которые как-то соответствуют internal states фенотипа, при этом рассматривается асимметричная каузация от фенотипа к генотипу и назад (помним о центральной догме молекулярной биологии: информация от генома феному передаётся прямо, а вот назад в геном -- через мутации и выживание организма). Работы группы Ванчурина в литературе там есть. Интересно, что о выходе статьи я узнал от Daniel Friedman (второй соавтор, президент Active Inference Institute), который сообщил о ней прямо в чат моего блога, https://t.me/ailev_blog_discussion/21735, оказалось, что он его регулярно просматривает при помощи машинного переводчика. Про то, как это устроено в техноэволюции -- это надо будет отдельно думать, а главное содержание статьи -- предложение математики для моделирования хода эволюции.

Вышла статья "Accurately predicting hit songs using neurophysiology and machine learning", https://www.frontiersin.org/articles/10.3389/frai.2023.1154663/full, опубликована в журнале "Frontiers in Artificial Intelligence", 20 June 2023. В ней рассказывается о способе определения музыкальных хитов на основании нейрофизиологических данных нескольких человек. Конечно, в статье есть множество методологических проблем (прежде всего — крохотные выборки), но сам подход интересен. Результаты надо будет проверять и перепроверять, но сейчас хорошо бы быть в курсе происходящего. В основе метода лежит наблюдение, что оценки "нравится — не нравится" у группы работают только для знакомых людям в группе хитов. То есть это не "нравится трек как будущий хит", а уже известный трек (потому что хит и его уже слышали, ибо хиты звучат из каждого утюга) отмечается как "нравится". А вот если трек незнакомый, то "нравится народу" никак не коррелирует с "нравится людям в малой группе". Если замерять нейрологический ответ как честный ответ "от тела" (в работе использовалось влияние связывания допамина и выбросы окситоцина на ритм сердцебиения, использовались замеры пульса через спортивные браслеты — https://www.getimmersion.com/), то честный ответ от тела никак не коррелировал с отметками "нравится" и "не нравится". Не похоже, чтобы люди его вообще замечали. Тело реагирует, и реагирует — это остаётся вне сознания. Но честный ответ отлично коррелирует с хитовостью. Вплоть до того, что хитовость можно было предсказать по ответу тела с вероятностью 97%, а если ограничиться одной первой минутой трека, то и тут предсказание хитовости будет 82%. До этого предсказать хиты особо не удавалось. Что такое хит? Стриминговый сервис, который предоставил выборку треков определил хит как трек, который прослушивали больше 700000 раз. Меньше — не хит. Использование отдельных людей как приборов для оценки выборов массы людей (называется это по-разному, иногда "нейромаркетинг", иногда “brain as predictor” or “neuroforecasting”) исследуется уже давно. Давно было понятно, что доверять словесным отчётам о том, нравится ли гамбургер, или музыкальный трек, или потенциальный партнёр (для танцев или более чем для танцев) для предсказания того, будут ли они пользоваться массовым спросом на рынке или "рынке" — нельзя. Тело в этом плане врёт много меньше, только было непонятно, как сделать замер отклика тела. Даже с учётом того, что исследование довольно легко критикуется, можно ожидать попыток повторить его и развить его результаты. Так что внимательно следим за происходящим. В любом случае, запоминаем: мозг и тело воспринимают музыку и всё остальное не так, как мы формулируем это словами. Если замерять через пульс (не частоту пульса! Там много характеристик сердечного ритма!), то реакция "нравится" будет честней, чем то, что проговариваем словами. Может быть, основное применение этой технологии будет не предсказание хитовости трека или сорта кофе в народных массах, а честный ответ самому себе — "мне это нравится" или "мне это не нравится". Так сказать, "голосуем сердцем" — в буквальном смысле этого слова (речь идёт о вычислении нейрофизиологического состояния, связанного со связыванием допамина и выбросом окситоцина, это состояние отражается в небольших изменениях ритма сердца на каждом его ударе). Мысль изречённая по "внутренним ощущениям" оказывается ложью, а слушать сигналы "нравится и готов повторить — не нравится, не готов повторить" от собственного тела мы без приборов не умеем. Так что будем прислушиваться к собственному телу через приборы. Лучше будет такой "мир с известными телесными ответами", чем мир сегодняшний, когда "я не понимаю, это мне нравится или нет — но что-то всё равно скажу",, или такой "телесноприборный" мир будет хуже, и что вообще такое "лучше" и "хуже" в вопросах "привлекательности" — это другой вопрос. Пока же читаем статью и ждём развития темы. Интересно, можно ли так отслеживать онтологический дребезг? Хотя там какие-нибудь другие характеристики, но должно быть похоже.

Наша лаборатория AI выбрала очередной фреймворк (и заодно там прошла дискуссия о том, как выбирают софт, не попадая в analysis paralysis -- lean практика "политического решения"). Интуитивно (квантовоподобным расчётом в мокрой нейронной сетке) оцениваем по критериям (и мы их проговорили неделю назад!): есть ли сообщество (количество звёздочек в гитхабе), разделены ли векторная база и оркестратор, а также есть ли API в разные LLM и разные базы (парочка как минимум каждых, чтобы проверить наличие стабильного API), число фич неважно, архитектура неважна. Важна возможность оркестрации с циклами и использованием нескольких разных сеток, а также вышивание крестиком в области retrieve. Переход на новый фрейворк был связан с пониманием, что LLM нам нужна прямо сейчас меньше, чем векторная база, нужно было учесть это в архитектуре. Дальше у нас ведь есть планы — сделать поиск (то есть в оркестрировании задействовать главным образом не prompt engineering, а retrieve, а там поглядим). Скорость выбора фреймворка в примате, а ещё у нас тут производство, а не учебный процесс (хотя формально learning organization, ага, но это не самоцель), так что нет проблемы "все десятеро в лаборатории выбирают фреймворк" — отдали выбор одному человеку, он задачу решил, потом десять минут критики (прямо на встрече лаборатории), фальсифицировать выбор сходу не удалось, хотя пытались — и побежали дальше, не застреваем, разворачиваем фреймворк. А сам фреймворк -- Haystack, "An NLP Framework To Use Transformers In Your Applications", https://haystack.deepset.ai/, https://github.com/deepset-ai/haystack.

Оставить комментарий

Популярные посты:

• Архив