Миллион токенов
kvisaz — 30.04.2023
Смотрю на имена людей, придумавших, как увеличить кратковременную
память диалога нейронки до 1 миллиона условных символов (условный
символ - не символ в нашем понимании).
https://www.youtube.com/watch?v=4Cclp6yPDuw
Миллион токенов даже в кириллице - это считай целая книжка, которую можно запихнуть. Или написать консистентно, без сильной путаницы.
PS: да, корни Deep Pavlov - в МФТИ, если я правильно понял эту статью - https://habr.com/ru/companies/mipt/articles/544458/
PPS: нет, это не сможет прочитать всю книжку или написать ее. Это какой-то хитрый промежуточный хак, который позволит запоминать факты из начала после кучи введенного текста. Восторги отменяются, революция тоже.
Это, судя по отзывам, скорее что-то для конспектирования фактов из миллиона токенов. Всю книжку он помнить не будет, путаница в деталях вполне вероятна.
|
|
</> |
The Blood of Dawnwalker — главный соперник «Ведьмака»
Была счастлива
Мегапроект Саудовской Аравии «Зеркальная линия» на грани провала
Улицы Манхэттена.
Продвигается строительство
Вечернее
Ах, ты, Лахта!
Митрополит Виталий: Революция была восстанием русского хама

