Схлопывание языковых моделей

топ 100 блогов thesz03.04.2024 Model Collapse refers to a degenerative learning process where models start forgetting improbable events over time, as the model becomes poisoned with its own projection of reality.

https://arxiv.org/pdf/2305.17493.pdf

Если из материала для обучения языковых моделей не исключать результаты работы языковых моделей, то языковые модели "схлопываются," и начинают создавать то, что важно для языковых моделей, а не для пользователей.

Оставить комментарий

Предыдущие записи блогера :
Архив записей в блогах:
Некоторое время назад, я вопрошал народ – мол, какой мне купить телефон для телефонизации себя и прослушивания музыки? Сразу скажу, что самсунг мне надоел, а после знакомства с айпадом – я понял, что продуцыя фабрики макинтош - есть фашысткий ...
    - Товарищ Безручко, когда в охране наведете порядок? Или вы хотите, чтобы я на ваше место поставил охранника, который в глаз бьет без промаха? На очередное оперативке директор завода распекал начальника охраны, Ивана Егоровича Безручко. ...
ТЫ ВСТУПИЛ В СООБЩЕСТВО НОВОГОДНЕЙ ...
...
Веймарская легавая На воровском жаргоне произносится охотнее,как Лягавый. означает милиционер,агент уголовного розыска,сыщик. Также в значении доносчик,шпион,предатель. лягаш. ...