Как умный ИИ может отупеть

a_n_d_r_u_s_h_a — 28.09.2024

У ИИ главное - чтобы он весь залез в видеопамять. Тогда он работает, а иначе выдает по слову в минуту.

Эта штука устроена так, что осторожно подбирает максимально близкие друг к другу слова. И они получаются теми самыми умными словами, которых мы от него так ждем.

Но расстояние между двумя совершенно разными словами может быть вполне близким. Например "Духовка" и "Крематорий" - и то и другое это печь.

Вектора расположения слов описываются многозначными числами. Но хитрые разработчики округляют эти числа до 8, 4 и даже 2 двоичных разрядов. Это называется разрядность квантификации.
И тогда уж точно печь, микроволновка, духовка и крематорий находятся рядом.  Получается "Засуньте гуся в крематорий. Выньте из микроволновки утконоса когда зарумянится хвост".

Квен 2.5 на 14 миллиардов параметров влезает в 10 гигабайт и работает быстро и точнее чем chatgpt 4o. Взял "более умный" Квен 2.5 на 30 миллиардов параметров - но пришлось сильно пожертвовать разрядностью - и он оказался тупее! у него 1+1+0 равно 1+1+1.
То есть знает-то он много - но неточно и путается.

Так что если вам нужна не креативность, а точность (математика, программирование, медицина) - то желательна хотя бы 8-битная квантификация.

Оставить комментарий

Популярные посты:

diadumenianus

Мукопросеиватель: чистота, лёгкость и качество теста

colonelcassad

"Мы тебя на СВО отправим"

veronika_stef

Верх зверской наглости!!!

seregalab

Путин рассказал о личных просьбах зарубежных брендов, разрешить им вернуться на

gatoazul

Ответ на историко-архитектурную загадку

jozik_1

Обкуренная величина со свистом в голове

inna1903gr

Дневные мечты

colonelcassad

Авиабаза "Белая" после атаки

vlkamov

Субатомная логика ?

• Ранее
• Архив