Как умный ИИ может отупеть

a_n_d_r_u_s_h_a — 28.09.2024

У ИИ главное - чтобы он весь залез в видеопамять. Тогда он работает, а иначе выдает по слову в минуту.

Эта штука устроена так, что осторожно подбирает максимально близкие друг к другу слова. И они получаются теми самыми умными словами, которых мы от него так ждем.

Но расстояние между двумя совершенно разными словами может быть вполне близким. Например "Духовка" и "Крематорий" - и то и другое это печь.

Вектора расположения слов описываются многозначными числами. Но хитрые разработчики округляют эти числа до 8, 4 и даже 2 двоичных разрядов. Это называется разрядность квантификации.
И тогда уж точно печь, микроволновка, духовка и крематорий находятся рядом.  Получается "Засуньте гуся в крематорий. Выньте из микроволновки утконоса когда зарумянится хвост".

Квен 2.5 на 14 миллиардов параметров влезает в 10 гигабайт и работает быстро и точнее чем chatgpt 4o. Взял "более умный" Квен 2.5 на 30 миллиардов параметров - но пришлось сильно пожертвовать разрядностью - и он оказался тупее! у него 1+1+0 равно 1+1+1.
То есть знает-то он много - но неточно и путается.

Так что если вам нужна не креативность, а точность (математика, программирование, медицина) - то желательна хотя бы 8-битная квантификация.

Оставить комментарий

Популярные посты:

masterok

Какая битва в Гражданской войне была решающей?

volynko

«За последней чертой»: тело против сознания в фотопроекте Сандро Джордано

litvarenie

"Прощание с Карелией"

evfimi

11 июля 2025

mmekourdukova

что скрывается под апостольником

von_hoffmann

27 июля 1953 года, завершилась трёхлетняя война в Корее

humus

Домашняя фотосессия

7alisali

лисовинишко

• Ранее
• Архив