ИскИн капут? ИИ революция, о необходимости которой все время говорили

alex_rozoff — 04.04.2024 "Товарищи! Рабочая и крестьянская революция, о необходимости которой все время говорили большевики, совершилась" (В.И. Ленин. Из выступления 25 октября/ 7 ноября 1917).

2023-04-08 в заметке https://alex-rozoff.livejournal.com/662352.html "Блеск и нищета ChatGPT: обучающие интернет-яды, ЛГБТКонсультант+, и гептасексуальные марсиане" отмечалось: "Без внутренней модели, связывающей возможные явления внешнего мира (или вообще предметной области) - нет интеллекта. Подобие интеллекта, которое можно создать на базе модели сетей Хопфилда путем формирования больших решающих таблиц, "обучаемых" на примерах - окажется имитацией, опасной для пользователя, поверившего в "разумность" такого подобия. Такая таблица неизбежно окажется отравлена информационными ядами, которые всегда содержатся в пространстве больших данных."
...И вот настал тот момент, когда это произошло на практике.
Для обучения GPT-5 не хватит качественных данных из всего интернета

[цитирую выборочно] Дефицит качественных текстов может затормозить развитие отрасли уже в ближайшие 2 года. Теперь с кризисом столкнулись даже однозначные лидеры рынка, такие как OpenAI и Anthropic... даже по самым скромным ожиданиям, понадобятся 240-400 миллиардов страниц А4 и около 1 миллиарда книг. Чтобы соответствовать аппетитам передовых ИИ, нужно 5-8 Британских библиотек, причем материалы в них должны быть уникальными. И Google, и OpenAI думают над созданием рынка данных для обучения нейросетей. На нем будут определять, насколько определенная информация полезна для конкретной модели, и какая цена будет справедливой. Возможно, возникнет целая новая сфера экономики, в которой будут трудится производители контента для обучения ИИ. Пока дальше планов работа над рынком не заходит. OpenAI и Anthropic также начали эксперименты с «высококачественными синтетическими данными». Это наилучшие тексты, созданные самими нейросетями. Здесь разработчикам нужно быть предельно осторожными — некоторые испытания показали, что нейросети теряют производительность и деградируют от таких учебных материалов.
https://hightech.plus/2024/04/02/dlya-obucheniya-gpt-5-ne-hvatit-kachestvennih-dannih-iz-vsego-interneta

Картина Репина "Приплыли". Причем это еще цветочки, а вот и...
Генеральный директор Google DeepMind Демис Хассабис заявил, что деньги, идущие на искусственный интеллект, отвлекают от науки и исследований, которые делают его возможным. Ажиотаж вокруг ИИ напоминает ему хайп вокруг криптовалют — сфера получает много внимания, но оно не направлено на её развитие. Многомиллиардные инвестиции раздувают экономический пузырь, который может лопнуть.
[цитирую выборочно] Мысль о том, что ажиотаж вокруг ИИ может привести к негативным экономическим последствиям приходила не только к Хассабису. После того, как Nvidia достигла оценки $2 триллиона, Торстен Слок, главный экономист Apollo Global Management, предупредил, что нынешний ажиотаж вокруг ИИ превзошел пузырь доткомов в 1990-х годах.
Экономисты не знают, как долго ИИ-стартапы, в которые инвестируют миллионы долларов, смогут соответствовать ожиданиям рынка и получать сверхприбыли. Аналитиков беспокоит не сама технология ИИ, а приток капитала в неё, который может оказаться неоправданным. Если стоимость таких компаний упадёт, инвесторы и даже мировая экономика понесут значительные потери. Одной из причин для этого может стать приближающийся предел производительности ИИ из-за нехватки чипов и наборов данных.
https://hightech.plus/2024/04/03/glava-deepmind-millioni-potrachennie-na-ii-idut-na-haip-i-ne-pomogayut-issledovaniyam

...Такие дела...

Оставить комментарий

Популярные посты:

• Ранее
• Архив