Очередные провалы т.н. "исскусственного интеллекта" - "снегопад, снегопад, мы

alex_rozoff — 29.10.2024 Т.н. искусственный интеллект в виде больших языковых моделей продолжает пробивать днища*, громоздя все более феерические нелепости.

25 октября OpenAI распустила команду консультантов, "оценивающих готовность общества к появлению универсального, или сильного ИИ". Признала провал? Вы будете смеяться, но нет. Основание для роспуска заявлено такое смешное, что все клоуны отдыхают.
Майлс Брандэйдж (глава теперь уже бывшей команды) объяснил это так: "Ни OpenAI, ни какая-либо другая передовая лаборатория не готовы к сильному ИИ, мир тоже не готов. Поясню, я не думаю, что в руководстве OpenAI это утверждение вызывает споры. И его не следует путать с вопросом, окажется ли компания и мир готовы в соответствующее время"
...Гм... Это что было?
Намек на демонстративную коммерциализацию OpenAI Сэмом Альтманом и раздачу бредовых обещаний?**
Или напоминание о бегстве ключевых фигур из OpenAI (включая Суцкевера и Мурати)?
А может, ужас перед лицом нового эпического фейла, о котором ниже:

[цитирую материал от 28.10] Генеративные модели искусственного интеллекта склонны к генерации некорректной информации. Удивительно, но эта проблема затронула и область автоматической транскрипции, где модель должна точно воспроизводить аудиозапись. По данным Associated Press, инженеры-программисты, разработчики и ученые серьезно обеспокоены расшифровками Whisper от OpenAI.
Исследователь из Мичиганского университета обнаружил галлюцинации в восьми из десяти аудиозаписей. Инженер по машинному обучению, изучивший более 100 часов транскрипций Whisper, нашел ошибки более чем в половине из них. А разработчик сообщил, что обнаружил вымышленные сведения почти во всех 26.000 транскрипциях, созданных им с помощью Whisper.
Ученые из Корнельского университета, Университета Вашингтона и других учреждений обнаружили, что Whisper «галлюцинирует» примерно в 1% случаев, придумывая целые предложения во время пауз в записях. Исследователи отмечают, что паузы особенно часто встречаются при речи людей с афазией. Иногда выдуманные ИИ фразы содержат агрессию и расизм, а иногда — бессмыслицу.
Галлюцинации включали вымышленные медицинские термины или фразы, которые можно было бы ожидать от видео на YouTube, например, «Спасибо за просмотр!». Сообщается, что OpenAI использовала для расшифровки более 1 млн часов видео на YouTube для обучения GPT-4.
Все это создает серьезные риски, поскольку Whisper применяется в медицинских учреждениях. Так, Whisper используется компанией Nabla в качестве инструмента медицинской транскрипции. По ее оценкам, модель расшифровала 7 млн разговоров с врачами. Более 30.000 докторов и 40 систем здравоохранения используют ИИ-инструмент.*

В общем: супер-проект ИИ падает, как и предполагалось исходя из материалов, ранее изложенных в этом журнале***.

...Такие дела...
-------------------------------
*) Новости октября 2024 по ИИ
25 октября: OpenAI распустила команду по «встрече» универсального ИИ
https://hightech.plus/2024/10/25/openai-pokinul-glavnii-konsultant-po-gotovnosti-obshestva-k-silnomu-ii
28 октября: Используемая в больницах модель OpenAI оказалась подвержена галлюцинациям
https://hightech.plus/2024/10/28/ispolzuemaya-v-bolnicah-model-openai-okazalas-podverzhena-gallyucinaciyam
**) О бредовых обещаниях и неизбежных фейлах ИИ типа БЯМ
Искусственный интеллект влип в неосуществимое
https://t.me/mifofagos/66
Лемма Лема о ловушке машинного интеллекта
https://t.me/mifofagos/84
***) Ранее по теме в этом журнале
Все надежды человоща. Искусственный интеллект, как бог человощества.
https://alex-rozoff.livejournal.com/122271.html
Куда уехал цирк: этот искусственный интеллект (LLM) сломался, несите новый (KAN).
https://alex-rozoff.livejournal.com/786381.html
Наконец-то нашлись ученые, которые сказали прямо: AI типа LLM это лишь имитация говорящего попугая
https://alex-rozoff.livejournal.com/810190.html
Великий финансовый пузырь сверхчеловеческого искусственного интеллекта: цирк продолжается
https://alex-rozoff.livejournal.com/820035.html
И вновь продолжается цирк... Вокруг т.н. "искусственного интеллекта". Есть выход, но он не работает
https://alex-rozoff.livejournal.com/824436.html
Афера "Искусственный Интеллект" тонет, как Титаник. Ученые отплывают, чтоб не затянуло в воронку
https://alex-rozoff.livejournal.com/825567.html
Лидеры проектов т.н. "искусственного интеллекта", как и ожидалось, упали до уровня игры в наперстки
https://alex-rozoff.livejournal.com/826281.html
Картина: Эшер. Гравитация

Оставить комментарий

Популярные посты:

• Ранее
• Архив