Путин и искусственный интеллект. Первые два дня конференции по ИИ

uborshizzza — 24.11.2023

Третий день сижу дома и смотрю трансляцию с большой конференции по искусственному интеллекту. Первый день выступали разработчики, рассказывали о своих достижениях. У них основная цель – снизить долю галлюцинаций до 30%.
«Галлюцинации» - это заведомо бредовые ответы.
Дело в том, что современные системы «Искусственного интеллекта» типа «Chat gpt» работают следующим образом.
Опираются на большие наборы накопленных данных. К ним относятся, например, «Википедия» (целиком), набор данных Amazon о том, какие запросы там были, что покупали и что об этом писали, и т.д.

Если в систему поступает запрос, например, «Чем кончилась дуэль Пушкина?», то система находит в Вики статью, что Дантес застрелил Пушкина, и пишет это как ответ.
Если в явном виде искомой информации нет, то ИИ ищет информацию о похожих событиях и их экстраполирует. Например, на запрос «Чем кончилась дуэль Гоголя?» она информацию о дуэли Гоголя не находит, но находит, что Гоголь часто упоминается с одном ряду с Пушкиным и они оба что-то писали. Далее ИИ экстраполирует информацию и дает сообщение, что Гоголя на дуэли убил Дантес.

Задача разрабов – так подкрутить поисковые механизмы, чтобы подобные неподтвержденные ответы получили малый вес. В результате усовершенствованная система не сразу выдает ответ о том, что Дантес убил на дуэли Гоголя, а изучает информацию о смерти Гоголя, выясняет, что он умер от болезни, и сообщает, что на дуэли Гоголь убил Дантеса.

Основная задача обучальщиков – так подкрутить процедуры оценки правильности ответа, чтобы бреда было поменьше. Поэтому разрабатываются много сегментных ИИ, заточенных под конкретную специфику. Наука тут число эмпирическая – имеются много (более 10) идей, как строить и оценивать решения, в каждом – куча внутренних параметров (температур), которые можно менять, после этого на имеющемся накопленном массиве запросов люди оценивают чтепень бреда при разных вариантах конструирования ответов.

Кроме разрабов иногда выступали и те, кто внедрял или использовал подобные системы. Например, мне понравилось выступление об одной системе поддержки удаленного обучения школьников. Там было две фичи для помощи работы учителя:
1) Кроме распознавания того, что говорит школьник, разрабы добавили выделение и идентификацию меканья и блеянья школьника и на этом основании выдают оценку эмоционального состояния обучающегося.
2) Они добавили опцию проверки правильности домашних заданий. Так как сами домашние задания школьники тоже делают при помощи Chat gpt, то ИИ проверяет, как работает ИИ.

Большая часть доведенных до внедрения систем так или иначе касается маркетинга, контекстной рекламы и пр. Например, на основании информации о последовательности закупки товаров ИИ интеллект выяснил, что вслед за покупкой ноутбука часто покупают рюкзак. Так что если вы купили ноут, то вас будут травить рекламой рюкзаков.

Довольно много было о внедрениях систем с ИИ в медицину, но, как было сообщено одним из специалистов в этой области, 80% таких систем – это рентгенология.

Еще было много докладов от разработчиков железа. Дело в том, что ИИ требует безумного объема вычислений и сильно зависит от их объема, «малые» системы на малых набораз данных работают хуже больших. Из общей теории получается, что для заметного повышения корректности работы систем с ИИ хорошо бы повысить вычислительные мощности на порядок порядков.
В связи с этим были доклады по поводу новых, «перспективных» конструкций.

Доклады были посвящены двум направлениям. Первые – по поводу «квантовых компьютеров». Есть немало людей (в основном – в госуданственных университетах), которые пишут статьи о том, как надо будет использовать квантовые компьютеры, какая у них должна быть архитектура и т.д. Так как у них единичный элемент – это уже один атом, то в силу неопределенности Гейзенберга точно скопировать информацию о состоянии элемента (0 это или 1) уже нельзя, а информация получается типа «пациент скоррее жив, чем мертв». Единственной проблемой тут является то, что квантовых компьютеров нет.

С ними – та же самая история, как с термоядерными электростанциями. Потенциально это – неимоверно крутая штука, но чем больше их разрабатывают, тем больше увеличивается прогнозируемое время до того момента, когда это, все-же, заработает.

Второе направление - не-Неймановская архитектура. В классических компьютерах имеется два отдельных модуля, центральный процессор и оперативная память. Данные для обработки перекачиваются туда-обратно, и шина данных - "бутылочное горлышко". Поэтому появляется идея совместить эти два устройства вместе, разместить прямо в чипе оперативной памяти пару тысяч процессоров... Очень мило, но стоимость получается какая-то запредельная. Поэтому ограничиваются статьями и докладами.

Второй день был посвящен бизнесу. Итого – рост ИИ-индустрии за год около 20%, основных проблем две:
- Частный бизнес плохо дает деньги, в основном все идет на деньги государства,
- Жуткий дефицит специалистов.

Плач Ярославны о том, что в России, в отличие от США, Китая и прочей Европы, бизнес неохотно дает деньши на университетскую и прочую науку я слышу уже 30 лет. И при этом как-то умалчиваются, что огромное количество внедренческих фирм вокруг любого американского университета – следствие того, что в США для подобной деятельности имеются огромные налоговые льготы.
Вторая часть проблемы – то, что в университетской науке платят копейки. Поэтому в том же фармбизнесе не покупают у уинверситетов разработки – если образуется коллектив, который делает что-то полезное, то фармбизнес перекупает этот коллектив.

Третий день был посвящен социальным аспектам, и именно на него внезапно нагрянул Путин. Но об этом – в следующем после, вступление и так затянулось.


В верхнее тематическое оглавление
Тематическое оглавление (Новости)

Оставить комментарий

Популярные посты:

• Ранее
• Архив