О глюках нейросетей

hardsign — 28.07.2025

Всё воскресенье провёл в занимательной беседе с умным человеком. Вопросы были затронуты самые разные, и в какой-то момент разговор неизбежно коснулся модного нынче искусственного интеллекта.

Вроде бы вся информация у искусственного мегамозга есть, но иногда в ответ на относительно несложные вопросы он несёт такое, что хоть святых выноси. Почему так? Мы нашли две причины.

Причина первая — знания, выражаясь современным языком, мультимодальны. То есть информация содержится не только в тексте, но также в формулах и картинках. Речь не о котиках и хёнтае, а о графиках, диаграммах и прочем таком, что неизбежно сопровождает любую околонаучную статью. В отличие от сериалов Netflix’а, диктор за кадром не говорит: «Посмотрите, график имеет форму, похожую на параболу, следовательно, эмпирически выявленная зависимость близка к квадратичной». Предполагается, что читатель обладает достаточным уровнем интеллекта, чтобы увидеть это и понять. И для настоящего интеллекта это справедливо, а для искусственного — нет. Поэтому и нет понимания, хотя все слова выучены.

Ну а вторая причина — в отсутствии авторитетов. Если человек хочет изучить какую-то тему, первое, что он делает, — выясняет, кто работал над ней раньше. Ну а потом внимательно читает труды классиков. А если Вася Пупкин пишет в своём бложике «да этот ваш как-его-Ландау вапще древний тупой дед, ща любой школьнек умнее», то настоящий учёный этот бложик просто никогда в жизни не прочитает. То есть у каждого документа есть «вес», показывающий, насколько ему можно доверять. В метаданных документа вес не обозначен, читатель должен определить его самостоятельно. А для нейросетки и то, и другое — всего лишь «мнения», имеющие примерно равную ценность. А поскольку академик Ландау один, а Пупкиных — целое семейство, то понятно, у кого «вес» больше.

Вероятно, создатели нейросетей об этих проблемах прекрасно осведомлены и пытаются как-то их решать. Но похоже, что пока не очень успешно.

Оставить комментарий

Популярные посты:

• Ранее
• Архив