ИИ и критерии успеха

usersalaric- — 06.10.2025

Один мой знакомый нередко последнее время пишет в своём блоге о том, как много он использует нейросети и как ему стало от этого хорошо. Однако у его заметок есть одна проблема: в них практически отсутствуют подробности о том, что за задачи он решает и какие у него при этом критерии успеха.

Почему это важно?

Пример. Ещё один мой знакомый некоторое время назад активно использовал нейросеть, чтобы переводить свои статьи на английский и публиковать их на некоем англоязычном ресурсе. Выглядит так, будто тот факт, что нейросеть выдавала какой-то результат, он считал за успех. Однако свидетельств того, что его труды пользовались хоть какой-то популярностью, замечено не было. А люди, которые хорошо владеют английским, отмечали, что совершенно неудивительно, что это никто не читает, потому что перевод - ужасен (там, впрочем, были и другие проблемы).

Другой пример. Ещё когда вершиной прогресса была ChatGPT-3.5, в Сети было множество людей, которые рассказывали, как она помогает им в программировании. У меня это вызывало сильное недоумение, потому что с моей точки зрения, практически на все вопросы, на которые та модель могла правильно ответить, гораздо быстрее и надёжнее было бы нагуглить ответ на StackOverflow. Этот пример скорее о том, что иногда за утверждением "ИИ очень хорошо помогает решать мне мои задачи" может скрываться "я решаю какие-то очень простые задачи". (В том, чтобы решать простые задачи, ничего плохого нет, но скорее стоит подумать, с какой целью ты их решаешь и что будет дальше.)

Я в значительной степени являюсь "ИИ-алармистом": я считаю достаточно вероятным появление такого ИИ, который сможет решать совершенно любые задачи лучше и дешевле человека, что, скорее всего, приведёт к плохим последствиям для человечества. Однако одним из немногих достаточно неплохих аргументов в пользу того, что этого всё же не произойдёт, я считаю следующий.

Чтобы обучить нейросеть, нам нужно "объяснять" ей, какие ответы правильные, а какие - нет. Есть области, в которых мы можем это сделать достаточно легко, и в этих областях нейросети действительно делают успехи. Однако, кажется, любая достаточно интересная работа связана с задачами, в которых не так легко понять, как отличить правильный ответ от неправильного. (Например, я по работе регулярно сталкиваюсь с ситуациями, когда даже заказчик не может достаточно быстро сказать, устраивает ли его некоторое поведение разрабатываемой системы или нет.) И соответственно, возникает вопрос: а как можно обучить нейросеть решать подобные задачи, если мы даже не можем сказать, а какой ответ правильный?

Однако иногда я думаю, что контраргументом здесь может быть даже: а вдруг это не так уж и важно? Если человек сам не знает, какой ответ правильный, то может быть ему подойдёт любой (ну или по крайней мере любой из некоторого множества)? Например, люди генерируют картинки нейросетями, будучи явно не в состоянии заранее описать в подробностях, а что именно им нужно. Тем не менее результат их устраивает. Насколько широко распространяется кластер, где всё может работать так же?

Оставить комментарий

Популярные посты:

bafostri

Современные комплексные IT решения для бизнеса: автоматизация и развитие

a_nalgin

О совете старейшины Как России получить своё?

philologist

Шуйский А. Сын Грозного Иван: жизнь и смерть. СПб.: Алетейя, 2025

bdyska_t

Без названия

seespirit

Совет норвежских аксакалов

moj_golos

Фальсификаты против русской истории с 1453 года,обнаруженные Йованом Деретичем

lenaknekhtina

Из другого мира

borovik

Разделяя смысл

lana_prini

Держи вора!

• Архив