Тупик т.н. "искусственного интеллекта" - итог самообмана некорректным названием

alex_rozoff — 04.11.2024 Любопытная статья Александра Березина* о тупике искусственного интеллекта во многом пересекается со статьей в этом журнале 5 лет назад.
Причем мы с Березиным незнакомы и не сговаривались.
Более того: с некоторыми его рассуждениями о сложности мозга я не согласен (поскольку есть примеры детальной карты связей биологических нейронных сетей фруктовых мушек и морских зайцев).
Тем не менее общие выводы у Березина подтверждены фактами и объективными отчетами.

Привожу несколько фрагментов из его статьи.

1. Все дело в том, что в основе «Кибертакси», под капотом его концепции, лежит совершенно то же самое, что и под капотом ChatGPT и так называемого современного ИИ в целом. Почему так называемого? Потому что, как здраво отмечают специалисты по искусственному интеллекту, слово «интеллект» в описании этого явления — совершенно лишнее. Причин множество, но ключевая из них в том, что природа единственного известного нам интеллекта (человеческого) не изучена от слова совершенно. Речь не о том, что мы не понимаем в нем какие-то детали: мы не понимаем, что это такое вообще, в целом, в принципе. Нет ни одного определения интеллекта, с которым было бы согласно большинство (или хотя бы половина) ученых, изучающих интеллект.

2. нужно вникнуть в то, как устроен современный искусственный неинтеллект (чуть позже станет ясно, почему мы используем такую приставку).
В основе его всегда лежат нейросети — ПО, которое называют построенным по принципам биологических нейронных сетей. Но по сути это не так, причем сразу по многими причинам. Нейронка — это система так называемых искусственных нейронов, цифровых по своей природе.
Между тем реальный нейроны у вас в голове не цифровые, поскольку некоторые нейроны могут находиться в самых разных состояниях (давать импульсы разной силы), а не только в ограниченный набор сигналов типа «нуля» (нет сигнала) и «единицы» (есть сигнал). А еще они не аналоговые — наука установила и то, и другое совершенно точно. Какие они?
Одни исследователи уверенно говорят, что гибридные: в какой-то части своего функционала цифровые, в какой-то аналоговые. Другие ученые возражают: они не гибридные, они просто конвертируют цифровые сигналы в аналоговые (или наоборот, смотря какого ученого спросить). Правда, зачем им добавлять себе работу такой конвертацией, не очень понятно.

3.Различия между искусственными «нейросетями» и естественными не заканчиваются на том, что «нейрон» в нейросети совершенно точно цифровой, а у нас в голове — какой-то непонятный. На этом они только начинаются. Ключевой принцип обучения современной нейросети — алгоритм обратного распространения ошибки (backpropagation). Уже из названия ясно, что у нас в голове он происходить не может: там, собственно, нет алгоритмов. Это не помешало отдельным исследователям поискать его следы. Но, ожидаемо, никто ничего не нашел.
Перечислять отличия можно долго, но суть читатель уже уловил: «нейроны» и «нейросети» и их «обучения» в ПО Tesla или в ChatGPT имеют не так много общего с нейросетями у нас в голове. Де-факто все существующие искусственные «нейросети» — просто китайская комната. То есть эффективное ПО, умеющее обрабатывать слова так же, как «донейросетевое» ПО умеет обрабатывать числа.

4. попробуем обратиться к конкретным примерам использования нейросетей — и сразу всплывет немало нюансов.
Как работнику СМИ и редактору мне приходится сталкиваться с нейросетями крайне часто. Это эффективное средство оценки качества потенциальных сотрудников. Ведь на сколько-нибудь сложных задачах нейросети стабильно делают характерные ошибки и в переводах, и в написании текстов. Каждый опытный редактор за последний год давно научился быстро отличать текст, автор которого использует ChatGPT любой версии. Подобное экономит время: раньше на понимание того, что продукт работы очередного кандидата может не вызывать у вас восторг, нужно было несколько больше трудозатрат.
Это не значит, что нейросети не используются для генерации контента: используются, и массово. Многие Telegram-каналы и СМИ не очень гонятся за качеством, поэтому часто применяют подобное. Есть и редакторы, поручающие нейронке отредактировать текст в том или ином стиле. Конечно, среди таких редакторов нет людей, блещущих стилем (отчего у них и нет претензий к конечному продукту). Но надо понимать. что медиарынок в нашу эпоху не всегда взыскателен, поэтому находится место и им.
Сходная картина с картинками: качество того, что они генерят, невысокое. Иногда их можно использовать, чаще проще найти нормальное обычное фото. Там, где требования пониже, такие картинки используют действительно часто.
Если мы спросим программистов, пытавшихся использовать нейронки для написания кода, ответ будет очень похожим. Обобщенно он звучит так: если вы кодите на Python простые игрушки для мобилок, то почему бы и нет. Говоришь, что хочешь получить, копируешь выдачу и вставляешь. Что-то оригинальное, принципиально новый продукт — уже нет. На Java примерно так же.

5. точный размер прибыли Waymo нам узнать не удалось. Основная причина: она несет убытки. За первую половину этого года там потеряли два миллиарда долларов. Как минимум по 800 долларов убытка на одну поездку роботакси.
Как у них это получается? Все просто: никаких беспилотных такси у Waymo нет. Как нет их и у кого-либо другого. То, что так называют, это машина, которой управляет нейронка, и за группой которых присматривает удаленный инженер. Автомобиль попал в непонятную ситуацию, затупил и остановился на пустой дороге (обычная история с беспилотником)? Инженер нехотя отложил в сторону смартфон и подсказал, что делать. Ну или вручную вырулил из сложной ситуации.

...Такие дела...
---------------------------
*)12 октября 2024 «Кибертакси» Tesla: первый крупный провал Илона Маска — и первый шаг к схлопыванию пузыря ИИ (Александр Березин)
https://naked-science.ru/article/nakedscience/cybertaxi-tesla-proval
Связанные материалы: отчеты по применению ИИ в программировании
https://resources.uplevelteam.com/gen-ai-for-coding
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4945566
**) 2019-09-29 Цифровой мир заведомо в тупике. Поиски возвращают экспертов в эру аналоговых схем.
https://alex-rozoff.livejournal.com/156609.html

Оставить комментарий

Популярные посты:

• Ранее
• Архив