5 тестов на общий искусственный интеллект: лучше RUR в руках чем AGI/ASI в небе

alex_rozoff — 13.08.2024 Случился тут разговор с snjax (энтузиастом AGI/ASI)

snjax: AGI через 3-5 лет. Сингулярность через 5-10 лет.
alex_rozoff: AGI приобретает черты горизонта: до него всегда одинаковое расстояние, определяемое кривизной концепции [...] нет ни малейших признаков продвижения к AGI
snjax: А можете написать четко и ясно штук 5 признаков продвижения к AGI? Ну просто чтобы можно было вспомнить это сообщение через полгода. Не достижения AGI, а именно продвижения.
alex_rozoff: 1. Кофейный тест
2. Сэндвич тест
3. Тест Феникса
4. Тест Аполлон-13
5. Тест канцелярской скрепки
snjax: Ок. А теперь опишите способ, которым каждый из этих тестов успешной пройдет гипотетический человек с интеллектуальными и физическими способностями Хокинга. [...] Как вы предлагаете оценивать именно приближение к AGI? Кофейный тест можно или пройти, или не пройти. Если вы хотите балльную систему за каждый из тестов, то 5 баллов — мало, сложность тестов должна расти плавно, а часть из тестов должны быть проходимы сегодня.
alex_rozoff: 1. Хокинг прошел бы его точно также, как должен пройти AGI: отдавая команды исполнительному устройству с телекамерами, шасси и манипуляторами.
2. Кофейный тест (тест Возняка) на незнакомой кухне - найти все необходимые ингредиенты и устройства, затем, применяя их, сварить кофе. Любой вменяемый человек сможет сделать это дистанционно при наличии исполнительного устройства (п.1)
3. Да, это и есть тесты на AGI. И пока они не пройдены — разговоры о возможностях AGI ни на чем не основаны (спор о тени осла как говорили в античности).
4. Приближение к AGI можно оценивать по приближению к этим тестам (т.е. как много должен сделать суфлер-человек чтобы тесты были пройдены)

Полностью дискуссию можно прочесть тут...
https://alex-rozoff.livejournal.com/806930.html?thread=237308946#t237308946
...Но суть дело в другом. Есть два принципиально разных отношение к искусственному интеллекту .
Одно (мое): сейчас актуален ИИ, способный управлять роботом, заменяющим рабочего или служащего невысокой квалификации (концепция Чапека, RUR). Остальное - журавль в небе, причем невидимый.
Другое (оппонента, цитирую): "существуют люди, которые хотят не механических слуг, а переход на новый уровень существования вместе с ASI. И для этого перехода нужен сверхчеловеческий интеллект. Для этих людей AGI/ASI имеет ценность. И они работают над его созданием. А всё, что может сделать механический робот, можно купить у людей за банальное бабло."

В позиции оппонента мне непонятно: как он представляет себе экономику и человеческую мотивацию? В его тезисах AGI/ASI похож на некий фетиш или объект религиозного культа, без всякой практической пользы.
Конечно, можно предположить, что ASI (если таковой будет создан) сразу изобретет нечто практически крайне ценное: холодный ядерный синтез, warp drive, генный дизассемблер, и чапековских роботов в придачу), но пока мы не наблюдаем никаких признаков хотя бы минимального приближения к этому.
Т.н. AI до сих пор не вышел за пределы задач, решавшихся старым AI 40 лет назад. Весь прогресс в этом деле лишь пропорционален росту компьютерной памяти и быстродействия. Ничего качественно нового нет - напротив, разнообразие AI-методологий сузилось до сектора продвинутых перцептронов (возможности которых заведомо ограничены классом решений многомерного распознавания образов).

...Такие дела...

Оставить комментарий

Популярные посты:

• Ранее
• Архив