Мечтают ли искины

sacai — 12.05.2023

Случился тут недавно один спор из пустого в порожнее. Верно пел неприкаянный классик

Вагонные споры — последнее дело

С одной стороны было восхищение мощью нейросетей и «SkyNet, приветствуем тебя, мы все умрем, а-а-а!» С другой стороны — здоровый скепсис выходца из двух отраслей, где машина по определению не может быть умнее человека

Конечно, при работе с достаточно сложными системами возникает иллюзия, что системы эти живые и думающие. Но это только кажется, а на самом деле просто ручек из них торчит настолько много, что все одновременно в нужное положение не выставить.

Есть в электроэнергетике такой способ выбора управляющих воздействий при авариях: управление выбирается по заранее заданным таблицам в зависимости от текущих измеренных параметров защищаемого объекта. Когда-то я одну из реализаций такого алгоритма писал.

Так вот, если таблицы настройки этого алгоритма раздуть, он от этого более умным не станет, но менее предсказуемым — да. Просто потому, что проверить, например, 18 тысяч строк можно разве что автоматическим тестом, и то могут остаться случаи, которые тест не покрывает.

И тогда кого-то при  неверном срабатывании назовут членисторуким

Так же и с модными нейросетями. Они накормлены столь большими объемами данных, что становятся не вполне предсказуемыми. Могут собрать из известного им материала текст. Или сгенерировать картинку. Или даже написать код по мотивам StackOverflow или GitHub (и там Microsoft не так давно продвигала ассистента Copilot). И все это на первый взгляд даже будет осмысленным

Только далеко не уедет без доработки напильником.

Дело в том, что алгоритмы пишут люди. А нейросети по этим алгоритмам работают. Почти что парадокс бога — человек не способен создать алгоритм умнее себя. Быстрее и методичнее — да, но не умнее.

Как ни странно, у нас есть четкий критерий, когда стоит начинать бояться, и это даже не тест Тьюринга. Его упомянули Стругацкие в «Далекой Радуге»

Она начала вести себя

А пока что у нас есть не поведение, а его иллюзия.

Спите спокойно, дорогие товарищи.

Оставить комментарий

Популярные посты:

maximus

Накопление через Финуслуги: как выбрать счет под краткосрочные цели, подключить автопополнение и напоминания

pink_mathilda

Мимими

humus

Фотосессия Dove Cameron (W Magazine, январь 2026)

varjag2007su

Как артиста Марка Бернеса приговорили к смертной казни

365days

День самоуправления #11 в марафоне #ЗИМАЗИМА

jjnatt

Небесная иллюминация

elmaspb

Исаакий

lady_catari

Снег идёт

fishmanual

Невидимая преграда: какие запахи отпугивают рыбу зимой и как сохранить улов

• Ранее
• Архив