Мечтают ли искины

топ 100 блогов sacai12.05.2023

Случился тут недавно один спор из пустого в порожнее. Верно пел неприкаянный классик

Вагонные споры — последнее дело

С одной стороны было восхищение мощью нейросетей и «SkyNet, приветствуем тебя, мы все умрем, а-а-а!» С другой стороны — здоровый скепсис выходца из двух отраслей, где машина по определению не может быть умнее человека

Мечтают ли искины

Конечно, при работе с достаточно сложными системами возникает иллюзия, что системы эти живые и думающие. Но это только кажется, а на самом деле просто ручек из них торчит настолько много, что все одновременно в нужное положение не выставить.

Есть в электроэнергетике такой способ выбора управляющих воздействий при авариях: управление выбирается по заранее заданным таблицам в зависимости от текущих измеренных параметров защищаемого объекта. Когда-то я одну из реализаций такого алгоритма писал.

Так вот, если таблицы настройки этого алгоритма раздуть, он от этого более умным не станет, но менее предсказуемым — да. Просто потому, что проверить, например, 18 тысяч строк можно разве что автоматическим тестом, и то могут остаться случаи, которые тест не покрывает.

И тогда кого-то при  неверном срабатывании назовут членисторуким

Мечтают ли искины

Так же и с модными нейросетями. Они накормлены столь большими объемами данных, что становятся не вполне предсказуемыми. Могут собрать из известного им материала текст. Или сгенерировать картинку. Или даже написать код по мотивам StackOverflow или GitHub (и там Microsoft не так давно продвигала ассистента Copilot). И все это на первый взгляд даже будет осмысленным

Мечтают ли искины

Только далеко не уедет без доработки напильником.

Дело в том, что алгоритмы пишут люди. А нейросети по этим алгоритмам работают. Почти что парадокс бога — человек не способен создать алгоритм умнее себя. Быстрее и методичнее — да, но не умнее.

Как ни странно, у нас есть четкий критерий, когда стоит начинать бояться, и это даже не тест Тьюринга. Его упомянули Стругацкие в «Далекой Радуге»

Она начала вести себя

А пока что у нас есть не поведение, а его иллюзия.

Спите спокойно, дорогие товарищи.

Оставить комментарий

Предыдущие записи блогера :
Архив записей в блогах:
Написали интересное в личку: что, дескать, я смотрю и разбираю исключительно иностранное вино, что советские фильмы я разбирать не буду, потому что, дескать, не понимаю эту ...
Какие интересности в архиве попадаются иногда. Ту-154М RA-85684 авиакомпании «Алроса». Тот самый, что садился на недействующий аэродром в Ижме, а потом благополучно взлетел с ...
Промышлял контрабандой Ходжа Насреддин, На осле сквозь границу корзины возил. Проверяли корзины от верха до дна, Но была там всегда лишь солома одна. Уж ее и сжигали порою дотла, А Ходжа богател, и ходила молва, Что искуссней его нет до края земли, Знали стражники все - а найти не ...
Главный аргумент противников покаяния состоит в том, что русских от голода в то время погибло не меньше, чем украинцев... Однако, украинцы, судя по всему, не возражают против того, чтобы Россия, как правопреемница Советского Союза, покаялась бы еще и перед русским ...
Все интересующиеся имели возможность рассмотреть в деталях белый носочек от Balenciaga на члене Васильева. А на спине его красовалось мотто: уроды боятЬся красоты . Неясно, это Колина безграмотность или ещё один нарочитый элемент эпатажа. Тем временем Хамовнический районный ...