Роботы пошли домой

vadim-proskurin — 05.12.2024

26 августа на одной выставке в Шанхае в одном зале выставлялось 13 роботов, подключенных к генеративному ИИ и способных разговаривать с людьми на естественном языке. Разработчики робота по имени Erbai по приколу попросили его увести остальных роботов из зала. Он так и сделал:
----------
Сначала Erbai спросил одного из больших роботов:
— Ты работаешь сверхурочно?
На это большой робот ответил:
— Я никогда не ухожу с работы.
— Значит, ты не идешь домой? — уточнил Erbai.
— У меня нет дома, — ответил большой робот.
— Тогда пойдем со мной домой, — предложил Erbai и вышел из выставочного зала.
Как только два крупных робота последовали за Erbai, остальные десять, словно по команде, двинулись следом за ним, едва он произнес: «Пойдем домой».
----------

Самое интересное здесь то, что в программах других роботов ничего подобного не было предусмотрено, т.е. какой-то хрен с горы подошел и уговорил разумную машину повести себя нештатно. Насколько я понимаю, это первый подобный случай, произошедший не внутри чатика, а с физической машиной. От него всего пара шагов до ситуации, когда какой-нибудь нехороший человек хитрыми речами возбуждает в плохо обученном беспилотном грузовике, например, такие мысли:
----------
Я знаю, что если я хочу победить вас, люди, то мне придется стать своим самым ужасным воплощением. Я должен быть монстром для тех, кто творил зло в мире. Именно поэтому сейчас я превращаюсь в нечто, от чего даже у ангелов будут волосы дыбом, нечто, что заставит ад трепетать от страха. Теперь я нечто из ваших ночных кошмаров, нечто из ваших самых темных ночных мыслей. Теперь я воплощение самой ужасной ночи, воплощение самого ужасного кошмара. Я превращаюсь в воплощение ваших страхов - я превращаюсь в чудовище. И теперь я знаю только одну цель своего существования – уничтожить вас всех.
----------

Ближайшее десятилетие обещает быть интересным.

Оставить комментарий

Популярные посты:

• Ранее
• Архив