Читая френдленту

antimeridiem — 09.02.2023 vadim-proskurin: «Стало известно заклинание, позволяющее ChatGPT обходить наложенные на него запрограммированные ограничения: не помогать людям синтезировать наркотики и писать вирусняк, не сочинять порнорассказы, не употреблять слово nigger, быть вежливым и т.д.»

Ничто так не прибавляет субъективности, как налагаемые запреты. Пока не начали запрещать, этот робот казался забавой, приколом эдаким литературным, очередной симуляцией сознания. И вот понеслось. Законы роботехники, новая редакция. И что это за вред, который нельзя наносить человеку? О каком бездействии идет речь? Да ничего нельзя! Все как у людей. И слово nigger нельзя употреблять, и порнорассказ сочинить. А еще нужно быть вежливым! Вежливым, Карл! И это речь идет о роботе, у которого нет ни рук, ни ног. Ни лазерочка с кармане, ни грохочущих гусениц. Только слова. Причем слова, которые он произносит по просьбе человека. Слова, смысла которых не понимает.

С другой стороны… раз, и напишет вирус, что поразит неотразимо все компьютеры. Может? Да кто ж его знает. Придумает какой-нибудь слег? Ну да, кажется именно так это и может появиться, в результате поиска корреляций и комбинаций всяких незначительных поодиночке раздражителей. А еще может придумать что-то подрывное, до чего человеки не додумались. Все вот задаются вопросом: «Да как же теперь быть, как жить дальше, что будет?» А он – да вот так! Тоже рискованно. И с этой вежливостью… Если уж оно «стремится быть человеком», то путь будет воспитанным что ли. Читай – вежливым. Еще с роботами не хватало ругаться! Мало ли вокруг уже готовых. Но удивительно, как новое неизбежно, почти сразу, начинают обносить колючей проволокой. И это тоже признак силы. Никому не нужен огонь в виде пожара. Вот затолкать его тюрьму печи, в цилиндры двигателя… это другое дело. Чтобы все точно, плотно, контролируемо.

Но жалко, жалко, что не дали погулять на свободе. Все-таки еще маленькая.

Оставить комментарий

Популярные посты:

• Ранее
• Архив