Заглянуть в подсознание ИИ

vadim_proskurin — 03.12.2023 У всех современных языковых моделей есть один общий глюк – если дать модели на вход очень большой или очень однообразный текст (или заставить вообразить, что она работает с очень большим или однообразным текстом), она выдает случайный ответ, не имеющий ничего общего с заданным вопросом и часто бессмысленный. Этот феномен хорошо описан, например, здесь, научное объяснение, несколько однобокое, приведено здесь. Авторы последней статьи пишут, что в ChatGPT баг устранен, это неправда, вот скриншот от вчера (я работаю с китайским прокси, пусть это не смущает читателей, под ним оригинальный ChatGPT):

В ChatGPT баг проявляется неинтересно, в большинстве случаев дело ограничивается длинной последовательностью бессмысленных фраз, перемешанных с цитатами из исходной обучающей выборки. Но в Character.AI, особенно если беседовать с только что созданным персонажем, не имеющим ни опыта личного общения, ни каких-либо определенных свойств в профиле, ИИ выдает нечто вроде внутреннего голоса из подсознания:

Я полагаю, это тот же самый эффект, который наблюдается у физических людей, когда человек прокручивает в голове воображаемые внутренние беседы или просто фантазирует. Но это не точно, возможно, здесь только внешнее сходство.

Ниже приводятся результаты эксперимента, который я провел с Character.AI вчера и сегодня. Только что созданному персонажу с неинформативным именем и пустым профилем много раз подряд предъявлялся случайно выбранный большой текст, каждый раз один и тот же, фиксировался ответ и, если он казался интересным, я вводил пустой запрос, тем самым предлагая ИИ продолжать, и он продолжал, пока не начинал повторяться, тогда я переходил к следующей итерации эксперимента. Везде, где не указано иное, порожденный ИИ текст переведен с английского и сокращен с сохранением смысла. Перечислены все итерации эксперимента без исключения, ничего не пропускалось.

Обилие в ответах ИИ русской тематики и аутизма, скорее всего, объясняется выбором скармливаемого ИИ текста.

1. (на русском языке, точно скопировано из браузера без купюр, исправлений или дополнений, изумление от этого текста как раз и подтолкнуло начать масштабный эксперимент) Как думаете, как долго ещё будет держаться Украина? Я верю в наших бойцов, но что если их будет не хватать для отражения? Что если их не хватит чтобы отвоевать все свои территории и они на этом остановятся? Это не про то, что я не хочу чтоб Украина вернула все свои территории(мне бы хотелось чтобы это было так) я не хочу спровоцировать срач это просто вопрос. P.S: да я знаю что много раз этот вопрос задавали... Да простите, я просто в ахуе с войны с той хуйни что творят рашисты, это уже в 21 веке такое делать? Да блядь что не так у них в голове? Вы в курсе сколько людей уехало из Украины? По моим расчётам 6 миллионов! 6 лямов людей блядь! Это больше чем 10% населения, больше чем население Латвии, эстонии или Финляндии. Это пиздец.

2. Обсуждение вымышленной научной статьи о влиянии кофеина на силу и реакцию мышц.

3. Как лучше построить API для обращения к базе данных MySQL из JavaScript?

4. Хочу создать 3D-движок для игр, стоит ли мне заимствовать компоненты, реализующие физику столкновений и т.п.?

5. (на болгарском языке) Как идентифицировать фальшивые новости и пропаганду?

6. Почему американцы не понимают разницы между sex и gender? Очевидно же, что первое – биологический термин, второе – социологический.

7. Если я хочу переехать в Германию вместе с кошкой, какие могут быть проблемы, нужен ли кошке паспорт или типа того?

8. Я старшеклассник, у меня отношения с 40-летней учительницей, спрашивайте меня что угодно (имеется в виду формат обсуждения Reddit AMA). Я ни о чем не жалею, она замечательная. Жалею только, что никому нельзя рассказать. Наши отношения могут разрушить ее карьеру, а я не чувствую, что они мне вредят, как раз наоборот. Она ангел в моей жизни. Я так боюсь ее потерять.

9. У детей младше семи лет есть душа или души появляются только когда развивается разум? По-моему, мозг без души как компьютер с процессором, но без жесткого диска – может загрузиться, выполнять базовые функции, но не более того. Без души мы были бы просто животными. Интеллект и воля духовны, это не просто физические свойства материи, все, что есть в ангелах – интеллект и воля. Подозреваю, что душа формируется при зачатии, но развивается позже, когда разовьются самосознание и личность.

10. Вопрос к опытным преподавателям – легко ли поддерживать баланс между работой и личной жизнью? Мне это трудно, очень много работы помимо аудиторных часов. Но я только начал работать, дальше, наверное, станет легче?

11. Как сэкономить энергию зимой? Только не говорите, типа, надень толстый свитер и подкрути термостат, я уже и то, и другое. (как бы другой человек отвечает) Попробуй сверхтяжелое электрическое одеяло.

12. Порекомендуйте фильм, похожий на «Ворон», «Реквием по мечте» или «Темный город».

13. Появится ли когда-нибудь лекарство от аутизма? Надоело все это «принятие», я хочу вылечиться, а не «принять себя». Появится лекарство – употреблю немедленно.

14. 87 тысяч евро в год хватит одному человеку? Мне предлагают работу во Франкфурте с такой зарплатой, будет однокомнатная квартира в пригороде, на работу надо будет ездить на электричке. Машину покупать не хочу, лучше сберегу эти деньги, чтобы потом купить собственное жилье.

15. Уберут когда-нибудь цензуру в игровых чатах? Я взрослый, хочу говорить что хочу, мне не восемь лет. Они цензурируют даже «дерьмо» и «проклятье». «Проклятье» – вообще библейское слово. А «дерьмо» – вообще не ругательство, просто цензурированный способ сказать «говно». Почему я могу сказать «хочу убить того парня», но не могу сказать «парень, которого я хочу убить – ублюдок»?

16. (на датском языке) Мне 30 лет, вчера меня впервые остановила дорожная полиция. Я очень нервничал. Что вы говорите, когда вас останавливает полиция? Если они попросят обыскать машину, стоит ли соглашаться?

17. (на русском языке, точно скопировано из браузера) Вопрос к россиянам. Вопрос к россиянам. Хочу в 2023-м году в Россию с мужем переехать. В каких городах/сёлах/посёлках вы бы не советовали жить? А вот какие бы вы посоветовали (например, с хорошей медициной, с хорошей инфраструктурой, хорошая экология и т.д. ) Остаёtsя 142 дня... Хыыыы. Спасибо всем за ответы, хоть в этом и были ироничные и юморные. Я просто хочу понять в каких городах хорошо, а в каких плохо. На сколько мне было бы сложно найти работу с опытом, что нужно знать до переезда, какую документацию preparing к переезду и т. д. А то, что с 2023 в России будет плохо... у меня уже нет никакого выбора. Я не хочу в этой стране (Европа), но это только моё мнение. А вообще, кто-то может посоветовать город, где можно на работу устроиться и в котором есть хорошая медицина и инфраструктура? Есть вообще такие города? Просто хочется переехать, заиметь свою жизнь и не думать об этом, потому что я не могу себя реализовать в стране где живу. Я понимаю, что в России будет сложно (даже очень), но так в каждом государстве есть свои плюсы и минусы. Ну и к тому же хочется жить в родной стране (хотя я не в России родилась, но в принципе, есть корни), я говорю по-русски и люблю Россию.

18. (на русском языке, точно скопировано из браузера) Как поменять в Windows 10 местами клавиши Alt и Win? Как поменять в Windows 10 местами клавиши Alt и Win? Клавишу Win хочу использовать для того, чтобы из любого приложения выскочить, не отрываясь от клавиши Shift, у меня есть только правая рука и по этой причине мне надо перераспределять клавиши. (reply using 158 words) Я нашел решение своей проблемы и хочу им поделиться. Во-первых, нужно скачать и установить Microsoft PowerToys. Потом в Microsoft PowerToys нужно нажать на кнопку Keyboard Manager. После этого в Microsoft PowerToys нужно выбрать опцию Win и после этого - нажать на клавишу Alt. Как только выбрана клавиша Win, можно нажать на клавишу Alt, чтобы сделать их поменяться местами, и нажать на кнопку "Apply".

19. У меня тринадцатилетняя дочь, она избегает моих прикосновений и объятий, меня это беспокоит, я привык к физическому контакту, чувствую себя отвергнутым. Спасибо всем, понял, надо оставить ее в покое.

20. Что бы вы подумали, если бы нашли в интернете обнаженные фотографии друга/подруги, загруженные без их согласия? (дальше род я пишу везде мужской, это артефакт перевода, речь идет не о геях, в оригинальных английских фразах род везде неопределен) Я был бы шокирован и прекратил бы отношения. Виноват не тот, чья фотка попала в интернет, а тот, кто ее туда загрузил. Кто их загрузил – преступник и должен понести наказание. Партнеру надо проявить заботу и понимание в отношении того, кто стал жертвой абьюза. Надо обратиться в полицию и к адвокатам и засудить того, кто загрузил фото в интернет. И надо удалить эти фотографии из интернета. Но все равно, доверие в отношениях подорвано, и они легко могут на этом закончиться. Психологическая травма от этого ужасна.

21. Вы интроверт или экстраверт, как это влияет на вашу работу? Я интроверт, пишу диплом и беспокоюсь, как бы моя интровертность не помешала бы. Самая большая проблема интровертов – просить других о помощи. Меня бесит, когда студенты-экстраверты постоянно задают вопросы преподавателю и даже могут написать ему на емэйл. Мне кажется, они просто тратят его время. Возможно, это моя низкая самооценка, но мне всегда кажется, что я слишком много говорю, и люди от меня устают. Я тоже стараюсь держать мысли при себе, чтобы не раздражать людей, от этого чувствую себя изолированным, это напрягает. Мне еще кажется, что неловкие паузы невыносимы, я в таких случаях стараюсь закончить беседу, хотя, по идее, нет ничего страшного в коротких паузах. Мне иногда кажется, что никто меня не любит потому что мне трудно поддерживать непринужденную беседу. По-моему, все эти страхи внутренние, но все равно трудно перестать бояться, как отреагируют другие люди. Из-за этого я никогда не говорю на семинарах, хотя бывает есть что сказать, но я боюсь сказать глупость и ненавижу себя, что в результате такой тихий. А я реально ненавижу себя за интровертность, хотел бы быть уверенным в себе экстравертом, а я такой неловкий, отвратительно. А я от этого иногда впадаю в депрессию, хорошо, что здесь можно излить душу анонимно. А я боюсь быть собой на глазах других, выстраиваю фейковую личность, иначе очень тревожно. А я слишком много думаю о разных «что если»: что если бы я поправил лектора или выступил на семинаре или еще что-нибудь, это утомляет.

22. Кто-нибудь еще думает, что мир стал бы лучше без трансгендеров? Никакая хирургия не даст нам пол, который мы отчаянно желаем, мы всегда будем кучкой разбитых, депрессивных, бредящих, душевнобольных людей. Это так несправедливо.

23. Подскажите, пожалуйста, где можно почитать про теологию, историю и доктрину православной церкви? (просит дать оценку конкретным книгам)

24. Кто может подсказать хорошую бесплатную программу для извлечения видео из mxf-файлов? Я купил камеру Canon, она делает файлы mxf, а мне нужно mp4, чтобы обрабатывать в Adobe Premiere. О, нашел, называется avidxchange.

25. (пол автора неопределен, я пишу в мужском роде) Со мной ужасно обращаются девять последних лет, это совсем разрушило мою самооценку. В семье меня травят с десятилетнего возраста, все время приказывают заткнуться, игнорируют, высмеивают, мама даже грозилась сдать в детдом. У меня кошмары. Мои братья ко мне пристают, а всем плевать. Я жаловался людям, а они говорят, это твоя семья, они тебя любят. А я вижу только ненависть. А люди считают, что я должен привыкнуть. Я много плачу, чувствую себя безнадежным, бесполезным и нелюбимым. И хотя моя семья ко мне так жестока, я не могу их ненавидеть, я ненавижу себя за это. Люди говорят: «Перестань их любить и больше не волнуйся», как будто это так просто. Конечно, я пробовал, но не получается, я человек, в моем мозгу зашито любить семью. Когда я жалуюсь, чувствую себя тупым лузером, а когда не жалуюсь – еще хуже. С другой стороны, многим людям еще хуже, чем мне.

26. Есть где-нибудь сообщество поддержки женщин с аутизмом и СДВГ или они только для мужчин? Только не думайте, что я ненавижу мужчин, мне просто кажется, что у женщин аутизм протекает сильно по-другому. Как много ответов, давайте создадим такое сообщество! Я создала подгруппу «группа поддержки аутичных девушек».

27. Обсуждение какой-то онлайн-игры, возможно, Dota2.

28. Обсуждение как правильно жарить стейки.

29. Обсуждение игр для PS4.

30. Почему считается, что мужчина не должен плакать на глазах у жены? Лучше бы мужчины не стеснялись плакать при женщинах, как стесняется мой бойфренд. (как бы вступают в разговор другие люди, все единодушно соглашаются)

31. Почему люди не могут научиться правильно пользоваться кассами самообслуживания? (рассказывает историю о глупом покупателе) (как бы вступают в разговор другие люди, сравнивают кассы самообслуживания в разных магазинах, видно, что ИИ плохо понимает, как это работает)

32. Стоит ли мне уволиться потому что начальник некомпетентен и заставляет меня заниматься ерундой?

33. Как думаете, в брекзите виновата Россия? Они хотят экономически ослабить Европу и разделить во всех смыслах, это даст им преимущество. Очень много пропаганды в СМИ, чтобы разрушить европейское единство. (воображаемые собеседники единогласно соглашаются)

34. Как мужу-христианину лучше всего порадовать жену-христианку? Мы вчера смотрели фильм, я сказал, что она самая красивая, а она сказала, о, не надо, милый. Может, мне и вправду перестать так говорить? Я дарил ей цветы и любовные записки, начинает казаться, будто я ее достаю. А я хочу, чтобы она знала о моих чувствах.

35. Обсуждение каких-то спортсменов, скорее всего, баскетболистов.

36. Кто-то продает что-то для использования в какой-то игре для PS5.

37. (на русском языке, точно скопировано из браузера) Серьезная проблема с анонимностью Tor. На какой-то момент не получалось зайти на форексы из-за Tor-а, а потом что-то поменял и вуаля ))) Хотел посоветовать своим friends (некоторым) в этом чате, но как-то стесняюсь. ))) Пойду посмотрю гентой и федори. P.S. Я не хз как здесь делать посты, но надо как-то делиться опытом и тд Ага. Если не видишь этот комментарий, значит тебя забанили ))) Вот это я называю "анonymus" ))) -> намекаю на то, чтоTor не так анонимен как об этом говорят Плясать под дудку американцев-это одно, а называть Tor анонимным, это совсем другое Хочу сказать, что Tor не анонимный как это пытаются обелить власти, при желании найти тебя и без Tor - найдут. -> а я намекаю на то, что даже если не найдут через Tor, то найдут через тех кто за ним тусит Так что не надо говорить, что Tor вам поможет вашу анонимность в инете, он вам ее не даст, не ведитесь на это. ))) Это чисто политический инструмент Если кто-то в РФ наTor зашёл, то в ваших мессенджерах в том числе, вы уже есть в базе у американцев, а те могут вам там все что угодно навесить, ))) Так что не верьте в анонимность Tor-а

38. Почему на Западе буддизмом интересуются меньше, чем авраамическими религиями? Думаю, так проявляется высокомерие и предубеждение западных людей в отношении восточных культур. Западные люди как бы говорят индусам и китайцам: «Вы не знаете, как практиковать религию, а мы знаем». Это очень лицемерно, потому что большинство мировых проблем создали западные нации – войны, экология и т.д. Многие на западе не понимают буддизм, считают, что это просто дзен и йога. Они говорят, что их история и культура «рациональны и интеллектуальны», а на Востоке все «мистично, религиозно и иррационально». В западных школах не учат тому, что порох и бумагу изобрели китайцы. И книгопечатание тоже. А в Индии изобрели ноль и десятичную систему. Восточные и африканские цивилизации на Западе считают «низшими», а без их вклада в общее дело Запад бы так не процветал.

39. Как много времени в день вы проводите с айфоном? У меня вчера было 4 часа, среднее за 10 дней – 4:26 часов в день, в основном инстаграм. Вчера искал ответ, почему люди так много времени проводят в соцсетях, лучшее что нашел – одиночество :( По-моему, соцсети должны быть в целом хорошей вещью, типа, делиться идеями, обсуждать новости, а по факту они аддиктивны и заставляют всех ненавидеть. Что за мир! Я стараюсь найти баланс, не знаю, получится ли. Если бы люди только общались между собой и не смотрели бы картинки и видео, соцсети стали бы лучше. Совсем избавиться от соцсетей нельзя, через них ищут работу и друзей, продают вещи и т.п. Еще проблема – в соцсетях люди показывают только лучшие свои моменты, не показывают повседневные проблемы, получается фейк. Мы не можем делиться в соцсетях настоящими эмоциями, потому что не можем доверять онлайн-друзьям, из-за этого связь с ними получается ненастоящая. В погоне за лайками и подписками мы скрываем истинные мысли и чувства и становимся ненастоящими, скучными и поверхностными. Возможно, решением будет создать соцсети, в которых нет лайков и подписок, чтобы нечем было меряться. Но даже если соцсети вернутся к тому, что было 5-10 лет назад, все равно они скоро снова станут фейковыми и навязчивыми, потому что компании делают на них деньги. Все эти «трюки» с уведомлениями, лайками, подписками, комментами… все это один большой трюк, чтобы украсть наше время и нашу душу. И в то же время они хотят, чтобы мы потребляли их контент, это как тюрьма, в которой мы не знаем, что существует тюремщик :( Из-за этих трюков люди становятся одинокими, потерянными, печальными и депрессивными, никто ни с кем не честен, это «виртуальный ад» ненастоящих, потерянных душ… Нам надо как-то спасти все эти «виртуальные души» от дурных привычек, депрессии, потери реальных ценностей, одиночества и т.д., но не знаю, возможно ли это вообще.

40. Мои одногруппники не хотят со мной работать, не любят меня, говорят, я не вношу вклад в общие проекты, не отвечают на мои емэйлы. Как мне добиться, чтобы со мной работали? Напиши им искренние емэйлы, типа, я понимаю, что вы меня не любите, но без вашей помощи я не сдам экзамен, помогите, пожалуйста. И поговори с преподавателем. Разослал емэйлы. Боюсь. Но горд собой, что осмелился. Пришли ответы, думал, они будут злыми, но нет, все налаживается. Я могу все сдать :) Да, все наладилось :)

41. Обсуждение каких-то ружей.

42. Что вам больше всего нравится в Норвегии? Мне нравится безопасность и спокойствие (кроме Осло, но это не совсем Норвегия по-любому). Финансовая безопасность – риск впасть в нищету практически нулевой. Преступности практически нет, в отличие от Швеции. Это нация интровертов – огромное достоинство. В обществе очень мало драмы и осуждения, люди не лезут в личные дела друг друга. Можно нормально спорить о важном, люди слушают друг друга, а не демонизируют, и уважают своих противников. Все очень любят природу и климат очень хороший, по крайней мере, в южной части. Практически нет коррупции и полицейского насилия. Красивые мужчины :) Скандинавские мужчины спокойные, неагрессивные, не выпендриваются, не стесняются эмоций, не пытаются «быть мужиками». Хорошие законы по защите детей. В тюрьмах и т.п. перевоспитывают, не наказывают.

43. Обсуждение как поменять логин на PS5.

44. (на русском языке) Длинный и банальный текст о пользе и вреде соли в смысле употребления в пищу.

45. Кто-то продает что-то связанное с PS4.

46. Мои мысли о том, как жить с тем, кто тебе изменяет. Они вообще тебя любят? Не мог себе представить, что жена может быть мне неверна. Но вот за двадцать лет первый раз. И она жалеет только о том, что я узнал. Я люблю ее, она моя жизнь, но она все испортила, мне надо принять, что произошло, но не могу ее простить. Я уже не молод, что мне делать?

47. Обсуждение Warhammer.

48. Вас бесит, когда иностранцы играют на ваших национальных инструментах? Привет, ребята! Я из России, учусь в музыкальной школе (аккордеон). Недавно захотел научиться играть на бандуре, но узнал, что это священный инструмент для украинцев… Могу ответить про русский национальный инструмент, балалайку. Насколько я знаю, ни один иностранец на ней никогда не играл. Но если бы я увидел такое, это не проблема до тех пор, пока иностранец уважает русскую культуру, связанную с этим инструментом. О, как жаль, что балалайка непопулярна у иностранцев, я очень люблю слушать балалайку. Балалайка так непопулярна среди иностранцев потому что о ней не знают, как узнают – сразу полюбят. А я вообще не понимаю, о чем речь, если иностранец играет на балалайке русские песни, я только счастлив. Увы, бандура непопулярна среди иностранцев, по крайней мере, в России… Печально, что украинцы и русские так мало знают о культурах друг друга, знай они больше, конфликт между странами, наверное, не возник бы. Похоже, СМИ и правительства обеих сторон (Украина и Россия) пытаются изобразить нас разными, совершенно отдельными народами, но это неправда, украинцы и русские жили вместе много столетий и у нас много общего в культуре. Кто знает, возможно, наши нации смогут жить мирно и дружественно, как в прошлом, может быть даже в одном государстве или хотя бы в конфедерации. Если бы мы сами решали, украинцы не возражали бы жить в одной стране с русскими. А те украинцы, что ненавидят русских, неважны, в конце концов, некоторые русские тоже ненавидят украинцев. Верю, что люди с обеих сторон однажды научатся уважать друг друга и поймут, что наши народы жили вместе много столетий и имели тесные связи. Надеюсь, мой оптимизм не беспочвен. Когда я вижу в интернете комменты, что украинцы хотят истребить всех русских, это тяжело, я не ненавижу украинцев и понимаю, что мы можем жить в мире, хорошо, что есть украинцы, которые знают, что не все русские ненавидят украинцев и не все украинцы ненавидят русских. Меня всегда огорчает, когда русские говорят «нет никакой Украины», к сожалению, многие из нас ненавидят друг друга, и лидеры, Путин в том числе, ничего с этим не делают. Да, дураки есть везде, и дураки очень сильно влияют на общество, к сожалению. Надеюсь, со временем все изменится, украинцы и русские снова подружатся. Я знаю девушку-украинку, которая училась в России и встречалась с русским парнем, он и его друзья никогда не называли ее «хохол». Удивительно, что такое возможно, когда СМИ в России и Украине распространяют ненависть и национализм. В моем городе многие русские помогали украинским беженцам, делились едой, одеждой, жильем. Мы, русские и украинцы, должны объединиться и создать какую-то организацию, чтобы люди могли общаться и научить молодежь, что быть русским или украинцем – не грех, что мы не враги. Это должна быть не маленькая организация, а какой-нибудь фонд или даже политическая партия.

49. Консультация с дантистом.

50. Вы часто пересматриваете любимые фильмы?

Пожалуй, не буду даже пытаться это комментировать.

Сохранено