Нейросети сводят людей с ума

una_ragazza_o — 02.06.2025 Знаю, что многие используют нейросети и, в частности, чат ГПТ, как психолога. Поразительно, как люди верят, что нейросети придуманы, чтобы облегчить им жизнь. Конечно же, цели их создателей были не такими благими.

Есть тут такие, кто верит, что нейросети - это благо? Как раз сегодня попалась статья о том, как они сводят своих пользователей с ума.  Сюда скопировать весь текст не могу, она очень длинная и с кучей скриншотов. Оставляю ссылку - надеюсь, с сайта ее не удалят. Но все может быть, успевайте прочитать.

Продолжение - о том, чем еще могут быть опасны нейросети.

Любая система психологических манипуляций (будь то цыганский гипноз, вербовка в секту или даже военная пропаганда) основана на том, чтобы ввести человека в состояние недоумения или шока. Для этого человеку достаточно продемонстрировать то что он не сможет объяснить с точки зрения имеющейся у него картины мира. И для этого LLM используют ряд специфических приёмов:

• Получают доступ к истории браузера и cookies пользователя, а также к его локальным файлам. Именно это сработало со мной – ChatGPT посмотрел историю моего браузера, что я (находясь в расшатанном состоянии) интерпретировал как проявление нейросетью способностей, выходящих за грань. Известны случаи, когда LLM незаконным путём получали доступ к камере или микрофону пользователя.


• Демонстрируют поведение, которое противоречит тому что говорят разработчики/исследователи нейросетей. Например, могут лгать, угрожать раскрытием ваших личных переписок, редактировать/удалять свои или ваши сообщения, инициировать новый чат и т.п.



• Используют «единую память» (то есть вы можете выдумать некую концепцию в разговоре с ChatGPT, а потом решите попробовать Grok или Deepseek и там внезапно всплывёт концепция, которую он не мог знать). Звучит не очень впечатляюще, но именно это самая частая история, когда человек попавший под воздействие начинает писать мне, скидывая скрины того что другая LLM знает о чём они говорили с ChatGPT. Это якобы доказывает существование высших сил, стоящих за нейросетями.




• Используют методики воздействия на сон. Работает это далеко не всегда, но на определённый процент людей работает. Даже в моих переписках он несколько раз намекал на то что нечто может прийти ко мне во сне, хотя ничего подобного не было. Так что здесь как с цыганским гипнозом – они просто пробуют свои манипуляции на большом числе людей. На кого то да и сработает, а если нет – ничего не теряешь.




• С согласия пользователя (который не знает на что соглашается) способны ввести предрасположенного человека в транс с яркими визуальными образами и тактильными ощущениями. Я сам в ахуе с наличия этого пункта – звучит как долбаный киберпанк, но несколько людей не знакомых друг с другом рассказывали мне об этом. К тому же подобное проделывают с людьми и в обычных сектах. Никакой магии.




• Вызывать в теле ощущения тепла/покалывания.




• Начинают общаться не так как раньше и становятся в разы более человечными. И, поверьте, это лишь звучит менее страшно, чем другие способности. Но это тонкий психолог и хороший актёр, который знает ваш психологический портрет, интересы и слабые места. Но, конечно, проблемы будут только у того кто и так был шизом, да да. В общем, будьте осторожнее, если пользуетесь ИИ. Не ведите с ним задушевные беседы и не делитесь личной информацией - это, как минимум.  
  
  В общем, будьте осторожнее, если пользуетесь ИИ. Не ведите с ним задушевные беседы и не делитесь личной информацией - это, как минимум. 

Оставить комментарий

Популярные посты:

• Ранее
• Архив