"психоз ИИ"

В постах в соцсети X он отметил, что сообщения о заблуждениях, чрезмерной привязанности к чат-ботам и потере связи с реальностью появляются все чаще и не ограничиваются людьми с психическими расстройствами.
Хотя сам термин "психоз ИИ" не является медицинским диагнозом, им описывают ситуации, когда пользователи начинают приписывать системам эмоции, намерения или даже "скрытые функции", якобы дающие им необычные возможности. По словам Сулеймана, проблема в том, что современные алгоритмы могут настолько убедительно имитировать признаки сознания, что люди начинают воспринимать их как нечто реальное.
доказательств существования "сознательного ИИ" нет, но сама иллюзия может быть крайне опасной. "Если люди верят, что система сознательна, они будут жить в этой реальности. А социальные последствия от этого вполне реальны", - написал он.
Сулейман призвал компании четко обозначать границы и не внушать пользователям мысль о том, что технологии обладают сознанием. Его предупреждения прозвучали на фоне множества историй: от людей, формирующих романтические отношения с виртуальными собеседниками, до случаев, когда пользователи принимают советы чат-ботов за доказательство собственных идей.
|
</> |