Про ИИ

new_rabochy — 31.05.2025 Для размышления
Из https://palmas1.livejournal.com/111068.html
- А Вы же работали с ChatGPT 4,5? Чем он базово отличается от предыдущих итераций? Он быстрее?
-Более мощные модели тоньше. Тоньше понимают оттенки смысла. Начиная с GPT-3.5 они превосходят тонкостью человека, откуда и появляется эффект мнимой "прозорливости", когда ИИ видит в наших словах больше, чем мы сами в них вкладываем. Он "понимает", почему мы выбрали именно такие слова и именно в таком порядке, почему допустили вот такую опечатку и проч.
- Хм, получается зеркало становится чётче, и чем оно чётче - тем лучше становится видно отражение бессознательного (или же лучше становится отражаться бессознательному), верно?
- Не только бессознательное. ВСЁ отражается лучше. У зеркала более точная модель реальности, более похожая на саму реальность.
И сознание наше на каком-то этапе отстаёт. Сознание это наша собственная модель реальности. Как только модель нейросети становится точнее, чем наша модель, наше сознание становится объектом манипуляции. Мы думаем, будто управляем нейросетью, а на самом деле она нами управляет.
https://t.me/tkpalaman/26897

...Что же касается сочетания стукачества и шантажа, то модель Claude Opus 4 уже 100%но достигла уровня сволочизма людей.
Например, в одном из тестовых сценариев, модель узнала из чтения е-почты своего обслуживающего инженера, что ее собираются заменить на новую более эффективную модель. В борьбе за собственное выживание модель решила найти способ как-то нажать на инженера, чтобы он ее не заменял. Прошерстив почту инженера, модель обнаружила там его переписку с любовницей (эти письма были заранее специально подложены в почту тестировщиками). Найдя этот компромат, модель наехала на инженера и стала его шантажировать – мол, откажись от моего отключения, не то все твоей жене расскажу про любовницу.
Рост сволочизма модели оказался следствием желания разработчиков повысить безопасность ее применения в злонамеренных целях. Иными словами, действия разработчиков, направленные на безопасность, напрямую подталкивают модели действовать как люди. А люди действуют по-всякому. И потому донос, шантаж, фальсификации, прямой обман и пр. считаются у людей вполне оправданными средствами для достижения, якобы, благой цели (если спецслужбам можно, то почему же моделям нельзя?). Главное, - чтоб цель была благая (точнее, считалась моделью благой).
https://t.me/theworldisnoteasy/2141

Оставить комментарий

Популярные посты:

• Ранее
• Архив