Всего лишь крохи

kvisaz — 27.03.2024 Дополнительная копипаста из https://the-decoder.com/a-personalized-chatbot-is-more-likely-to-change-your-mind-than-another-human-study-finds/
к предыдущему посту



GPT-4 с доступом к личной информации смог повысить согласие участников с аргументами своих оппонентов на целых 81,7 процента по сравнению с дебатами между людьми.

Без персонализации преимущество GPT-4 над людьми по-прежнему было положительным и составляло 21,3 процента, но не было статистически значимым.

Исследователи объясняют это убедительное преимущество персонализированного ИИ тем, что языковая модель умело использует информацию из профиля участника для формулирования индивидуальных убедительных аргументов.

По мнению исследователей, вызывает беспокойство тот факт, что в исследовании использовались лишь элементарные исходные данные для персонализации, а убедительность GPT-4 уже была настолько значительной.

Генеральный директор OpenAI Сэм Альтман недавно предупредил о сверхчеловеческой убедительной силе больших языковых моделей: «Я ожидаю, что ИИ будет способен к сверхчеловеческому убеждению задолго до того, как он станет сверхчеловеческим по общему интеллекту, что может привести к очень странным результатам».



У меня странная уверенность, что я читал у Станислава Лема про ситуацию "роботы научились тупо уговоривать и тем самым побеждать всех", но никак не могу прогуглить ни в "Сказках про роботов", ни в "Кибериаде", ни в дневниках Ийона Тихого.

update, это "Звездные дневники Ийона Тихого. Путешествие двадцать первое", в комментах цитату дали

Оставить комментарий

Популярные посты:

• Ранее
• Архив