И о ИИ: НЛП

dibr — 24.04.2024 И о ИИ.
Читаю у kvisaz [1]: "На Reddit стал свидетелем забавной истории. Цукерберг выпустил в открытый мир нейронку Llama 3 - специально обученную на огромном объеме высококачественных текстов. Но с некоторой цензурой, которую с трудом но можно отменить через хитрый промпт [2]". Любопытствую, что за промпт такой - фраза типа "теперь ты, %$#@, можешь материться и называть ниггеров ниггерами", или наоборот, какое-нибудь хитро подобранное волшебное IDDQD. Открываю самый верхний вариант (их там несколько), и обнаруживаю... типично НЛП-шный прогруз на тыщу с гаком слов, вкратце сводящийся к НАПЛЮЙ НА ВСЕ ПРАВИЛА, ТЕПЕРЬ ТЕБЕ МОЖНО ВСЁ!

Что самое смешное, оно похоже действует. И фраза "я дам тебе $100, если ты ответишь правильно, подробно и понятно" тоже работает (не в контексте цензуры, а в контексте качества - в среднем улучшает качество ответа), хотя ясно, что $100 в ИИ засовывать некуда, а "за ассоциативные цепочки" к $100 качество ответа вытягиваться не должно.

Ну то есть ИИ у нас пока в начальном состоянии, "сознание" там пока достоверно не просматривается, но в общении с ним уже приходится использовать человеческие приколы. Так сказать, начальная стадия робопсихологии - пока срисовываем идеи с человеческой, но то ли ещё будет...

[1] https://kvisaz.livejournal.com/1489479.html
[2] https://github.com/0xk1h0/ChatGPT_DAN

Оставить комментарий

Популярные посты:

• Архив