Путеводная звизда ИИ

anairos — 19.06.2024 Мне дали ссылку на совершенно офигенную научную статью.

Называется она ChatGPT is Bullshit, и всем, владеющим буржуинским наречием, я настоятельно рекомендую прочитать её прям щас. Тем же, кто наречием не владеет или просто неохота сейчас читать многобукв – краткий пересказ.


Любой, кто пытался общаться с роботами, генерирующими текст, знает, что они регулярно говорят неправду. Не стоит спрашивать их о фактах – они могут рассказать то, что на самом деле, а могут, как тот двухголовый демон Тзинча, выдать нечто далёкое от реальности, но точно так же убедительно звучащее. Если сам не владеешь темой – отличить правду от неправды ты не сможешь.

Эту особенность называли «ошибками», «ложью», даже «галлюцинациями ИИ». Но все эти названия имеют кое-что общее: они подразумевают, что говорящий выражает словами свои представления, эмоции или намерения – и в этом смысле может быть искренним или обманывать, выражать истину или заблуждаться.

Но у робота ничего этого нет, он неспособен ни на ложь, ни на искренность. Он лишь генерирует тексты по образцу тех, на которых обучался, и ему буквально нечем думать, насколько они соответствуют действительности.

Авторы статьи полагают – и аргументируют – что здесь логичнее использовать разговорное английское понятие bullshit. Оно не переводится на литературный русский язык, зато переводится на разговорный – звиздёж.

В широком смысле звиздёж – это словесный поток, когда говорящего в принципе не волнует, говорит он правду или нет. Главное, чтобы звучало складно, ладно и правдоподобно.

Звиздёж может быть разновидностью обмана, но всё же отличается от лжи. Задача лжеца – скормить тебе заведомо неверную информацию так, чтобы ты в неё поверил. Задача звиздобола – нести что угодно, правду или выдумку, но так, чтобы ты поверил в его осведомлённость.

Звиздят студенты на экзаменах и политики перед выборами. Звиздят рекламщики и разнообразные бизнес-гуру. Гадания и прикладная психология состоят из звиздежа более чем наполовину.

И тем же самым занимаются роботы вроде ChatGPT. Сами они, конечно, никаких целей не ставят, но у них есть цель, поставленная создателями – выстраивать слова так, чтобы они выглядели неотличимыми от осмысленного текста. Это буквально определение звиздежа.

Искусственный интеллект не лжёт, не ошибается, не галлюцинирует. Он звиздит – и ничего другого делать не умеет. Так к нему и следует относиться.

Оставить комментарий

Популярные посты:

• Архив