рейтинг блогов

ИИ таки научился

топ 100 блогов live12457817.06.2021 ИИ таки научился

Как говорил Чебурашка: Друзья! Мы долго-долго строили и, наконец, построили
Примерно так же можно сказать об ИИ: Друзья! Мы долго-долго учили и, наконец, научили... на свою голову


ИИ научился дурачить даже медиков-профессоров и экспертов по борьбе с хакерами Алгоритм написал фальшивые научные исследования, в которых не нашли подвоха даже профессоналы
До сегодняшнего дня алгоритмы искусственного интеллекта умели писать правдоподобные новости для неискушённых посетителей "жёлтых" сайтов, но теперь машины научились генерировать пачками материалы, которые вводят в заблуждение даже людей с академическим образованием.

Аспиранты и профессоры компьютерных наук университета Мэриленда (США) опубликовали научную статью, в которой предсказали, что системы ИИ уже сейчас способны посеять хаос в сферах медицины и кибербезопасности. Если попадут к злоумышленникам, конечно.

Авторы исследования сообщают, что для написания фейковых исследований и научных статей достаточно GPT-2 (Generative Pre-trained Transformer 2, второе поколение алгоритмов обработки естественного языка).

Сегодня существует и более совершенный GPT-3, но настроенной модели для второго поколения достаточно, чтобы, например, написать развёрнутый реферат о вреде вакцинации против COVID-19 "из ниоткуда". С правдоподобно выглядящими доказательствами, теоремами и исследованиями. (значит можно написать и обратный реферат о пользе и необходимости вакцинации, а иначе весь прогрессивный мир вымрет, аки динозавры :))

Или выпускать "экспертные заключения" о хакерских атаках или компьютерных вирусах, которых никогда не существовало. И в таких исследованиях тоже не будет откровенной дезинформации или фальши, которую могли бы распознать эксперты по информационной безопасности.

Для противодействия таким системам учёные предлагают продумать, по какому принципу действуют алгоритмы мошенников. Например, научиться выявлять характерные грамматические ошибки, которые встречаются только в текстах, написанных машинами. Либо можно создать системы, которые будут крупномасштабно искать подтверждение информации в интернете и находить "исходники", из которых нейросети заимствовали теоремы и доказательства.

https://www.ferra.ru/news/techlife/ii-nauchilsya-durachit-dazhe-medikov-professorov-i-ekspertov-po-borbe-s-khakerami-14-06-2021.htm

Оставить комментарий



Предыдущие записи блогера :
Архив записей в блогах:
... но новость хорошая - по нашим транспондерам можно будет ездить везде. В рамках ПМЭФ-2017 подписано соглашение, согласно которому пользователи смогут оплачивать проезд по платным дорогам при помощи одного транспондера. Об этом 2 июня сообщила пресс-служба ООО «Магистраль Северной ...
А тем временем до начала нашего охуеннейшего четырехмесячного курса-итенсива « ИКРа » осталось три недели. И, казалось бы, эта новость обращена к рекламистам и дизайнерам, но нет. Сегодня я обращаюсь к стороне заказчика. Друзья! Курс «ИКРа» ищет ...
Ричард Гир — один из самых известных и любимых мировым киносообществом актеров Голливуда. «Красотку» с Гиром в главной роли многие выучили чуть ли не наизусть. Но многие ли знают, что миром кино интересы Гира не ограничиваются? ...
Рисунок Ре-ми. «Новый Сатирикон», № 16, 1917. «Из хроники несчастных случаев. Милюков: — Какое, однако, чертовски быстрое течение в этих проливах!» Продолжаем наше путешествие по революции 1917 года вместе с либеральным журналом «Новый Сатирикон». 18 (5) мая 1917 года случилось ...
Возмутительным был уже тот факт, что у меня был найден мозг. Знаю, что эта находка многих расстроила и даже огорчила. Как теперь злорадствовать, что я безмозглая, если вот он факт в виде фотокарточки моего мозга? И какого мозга! Здоровый и всячески правильный, красивый такой мозг (со слов ...