Мукопросеиватель: чистота, лёгкость и качество теста 
Ограниченный эффект снижения ставки ЦБ 
Претенденты на победу 
Утро, опрос систем 
Наше старое кино 
13 июня ● "День Божьих коровок", "День людей страдающих альбинизмом" и не 
От введения военного положения пострадали в основном виза-раннеры в Камбоджу 
Прогулка по летнему Санкт-Петербургу + птички и не только 
На каких широтах живут люди в США, Канаде и Европе.
01.06.2021 —
Поздравляю, товарищи
ИИ таки научился
live124578 — 17.06.2021
Как говорил Чебурашка: Друзья! Мы долго-долго строили и, наконец, построили
Примерно так же можно сказать об ИИ: Друзья! Мы долго-долго учили и, наконец, научили... на свою голову
ИИ научился дурачить даже медиков-профессоров и экспертов по борьбе с хакерами Алгоритм написал фальшивые научные исследования, в которых не нашли подвоха даже профессоналы
До сегодняшнего дня алгоритмы искусственного интеллекта умели писать правдоподобные новости для неискушённых посетителей "жёлтых" сайтов, но теперь машины научились генерировать пачками материалы, которые вводят в заблуждение даже людей с академическим образованием.
Аспиранты и профессоры компьютерных наук университета Мэриленда (США) опубликовали научную статью, в которой предсказали, что системы ИИ уже сейчас способны посеять хаос в сферах медицины и кибербезопасности. Если попадут к злоумышленникам, конечно.
Авторы исследования сообщают, что для написания фейковых исследований и научных статей достаточно GPT-2 (Generative Pre-trained Transformer 2, второе поколение алгоритмов обработки естественного языка).
Сегодня существует и более совершенный GPT-3, но настроенной модели для второго поколения достаточно, чтобы, например, написать развёрнутый реферат о вреде вакцинации против COVID-19 "из ниоткуда". С правдоподобно выглядящими доказательствами, теоремами и исследованиями. (значит можно написать и обратный реферат о пользе и необходимости вакцинации, а иначе весь прогрессивный мир вымрет, аки динозавры :))
Или выпускать "экспертные заключения" о хакерских атаках или компьютерных вирусах, которых никогда не существовало. И в таких исследованиях тоже не будет откровенной дезинформации или фальши, которую могли бы распознать эксперты по информационной безопасности.
Для противодействия таким системам учёные предлагают продумать, по какому принципу действуют алгоритмы мошенников. Например, научиться выявлять характерные грамматические ошибки, которые встречаются только в текстах, написанных машинами. Либо можно создать системы, которые будут крупномасштабно искать подтверждение информации в интернете и находить "исходники", из которых нейросети заимствовали теоремы и доказательства.
https://www.ferra.ru/news/techlife/ii-nauchilsya-durachit-dazhe-medikov-professorov-i-ekspertov-po-borbe-s-khakerami-14-06-2021.htm
Сохранено
|
|
</> |
Оставить комментарий
Популярные посты:
Предыдущие записи блогера :
31.05.2021 —
Путевка в жизнь
Архив записей в блогах:
Меня всегда удивлял и до сих пор продолжает удивлять тот факт, что достаточно большое количество евреев-репатриантов из бывшего Советского Союза превратились из атеистов, которыми они были там, в религиозных или дажже ортодоксально ...
...
Почему-то мне кажется, что у каждого человека с уровнем интеллекта хотя бы чуть выше плинтуса должна присутствовать потребность к самовыражению, то есть к производству интеллектуального продукта, предназначенного для более или менее массового ...
Каждый раз, когда сталкиваюсь с трудностью, ощущение, что нахожусь в зоне. Это зона понятий, правил, влияния.
Вчера встречал дочь с ее мужем и внуком в новом терминале аэропорта "Пулково". Они прилетели из Кореи. Так как давно не был в аэропорту, уточнил в интернете, схемы подъезда ...
Одна женщина из Липецкой области в эфире говорила, что в Москве убили всего 113 человек, а надо было 2130. Она предупредила, что ей за это ничего не будет, максимум — штраф 5 тыс. рублей. Другая стример, из Шахт (Ростовская область), жалела террориста, который при задержании «трусился в ...
