рейтинг блогов

Microsoft запускает программу-детектор дипфейков

топ 100 блогов biboroda02.09.2020

Microsoft запускает программу-детектор дипфейков

Microsoft запустила программу, предназначенную для обнаружения синтетических носителей (также известных как дипфейки), этот инструмент анализирует видео и фотографии с целью получения оценки манипуляций.
Инструмент, называемый Video Authenticator, обеспечивает то, что Microsoft называет «процентной вероятностью или оценкой достоверности», что средства массовой информации были искусственно изменены.


«В случае с видео он может предоставлять этот процент в реальном времени для каждого кадра во время воспроизведения видео», - говорится в сообщении блога, посвященном этой технологии. «Программа работает, обнаруживая границу наложения дипфейка и тонких элементов выцветания или оттенков серого, которые не могут быть обнаружены человеческим глазом».
Если часть онлайн-контента выглядит реальной, но «попахивает» подделкой, скорее всего, это высокотехнологичная манипуляция, которую пытаются выдать за реальную - возможно, со злым намерением дезинформировать людей.
Хотя множество дипфейков создается с совершенно разными намерениями - чтобы сделать забавный или развлекательный контент - вырванные из контекста, такие синтетические медиа все еще могут жить собственной жизнью по мере распространения, а это означает, что они также могут обмануть ничего не подозревающих зрителей.
Хотя технология ИИ используется для создания реалистичных дипфейков, выявление визуальной дезинформации с помощью технологий по-прежнему является сложной задачей, а критически мыслящий ум остается лучшим инструментом для выявления высокотехнологичных BS.
Тем не менее, технологи продолжают работать над обнаружителями дипфейков, включая последнее предложение от Microsoft.
Хотя в блоге содержится предупреждение, что эта технология может быть лишь временно полезна в гонке вооружений дезинформации, подпитываемой ИИ: «Тот факт, что [дипфейки] создаются ИИ, который может продолжать учиться, неизбежно побеждает традиционные технологии обнаружения. Однако в краткосрочной перспективе, например, на предстоящих выборах в США, передовые технологии обнаружения могут стать полезным инструментом, который поможет проницательным пользователям выявлять дипфейки».
Этим летом Facebook начал конкурс на разработку детектора дипфейков, давший результаты, которые были лучше, чем предположения, но только в случае набора данных, к которому исследователи не имели доступа ранее.
Между тем Microsoft заявляет, что ее инструмент Video Authenticator был создан с использованием общедоступного набора данных из Face Forensic ++ и протестирован на наборе данных DeepFake Detection Challenge, который, как она отмечает, является «одновременно ведущими моделями для обучения и тестирования технологий обнаружения глубоких подделок».
Компания сотрудничает с AI Foundation из Сан-Франциско, чтобы сделать этот инструмент доступным для организаций, участвующих в демократическом процессе в этом году, включая новостные агентства и политические кампании.
Инструмент был разработан отделом исследований и разработок, Microsoft Research, в координации со своей командой ответственного ИИ и внутренним консультативным органом по ИИ, этике и последствиям в инженерии и исследованиях - в рамках более широкой программы Microsoft, направленной на защиту демократии от угроз, создаваемых дезинформацией.
«Мы ожидаем, что методы создания синтетических сред будут продолжать совершенствоваться», - говорит представитель разработчика ПО. «Поскольку все методы обнаружения ИИ имеют частоту отказов, мы должны понимать и быть готовыми реагировать на дипфейки, которые проскальзывают через методы обнаружения. Таким образом, в более долгосрочной перспективе мы должны искать более надежные методы для поддержания и подтверждения подлинности новостных статей и других средств массовой информации. Сегодня существует несколько инструментов, которые помогут убедить читателей в том, что средства массовой информации, которые они видят в Интернете, поступили из надежного источника и что они не были изменены ».
Что касается последнего, Microsoft также анонсировала систему, которая позволит производителям контента добавлять цифровые хэши и сертификаты к носителям, которые остаются в их метаданных по мере того, как контент перемещается в Интернет, обеспечивая точку отсчета для аутентичности.
Второй компонент системы - это средство чтения, которое может быть развернуто как расширение браузера, для проверки сертификатов и сопоставления хэшей, чтобы предложить зрителю то, что Microsoft называет «высокой степенью точности», что конкретный фрагмент контента является подлинным / не было изменено.
Сертификация также предоставит зрителю подробную информацию о том, кто подготовил СМИ.
Microsoft надеется, что эта система аутентичности цифровых водяных знаков станет основой инициативы Trusted News Initiative, объявленной в прошлом году британской государственной вещательной компанией BBC - специально для компонента проверки под названием Project Origin, который возглавляет коалиция BBC, CBC / Радио-Канада, Microsoft и The New York Times.
В нем говорится, что технология цифровых водяных знаков будет протестирована Project Origin с целью превращения ее в стандарт, который может быть широко принят.
В то время как работа над технологиями для выявления дипфейков продолжается, в блоге также подчеркивается важность медиаграмотности, отмечая партнерство с Вашингтонским университетом, Sensity и USA Today, которые были нацелены на развитие критического мышления перед выборами в США.
Технологический гигант также отмечает, что он поддерживает кампанию по объявлению общественных услуг (PSA) в США, побуждая людей взять «вдумчивую паузу» и проверить, поступает ли информация от авторитетной новостной организации, прежде чем они поделятся или продвигают ее в социальных сетях. предстоящих выборов.

Оставить комментарий



Архив записей в блогах:
Дорогие мои,а подскажите мне пожалуйста, какие удачные "движки" для игр вы знаете? Лучше с примерами. А то я обнаружила что у меня в голове по этому поводу бардак и каша. Перепост и распространение вопроса - приветствуются. ЗЫ я имела в виду ...
Смотреть это видео Видео опубликовано на сайте youtube.com пользователем Александр Гаврилов ...
В незапамятные времена ИКС и ИГРЕК выступали в качестве символов справедливого возмездия. Из литературного источника нам известна ситуация при которой ИКС прекрасно выполняет свою функцию, а ИГРЕК не в состоянии выполнить свою. Назовите литературный источник. ОТВЕТИЛИ: profi ...
Трупный запах войны приближается. Его пока трудно почуять, многим и вовсе невозможно, но война идет к нам. А меня уже давно не покидает ощущение, что Третья мировая уже началась. Пока мы себя еще обманываем, нет это только локальные конфликты и не более... во всяком случае количество ...
Глянул сколько стоят реалистичные куклы для сексуальных утех и обнаружил интересное. Я предполагал, что стоят они дорого, но чтобы так много – даже не подозревал. Оказалось, что приличного качества изделие, которое не пугает своим внешним видом, обойдется в сумму превышающую 1 000 ...
  • Silver305 : RT @ID_Xbox: Share your dorm life with four others, pick your class load, jobs, and maybe even have time for a little extra-curricular fun!…

  • sakurai_all_my : RT @chiiyan2525: 「日本で最高の男性アイドルグループは?」私は嵐❣️ ・Google Chrome・Microsoft Edge ・Safari・Yahoo!ブラウザ・Firefox ・Smooz などの各ブラウザから Instagram、Twitter 、F…

  • 3nitola : RT @Danex: I'm convinced no one is actually proficient in Excel. You just learn the bits that you need for your job and leave the rest.

  • SongBird4Trump : RT @goldwaterkid65: @LLinWood @SongBird4Trump @Microsoft @Apple @BankofAmerica @MLB Great to see Lin we need three times that amount

  • martyflyxrp : @kelvintechie @ItsElijahCiali @HoowBooutNoo @Evan61568255 @Microsoft You might need a JEDI to do that

  • otitoooo_ : RT @Laxix6: 5 years ago Bill gates offered me a job at Microsoft but I rejected the offer because I want to stay in Nigeria and make this n…

  • TheUrbanAce : So what we *are* doing is looking, based on the number of units being proposed this quarter (Sept-Dec) through Desi… https://t.co/eebzjgfqA5

  • Rockbledillo79 : RT @ElTriana3: ¿Microsoft o Apple? Fin del debate. https://t.co/PP9nxjpryL

  • TylerChess : @Microsoft Maybe I will share (your) point.

  • PapeStacka : @MyEvidenZ @Microsoft @msPartner @msft4startupsfr Announced microsoft partnership before $LINK got there...impressive!

  • sthxff : @safetyjst https://t.co/DcHwEV7pKP

  • suki_eli : RT @pc_watch: Microsoft、ゲームのロード時間を大幅削減する「DirectStorage」のWindows版を提供 https://t.co/CaqFlYyFjR https://t.co/FrF8VCVMJC

  • Woolley_Gaming : OK wastland 3 is