Microsoft усиливает борьбу с дипфейками с помощью новых инструментов аутентификации

Фото: Pixabay

В случае с видео Microsoft заявила, что может предоставить этот процент в реальном времени для каждого кадра во время воспроизведения видео. Технология работает, обнаруживая границу наложения дипфейка и тонких элементов выцветания или оттенков серого, которые не могут быть обнаружены человеческим глазом, сообщает ZDNet.

Дипфейки или синтетические носители могут быть фотографиями, видео или аудиофайлами, обработанными искусственным интеллектом (ИИ). Microsoft заявила, что обнаружение дипфейков имеет решающее значение в преддверии выборов в США.

Технология была создана с использованием общедоступного набора данных  Face Forensic ++,  и Microsoft заявила, что она была протестирована на  наборе данных DeepFake Detection Challenge , который она считает ведущей моделью для обучения и тестирования технологий обнаружения deepfake.

«Мы ожидаем, что методы создания синтетических медиа будут продолжать совершенствоваться. Поскольку все методы обнаружения ИИ имеют частоту отказов, мы должны понимать и быть готовыми реагировать на дипфейки, которые проскальзывают через методы обнаружения», — говорится в блоге компании. — «Таким образом, в долгосрочной перспективе мы должны искать более надежные методы для поддержания и подтверждения подлинности новостных статей и других средств массовой информации».

Microsoft также представила новую технологию, которая, по ее словам, может, как обнаруживать манипулируемый контент, так и убеждать людей в подлинности просматриваемых медиафайлов.

Технология состоит из двух компонентов, первый из которых представляет собой инструмент, встроенный в Microsoft Azure, который позволяет производителю контента добавлять цифровые хэши и сертификаты к части контента.

«Хэши и сертификаты затем сохраняются вместе с контентом как метаданные, где бы он ни передавался в сети», — пояснили в Microsoft.

Второй - это считыватель, который можно включить в расширение браузера, который проверяет сертификаты и сопоставляет хэши для определения подлинности.

В борьбе с дипфейками Microsoft также сотрудничает с AI Foundation. В рамках партнерства обе стороны сделают видеоаутентификатор доступным для организаций, участвующих в демократическом процессе, включая новостные агентства и политические кампании в рамках инициативы Reality Defender 2020.

Как сообщал Startpack, ранее Adobe озвучил план отмечать отредактированные снимки для борьбы с дезинформацией.