При использовании в контексте фильмов и мемов дипфейки иногда могут быть источником развлечения. Но они также вызывают растущую озабоченность. В эпоху фейковых новостей и дезинформации дипфейки — созданные искусственным интеллектом, обработанные фотографии, видео или аудиофайлы — потенциально могут быть использованы для введения людей в заблуждение.
Однако у Microsoft есть другие идеи. Во вторник компания объявила о двух новых технологиях, цель которых — предоставить читателям необходимые инструменты для фильтрации того, что реально, а что нет.
Первый из них, Microsoft Video Authenticator, анализирует изображения и видео, чтобы дать «процентную вероятность или оценку достоверности того, что СМИ искусственно манипулируют», согласно блогу на официальном сайте Microsoft. Инструмент работает, обнаруживая смешанные элементы изображения, которые наши хрупкие человеческие глаза, возможно, не уловили, такие как тонкие выцветания, элементы в оттенках серого и границы.
Вторая технология, которая будет доступна как часть облачного сервиса Microsoft Azure, позволяет создателям добавлять «цифровые хэши и сертификаты» к изображениям или видео. Затем они живут в метаданных при распространении через Интернет. Затем инструмент расширения браузера сопоставляет эти хэши, давая читателям информацию о том, кто изначально создавал контент, и был ли он изменен с тех пор.
Но как Microsoft признает в своем блоге, технология deepfake постоянно становится все более и более сложной, а это означает, что ее инструмент искусственного интеллекта также необходимо поддерживать в актуальном состоянии. Возможность добавлять и обнаруживать хеш-коды в медиа также полезна настолько, насколько полезно количество людей, которые действительно это делают.
Но в борьбе за то, чтобы отделить факты от вымысла в Интернете, это определенно кажется началом.
Стоит отметить, что Microsoft — не единственная компания, которая пытается найти решение проблемы дипфейка. После запрета их еще в январе Facebook недавно представил свои собственные усилия по обнаружению дипфейков, в то время как Twitter начал маркировать их как «манипулируемые и синтетические медиа», а Reddit ввел собственный запрет.