В России создана нейросеть для выявления дипфейков по особым признакам
ИИ-сервис для детекции запрещённого контента запустила MTS AI
ИИ-сервис для детекции запрещённого контента запустила MTS AI
Также сервис от дочерней структуры компании МТС призван выявлять материалы, сгенерированные искусственным интеллектом. Функционал позволяет обнаруживать замену и синтез лиц, речь, созданную ИИ, находить сцены с демонстрацией алкоголя, наркотиков, оружия и экстремистской символики.
Для создания решения использовались разработки MTS AI и решения VisionLabs. Детекторы анализируют видео, аудио или изображения с помощью нейросетей, обученных на специальных наборах данных.
Учитываются несоответствия, которые обычно не видны человеку. Это неправильные тени, неестественные движения лицевых мышц, особенности тембра голоса или шумы. Нейросеть распознаёт, как один фрагмент видео- или аудиозаписи связан с другими, интонацию, паузы или длительность звуков.
Разработчики полагают, что сервис будет актуален в соцсетях и медиаплатформах для борьбы с дезинформацией и в защите несовершеннолетних от неприемлемого контента.
В корпоративном секторе он может быть полезен для проверки подлинности участников видеоконференций, в телекоме — для предотвращения мошенничества, в образовательных платформах — при сдаче онлайн-экзаменов и обеспечении безопасной онлайн-среды обучения.
«Система устанавливается в контур компании, а алгоритмы регулярно обновляются на базе наиболее актуальных технологий. Сервис обеспечивает высокий уровень безопасности, гибкость настройки и качество работы с доступом, как на бэкэнде, так и с помощью веб-версии. Система не замедляет идентификацию пользователей и не усложняет бизнес-процессы».