?
Обнаружение видеодипфейков на основе обучаемого временного внимания в визуально-языковых моделях
В работе предложен обучаемый модуль временного внимания для обнаружения видеодипфейков, использующий признаки предобученных визуально-языковых моделей. Модуль заменяет усреднение покадровых признаков их взвешенной суммой, веса которой настраиваются по метке видеозаписи. В автономной конфигурации обучаются только модуль и выходной классификатор, имеющие 266 755 параметров. Конфигурация, сочетающая модуль с пространственно-временным адаптером, достигает площади под кривой ошибок 0,978 против 0,955 при усреднении покадровых признаков на тестовой выборке FaceForensics++ с умеренным сжатием. Решение превосходит адаптер без модуля по среднему значению метрики на семи внешнедоменных наборах, но уступает покадровой модели. На единственном внешнедоменном видеонаборе лучший результат получен у автономной конфигурации.