Россия делает шаг к инновационному мониторингу цифрового пространства, запуская использование искусственного интеллекта для выявления запрещенного контента. Директор по ИИ-продуктам компании «Оператор Газпром ИД», Павел Боюка, поделился подробностями этой инициативы.
Совершенствование модерации
В рамках проекта будет внедрена отечественная платформа Video Tagging System (VTS), специально разработанная для автоматизации процессов модерации видео-, аудио- и текстовых материалов. Ожидается, что решение значительно упростит работу модераторов и минимизирует юридические и репутационные риски для цифровых компаний.
Как отметил Боюка, система позволит повысить производительность команд модераторов более чем в десять раз. VTS уже адаптирована для поиска нецензурной лексики и контента, связанного с наркотиками.
Технологические возможности платформы
VTS использует свыше 15 нейросетевых моделей, что позволяет ей эффективно анализировать объекты и действия в кадре, распознавать речь и эмоции, а также обрабатывать текстовые и графические данные. Эта система маркетинга гарантирует точную разметку нарушений с временными метками, что значительно ускоряет процесс проверки контента.
Система также предлагает обширные возможности кастомизации — как базовые правила модерации, так и индивидуальные сценарии для каждой платформы. В зависимости от настроек, VTS может либо самостоятельно блокировать запрещенный контент, либо отправлять его на финальную проверку к модератору.
Ключевой особенностью VTS является использование Zero-Shot-подхода и каскадных моделей с перекрестной валидацией. Это позволяет запускать новые сценарии без дополнительного обучения, что в свою очередь снижает количество ложных срабатываний и поддерживает стабильное качество работы на больших объемах данных, пишет Новости ЕАН.
