ИИ как "медвежья услуга"

Технологии искусственного интеллекта (ИИ) все активнее применяются в самых разных отраслях. ИИ делегируются как простые, так и сложные задачи. Но способен ли искусственный интеллект "разобраться" с тонкостями законодательства? Может ли ИИ упростить жизнь российским вещателям в процессе очистки контента в соответствии с законодательными нормами.

Основная задача предэфирной подготовки контента в классическом варианте связана с выявлением технического брака по картинке, титрам, звуку и их корректировке, с обработкой видео, наложением спецэффектов, переводом материалов с других языков. То есть непосредственно с производственными и творческими процессами, которыми занимаются профессиональные редакторы и режиссеры монтажа.

Еще одна важная составляющая предэфирной подготовки – необходимость приведения контента перед выпуском в эфир с требованиями законодательства. Это расстановка возрастных знаков, предупреждение о курении и употребление алкоголя в кадре, недопустимость демонстрации деструктивных сцен в детских передачах. Все эти и другие законодательные требования существуют уже не один год, поэтому алгоритмы их соблюдения давно выработаны вещателями, а обширные библиотеки контента приведены в соответствие с требованиями регулятора.

В последнее время регулятор стал более активно "присматривать" за медиаотраслью, и перечень запрещенного к распространению или подлежащего специальной маркировке контента постоянно расширяется. Сейчас необходимо расставлять плашки с информацией о статусе иноагентов (организаций, признанных в РФ экстремистскими), а также удалять любые сцены, в которых можно усмотреть пропаганду нетрадиционных отношений. Если новый контент создается уже с учетом всех этих требований, то архивный приходится перепроверять после каждого обновления в нормативных документах. А это титаническая работа, которую крайне сложно выполнять силами штатных специалистов, о чем говорят сами вещатели и штрафы в отношении них.

На поверхности есть несколько вариантов возможного решения данного вопроса вещателями. Один из них – расширение штата редакторов, а значит и дополнительная нагрузка на зарплатный фонд. Любой бизнес стремится к оптимизации расходов. Особенно это актуально в сложившейся сегодня непростой ситуации, когда повышается как стоимость профессионального оборудования, так и зарплаты компетентных специалистов. Беглый анализ на портале hh.ru показывает, что зарплаты редакторов и режиссеров монтажа начинаются от 60 тыс. рублей в месяц, а сколько таких дополнительных специалистов может понадобиться, зависит от масштаба вещателя и его библиотеки.

Налево пойдешь – коня потеряешь, направо – себя спасешь

Что касается использования ИИ, то этот вариант хоть и кажется инновационным и модным, но по факту в сфере исполнения законодательных инициатив по очистке контента является не только более затратным, но и малоэффективным. Еще в 2022 году главный радиочастотный центр выделил почти 58 млн рублей на создание системы "Окулус", которая должна будет искать противоправный контент в интернете при помощи нейросетей. В начале этого года Генпрокуратура совместно с Минцифры и Роскомнадзором разработала законопроект об использовании этой системы для блокировки запрещенной информации. Мы пока не можем оценить эффективность данного решения, но затраты на его разработку не являются секретом. Могут ли себе позволить инвестиции в подобный проект вещатели? Очевидно, что подавляющее большинство не может.

Конечно, участники медиаотрасли пытаются автоматизировать процессы очистки контента в рамках исполнения законодательства. В прошлом году об использовании ИИ для модерации контента заявляли в Rutube, но о каких-то объективных данных об успехах в этом направлении с тех пор не появилось. Также на рынке представлена система аналитики видео от MTS AI. Разработчики утверждают, что точность распознавания запрещенного контента составляет свыше 90%. Это, конечно, здорово, но оставшихся 10% с лихвой хватит для того, чтобы получить крупный штраф или еще что похуже – вплоть до отзыва вещательной лицензии и уголовной ответственности. При этом надо учитывать, что и "Газпром-медиа", которому принадлежит Rutube, и МТС – это огромные компании с соответствующими бюджетами, несопоставимыми с возможностями производителей тематических телеканалов и уж тем более региональных вещателей.

Не надо забывать и о том, что даже в случае внедрения ИИ, это никак не сэкономит бюджет на зарплату специалистов. От редакторов и монтажеров отказаться все равно не получится, но добавится необходимость в специалистах, которые будут отвечать за внедрение, настройку, обучение и обслуживание нейросети, а также на специалиста, который будет следить за ее кибернадежностью. На профильных конференциях, посвященных нейросетям и кибербезопасности, уже часто обсуждают "галлюцинирующий" ИИ, когда модель, не зная ответа на вопрос, выдает неверный результат, или "грязную" выборку для обучения (к примеру, когда один источник превалирует среди других). А киберспециалисты уделяют внимание атакам на отправление данных: model skewing (загрязнение обучающей выборки с целью смещения у модели границы решения), backdoor attact (внедрение в обучающую выборку примеров с определенными метками).

По данным того же hh.ru, зарплаты таких сотрудников стартуют от 75 тыс. рублей. И все это опять-таки без гарантии стопроцентного результата. Даже сами представители рынка признают, что при выявлении незаконного контента им во многих случаях приходится действовать по наитию, ориентируясь на собственные субъективные ощущения, оценивая отдельно каждую сцену, обращая внимание на перипетии сюжета, взаимодействия героев и так далее. Ждать же наития и "правильных" ощущений от искусственного интеллекта точно не приходится.

Еще один вариант решения задачи по законодательной очистке контента без негативных последствий – передача задачи предэфирной подготовки профильной компании со штатом сотрудников, обладающих соответствующими компетенциями и хорошо ориентирующихся в актуальных требованиях законодательства. Это поможет вещателю сэкономить время и силы своих сотрудников, которые они могут направить на выполнение профильных творческих задач, избежать расширения штата и инвестиций в дорогостоящие проекты по внедрению ИИ.

Подводя итог, скажу, что окончательное решение всегда остается за вещателем и зависит от конкретной ситуации в каждой компании. Для кого-то более правильным вариантом будет взять все финансовые затраты и юридические риски на себя, кто-то выиграет от привлечения профессионалов из сторонней компании. Единственное, что я бы точно не посоветовал – это полагаться в вопросе очистки контента согласно законодательным нормам исключительно на "всемогущий" ИИ, который как по волшебству все сделает за вас. Возможно, в будущем это действительно будет так, но пока нейросети могут стать помощником в решении точечных задач, но точно не тех, где на кону стоит серьезная материальная и юридическая ответственность перед государством.