За последний год крупнейшие медиаплатформы, такие как YouTube, Instagram* и TikTok, существенно усилили контроль за аутентичностью материалов. Многие из них начали автоматически добавлять специальные метки к изображениям, видео и музыке, созданными искусственным интеллектом, чтобы визуально отделить их от работ реальных авторов.
Бесполезность маркировки без инструментов фильтрации
Несмотря на усилия по внедрению дисклеймеров, способ потребления контента практически не изменился. Пользователи могут видеть уведомления об использовании ИИ в описании роликов или в виде наложенных информационных плашек поверх видео. Компания Meta* применяет аналогичный подход, помечая изображения в Facebook* и Instagram*, если они содержат соответствующие метаданные или если авторы добровольно указали на использование нейросетей.
Однако для тех, кто хочет полностью исключить сгенерированный контент из своей ленты по этическим соображениям или из-за низкого качества таких работ, механизмов практически не существует. Внедрение простого переключателя в настройках могло бы решить проблему, но ИТ-гиганты не спешат этого делать. В ходе анализа ситуации представители Meta*, Google, TikTok и Spotify не подтвердили планов по запуску подобных фильтров. Большинство компаний либо проигнорировали запросы, либо заявили, что на данный момент им нечего анонсировать.
Опыт DeviantArt и Pinterest
На текущий момент лишь единичные площадки реализовали подобие фильтрации ИИ-контента, но эти решения остаются малоэффективными:
- На платформе DeviantArt настройки скрытия ИИ-работ скрыты глубоко в меню профиля. В ходе тестирования выяснилось, что даже при выборе опции «подавлять ИИ-контент» в ленте продолжают появляться цифровые иллюстрации, созданные нейросетями. При этом платформа зачастую игнорирует метаданные, явно указывающие на происхождение изображения.
- Pinterest позволяет пользователям уточнять рекомендации в настройках, отключая категории вроде ИИ-арта, моды или дизайна интерьеров. Однако система работает нестабильно: в лентах пользователей по-прежнему встречаются изображения с характерными признаками генерации, такими как неестественно детализированные модели или анатомические ошибки.
Технические барьеры и бизнес-интересы
Системы подтверждения происхождения контента, такие как C2PA или SynthID (скрытые водяные знаки), работают на этапе создания файла. Однако существует множество моделей искусственного интеллекта с открытым исходным кодом, которые не внедряют такие метки. Кроме того, метаданные легко удаляются при редактировании или повторной загрузке файла. Методы детектирования на основе анализа цифровых паттернов также пока не показывают стопроцентной точности в промышленных масштабах.
В обзоре ситуации отмечается, что нежелание внедрять фильтры может быть продиктовано коммерческими интересами. Компании Meta*, Google и Spotify не только размещают контент, но и активно продвигают собственные инструменты для его генерации. По мнению экспертов, платформы заинтересованы в том, чтобы пользователи привыкали к присутствию ИИ в своих лентах, так как это напрямую связано с будущей монетизацией этих технологий.
В качестве альтернативы некоторые руководители площадок, включая главу Instagram* Адама Моссери, предлагают сосредоточиться на маркировке «верифицированных авторов-людей». Это позволило бы пользователям выделять контент от живых создателей на фоне массового производства низкокачественных материалов ИИ-фермами.
* — деятельность компании запрещена на территории РФ