Платформа X объявила о зачистке военных видеофейков

Соцсеть X вводит жесткие санкции против авторов ИИ-контента о войне в Иране, лишая их выплат и блокируя монетизацию за распространение видеофейков.

Платформа X (бывший Twitter) объявила о начале масштабной кампании по борьбе с ИИ-видеофейками. На фоне войны в Иране сеть заполнили реалистичные, но полностью вымышленные кадры авиаударов и наземных операций.

Руководитель по продукту X Никита Бир заявил изданию Times of Israel, что компания выявила десятки аккаунтов, распространяющих видеофейки для повышения охватов и излечения прибыли.

Основным инструментом давления станет отключение нарушителей от программы распределения доходов: пользователи, публикующие военную ИИ-генерацию без соответствующей пометки, навсегда потеряют возможность зарабатывать на своих публикациях.

Проблема приобрела системный характер из-за доступности технологий, позволяющих даже дилетантам создавать убедительную дезинформацию. Исследователи обнаружили целые сети ботов, которые маскировались под "журналистов с места событий". Выяснилось, что большинство создателей такого контента преследуют не политические цели, а сугубо финансовый интерес, пытаясь заработать на волне хайпа вокруг трагических событий.

Для идентификации подделок сервис планирует использовать систему "Заметки сообщества" (инструмент открытой проверки фактов в соцсети X, который позволяет самим пользователям опровергать недостоверную информацию) и ИИ-модели, которые выявляют аномалии, характерные для фейков.

Особую тревогу вызывает тот факт, что в ловушку дезинформации попадают даже официальные лица. Фейковые изображения погибших и пострадавших репостят высокопоставленные сотрудники ООН и мировые СМИ, что придает фейкам статус достоверности. При этом некоторые чиновники, уличенные в использовании подделок, отказываются признавать ошибку, утверждая, что эмоциональный посыл важнее фактической точности кадра.

Несмотря на решительные шаги, критики указывают на пробелы в новой политике. Ограничения пока касаются только видео, оставляя в серой зоне ИИ-фотографии, которые распространяются не менее стремительно. Кроме того, санкции бьют лишь по крупным блогерам, имеющим право на выплаты, в то время как обычные пользователи продолжают постить фейки безо всяких для себя последствий.

Тем не менее X стремится максимально оперативно устранять стимулы для тех, кто превращает информационное сопровождение войны в бизнес на обмане.