Соцсети начали автоматически помечать ИИ-контент — как это работает

С ростом качества генеративных нейросетей соцсети столкнулись с очевидной проблемой: пользователи всё чаще не могут отличить сгенерированную картинку, видео или голос от настоящих. Ответом стало массовое внедрение автоматической маркировки ИИ-контента — платформы всё активнее подписывают публикации меткой «сделано ИИ», причём делают это не вручную, а автоматически.

Как это работает технически

В основе лежит идея встроенных метаданных: генератор при создании картинки, видео или аудио вшивает в файл невидимую техническую метку — своего рода цифровую «этикетку» с информацией о происхождении. Когда такой файл загружают в соцсеть, платформа считывает эту метку и автоматически показывает пользователям пометку «содержимое создано или изменено с помощью ИИ» — без участия модератора.

Это принципиально отличается от старого подхода, где маркировку ставил (или не ставил) сам автор публикации вручную и на добровольных началах.

Почему это стало массовым

Толчком послужил рост голосовых дипфейков и реалистичных изображений — доверие к обычному контенту начало падать, а платформы столкнулись с репутационным риском: пользователи не могли понять, где правда, а где генерация. Автоматическая метка на уровне файла — попытка решить проблему на техническом уровне, не полагаясь на честность публикующего.

Где подвох

Технология полезная, но не панацея, и об этом стоит сказать прямо.

• Метку легко потерять. Скриншот, конвертация в другой формат или простая пересъёмка экрана обычно стирает встроенные метаданные — и маркировка исчезает вместе с ними.
• Работает только с добросовестными генераторами. Крупные легальные сервисы честно вшивают метку. Инструменты, специально созданные для обмана (в том числе для дипфейков мошенников), просто её не ставят.
• Не покрывает все платформы одинаково. Разные соцсети используют разные стандарты, и метка, понятная одной платформе, может не распознаваться другой.
• Ложное чувство безопасности. Отсутствие метки не означает, что контент точно настоящий — это может значить лишь то, что метку убрали или изначально не проставили.

Что это значит для вас

Автоматическая маркировка — полезный, но не полный ответ на проблему ИИ-контента. Она отлично работает как первая линия защиты для честно промаркированного материала, но не заменяет здравого скепсиса: если что-то выглядит слишком удивительным или удобным, чтобы быть правдой, метка «не ИИ» ещё не гарантия подлинности.

Как распознавать подделки самостоятельно, разбирали в гайде про дипфейки, а про голосовые подделки и защиту от мошенников — в отдельном материале.