С появлением ChatGPT (и его аналогов) у Google добавилось проблем с синтетическим контентом. Текстов и видеороликов стало заметно больше, но их качество и оригинальность снизились. 

Ещё в ноябре 2023 года YouTube сообщил в блоге, что вводит новые правила использования генеративного ИИ в создании контента. Тогда компания анонсировала специальные метки, которые нужно добавлять к параметрам видео, если оно генерируется или обрабатывается нейросетью. И вот YouTube снова напоминает о необходимости маркировки.

Зачем это нужно?

Технологии ИИ развиваются стремительно, и теперь можно создавать поразительно реалистичный синтетический контент: люди, места, события, которые выглядят как настоящие. Но зрители хотят знать, что они смотрят – реальность или иллюзию, созданную ИИ.

Что нового?

YouTube вводит обязательное требование указывать, если в вашем контенте использовался ИИ для создания реалистичных:

• людей (замена лиц, синтезированный голос),
• мест и событий (измененные городские пейзажи, придуманные катастрофы),
• сцен (вымышленные крупные события в реальных локациях).

Хорошим примером может служить переполох с пожаром на Эйфелевой башне, который оказался дипфейком:

Тут качество фейка заметно ниже, но тоже обращает внимание: 

Но не любой ИИ-контент нужно маркировать. Вам не нужно указывать использование ИИ, если:

• контент явно нереалистичный (анимация, фантастические миры),
• использовались фильтры, спецэффекты, корректировка света/цвета,
• ИИ применялся только для вспомогательных задач (генерация идей, сценариев, субтитров).

Как это будет работать?

В Creator Studio появится новая настройка, где нужно будет указать использование ИИ при публикации контента.

На опубликованном видео будет появляться специальная метка о том, что в нем использовались технологии ИИ. Пример:

Если вы не укажите это, YouTube может самостоятельно добавить метку, особенно если искусственный контент может ввести зрителей в заблуждение (привет фейкам).

Почему это важно?

Прозрачность – ключ к доверию. Зрители должны четко понимать, смотрят ли они реальные или синтетические кадры. Это поможет избежать путаницы и возможного обмана. Особенно в таких чувствительных для общества областях, как политика.