Платформы борются с фейками, созданными ИИ

Технологические гиганты разрабатывают собственные правила маркировки контента, созданного с помощью ИИ, а также объединяются для создания единых стандартов отрасли. В частности, Meta*, Google и TikTok заявляют, что контент, созданный с помощью их собственных ИИ-инструментов, будет маркироваться автоматически.

Исследование Стэнфордской обсерватории интернета показало, что алгоритм Facebook продвигал сгенерированный ИИ контент (обычно немаркированный) из неизвестных пользователям аккаунтов из-за высокого уровня вовлеченности.

YouTube в настоящее время требует раскрытия любого «контента, который существенно изменен или создан искусственным путем, когда он кажется реалистичным».

• «Фильтры красоты» — это нормально, но создание совершенно нового лица — нет.
• Если пользователи генеративного ИИ не помечают свои работы, ютуб заявляет, что потенциально удалит контент или отстранит пользователя от партнерской программы.

TikTok требует маркировки любого контента, который «содержит реалистичные изображения, аудио и видео».

• Это означает, что контент был отредактирован «без незначительных исправлений или улучшений».
• Также это подразумевает показ субъекта, делающего то, чего он на самом деле никогда не делал, или говорящего то, чего он никогда не говорил.
• Сюда также входит любое использование приложений для замены/обмена лицами.

Ранее Meta* опубликовала новые рекомендации на основе отзывов своего Наблюдательного совета.

• Первоначальные правила ограничивали контент, которым манипулировали для изображения фальшивой речи, а теперь также распространяются на контент, измененный с целью фальсификации чьих-либо действий.
• Meta заявляет, что будет использовать «общие в отрасли сигналы изображений ИИ», советы специалистов по проверке фактов.

* Деятельность Meta (руководящая компания Instagram и Facebook) запрещена в России как экстремистская.