OpenAI разработала текстовые «водяные знаки» для идентификации ИИ-контента

Команда OpenAI объявила в своем блоге о разработке текстовых «водяных знаков» для распознавания текстов, созданных ChatGPT, а также инструментов для их обнаружения. Однако в компании нет единого мнения о целесообразности их использования. С одной стороны, это выглядит как ответственный шаг, с другой — может негативно повлиять на доходы компании.

«Водяных знаки» OpenAI представляют собой настройки модели, которая предсказывает наиболее вероятные слова и фразы, созданные ИИ. По заявлению компании, этот метод оказался достаточно эффективным против локальных изменений, таких как перефразирование. Однако он менее устойчив к глобальным вмешательствам, таким как использование нейросетей для перевода или повторного перефразирования с помощью другой нейросети.

Возможность распознавания текста, написанного ИИ, может быть полезна, например, преподавателям, которые хотят предотвратить использование ИИ для выполнения домашних заданий или написания курсовых работ.

OpenAI также опасается, что использование «водяных знаков» может отпугнуть пользователей ChatGPT. Почти 30% из них заявили, что будут реже использовать сервис, если «водяные знаки» будут добавлены.

Напомним также, что OpenAI начала предоставлять пользователям доступ к голосовому режиму в ChatGPT.