Источник: Искусственный интеллект OpenAI в ближайшие недели начнет добавлять невидимые водяные знаки в подходящие текстовые ответы ChatGPT и Codex в Евросоюзе, передает NaizaNews.kz со ссылкой на OpenAI. Нововведение связано с требованиями европейского законодательства об искусственном интеллекте.
Для маркировки компания разработала технологию textGrain. Она не добавляет скрытые символы, невидимые пробелы или специальную пунктуацию. Вместо этого система создает статистический сигнал за счет того, как модель выбирает слова и части слов при формировании ответа.
Для обычного читателя такой водяной знак незаметен. Специальный детектор анализирует достаточно длинный текст и ищет характерную закономерность в выборе слов.
При этом маркировка не позволяет установить конкретного пользователя, его аккаунт, запросы или содержание переписки. Также по ней нельзя определить, какая часть текста была написана человеком, а какая — с помощью искусственного интеллекта.
Наличие сигнала может указывать на то, что система OpenAI участвовала в создании или обработке текста. В то же время отсутствие водяного знака не означает, что материал обязательно был полностью написан человеком.
В OpenAI подчеркивают, что технология не обеспечивает стопроцентную точность. При уровне ложных срабатываний в 1% во время тестирования детектор обнаруживал водяной знак примерно в 80% текстов объемом 200 токенов и примерно в 95% текстов объемом 400 токенов в случаях, когда у модели было достаточно вариантов формулировок.
Редактирование текста также может ослаблять сигнал. В одном из тестов замена 10% слов синонимами снизила показатель обнаружения примерно с 92% до 66%. При замене четверти слов он снизился до 17%.
Короткие тексты и материалы, где выбор формулировок сильно ограничен, определять сложнее. В частности, технология может работать менее эффективно с математическими и другими формализованными текстами.
На первом этапе детектор textGrain не будет общедоступным. Доступ к нему получат одобренные исследователи и экспертные организации, которые смогут оценивать надежность технологии и особенности ее применения.
Для пользователей OpenAI API действует отдельный порядок. Разработчики и организации по всему миру могут самостоятельно включать водяные знаки для поддерживаемых моделей. По умолчанию эта функция отключена.
OpenAI также планирует открыть технологию textGrain для других разработчиков, чтобы они могли работать с ней и совершенствовать методы маркировки ИИ-текстов.