temavorobeyOpenAI 5 октября рассказала, как будет выполнять требование европейского закона об ИИ (EU AI Act) помечать сгенерированный текст. В ближайшие недели ответы ChatGPT и Codex в Евросоюзе получат невидимый водяной знак textGrain, на всех тарифах. В API знак с сегодняшнего дня можно включить по желанию, по умолчанию он выключен. Проверить текст на знак пока смогут только одобренные исследователи. Подробности - в анонсе OpenAI.
ChatGPT Plus и Pro на ваш аккаунтОплата картой РФ или СБП КупитьГде появится знак
| Где | Что меняется |
|---|---|
| ChatGPT и Codex в ЕС | Знак в ответах, включается в ближайшие недели, все тарифы |
| ChatGPT и Codex в остальных странах | Ничего: глобально по умолчанию знак не включают |
| API | С 5 октября по желанию клиента, для отдельных моделей, по умолчанию выключен |
| Детектор | Только по заявкам исследователей и экспертных организаций, публично не открыт |
Технически знак это не скрытые символы в тексте. Модель чуть смещает выбор слов, и детектор ищет эту статистическую закономерность. Как это устроено, OpenAI описала в техническом отчёте и обещает выложить технологию в открытый доступ. Похожий знак ещё в августе описала Anthropic, мы разбирали это в новости про Claude.
Насколько он надёжен
Сама OpenAI пишет, что технология ранняя и ошибается в обе стороны. Цифры из анонса при доле ложных срабатываний 1%:
- Текст на 200 токенов на тему вроде психологии распознаётся примерно в 80% случаев, на 400 токенов - примерно в 95%. В математике, где слова выбирать особо не из чего, заметно хуже.
- Замена 10% слов синонимами роняет распознавание с 92% до 66%, замена 25% - до 17%.
- На качество ответов знак, по данным OpenAI, не влияет: в тестах флагманской модели Astra заметной разницы нет.
Что это значит для нас
По первоисточнику знак в ChatGPT и Codex включают только в Евросоюзе, в остальных странах по умолчанию его нет. Как именно OpenAI определяет, что пользователь в ЕС, в анонсе не сказано, поэтому гадать не будем. В API всё решает разработчик: пока он сам не включил знак, его нет.
Для тех, кто пишет тексты с ChatGPT, практический вывод простой: проверить их на знак обычный человек сейчас не может, детектор закрыт. Ещё одна новость OpenAI того же дня - реклама во время генерации картинок.
Российская карта в OpenAI не проходит. Подписка ChatGPT Plus и Pro есть в нашем каталоге, оплата картой РФ или СБП.
