OpenAI добавит невидимые метки в тексты ChatGPT в ЕС
В ближайшие недели OpenAI включит невидимую маркировку текстов ChatGPT и Codex для пользователей в Евросоюзе. Так компания отвечает на требования европейского закона об ИИ: помечать сгенерированные материалы в машиночитаемом формате. Технология textGrain встраивает статистический сигнал в выбор слов. 🤖
Что известно
В ближайшие недели OpenAI включит невидимую маркировку текстов ChatGPT и Codex для пользователей в Евросоюзе. Так компания отвечает на требования европейского закона об ИИ: помечать сгенерированные материалы в машиночитаемом формате. Технология textGrain встраивает статистический сигнал в выбор слов. 🤖
Для пользователей API по всему миру маркировка будет необязательной: её можно будет включить самостоятельно. Она появится и у облачных партнёров, включая Microsoft Azure. OpenAI также планирует открыть технологию для других разработчиков.
Обнаружение метки зависит от длины и темы текста. В тестах система находила её примерно в 94% психологических текстов длиной около 300 слов, но только в 60% математических. Правки тоже мешают: замена четверти слов синонимами снижала точность обнаружения до 17%. А найденная метка не доказывает, что текст написал ИИ целиком: она не показывает вклад человека, авторство, точность текста или личность пользователя.
Пока детектор будет доступен только выбранным исследователям и профильным организациям — по заявке. Он сообщит лишь, обнаружена ли метка OpenAI, но может ошибаться: пропустить её или отметить текст без неё. Отсутствие метки не доказывает, что текст написал человек. 💡