Home
» Wiki
»
OpenAI рассматривает возможность добавления водяных знаков в текст, сгенерированный ChatGPT
OpenAI рассматривает возможность добавления водяных знаков в текст, сгенерированный ChatGPT
Зарегистрируйтесь и зарабатывайте 1000$ в день ⋙
По данным The Wall Street Journal, компания OpenAI уже около года как разработала систему для маркировки текста водяными знаками, созданную ChatGPT , и инструмент для обнаружения водяных знаков. Однако внутри компании ведутся внутренние дебаты по поводу того, стоит ли выпускать его. С одной стороны, это кажется ответственным делом; С другой стороны, это может нанести ущерб прибыли компании.
Технология создания водяных знаков OpenAI описывается как корректировка того, как модель предсказывает наиболее вероятные слова и фразы после предыдущих слов и фраз, создавая обнаруживаемый шаблон.
Предоставление возможности обнаружить материалы, написанные с помощью ИИ, может оказаться потенциальным благом для учителей, пытающихся отговорить учеников от использования ИИ для выполнения домашних заданий. По данным издания Journal, компания обнаружила, что водяной знак не повлиял на качество текстового вывода чат-бота. В опросе, проведенном по заказу компании, «люди по всему миру поддержали идею создания инструментов обнаружения на основе ИИ в соотношении 4:1», пишет Journal.
После того, как Journal опубликовал свою статью, компания OpenAI подтвердила, что настаивала на добавлении текстового водяного знака в обновлении блога, которое сегодня обнаружил TechCrunch. В нем компания утверждает, что ее метод отличается высокой точностью («эффективностью 99,9%», согласно документам, с которыми ознакомился Journal) и устойчивостью к «подделке, такой как перефразирование». Компания также заявила, что обеспокоена стигматизацией относительно полезности инструментов ИИ для неносителей языка.
Однако, похоже, OpenAI также обеспокоена тем, что использование водяного знака может оттолкнуть пользователей ChatGPT. По данным опроса, почти 30% из них сообщили компании, что будут реже пользоваться программным обеспечением, если в нем будет реализована функция водяных знаков.
Тем не менее, некоторые сотрудники считают, что функция водяного знака была бы эффективной. Однако в ответ на разочарование пользователей журнал заявил, что некоторые из предлагаемых методов тестирования «могут вызывать меньше споров среди пользователей, но они не доказаны». В сегодняшнем обновлении блога компания сообщила, что она находится «на ранних стадиях» изучения внедрения метаданных, и пока «слишком рано» говорить о том, насколько хорошо будет работать новая функция, но поскольку она имеет криптографическую подпись, ложных срабатываний быть не должно.