OpenAI, компания, создавшая DALL-E и ChatGPT, представила новый классификатор, который поможет отличить человеческий текст от текста, написанного искусственным интеллектом.

Модель училась на парах текстов одной темы, которые писал человек и ИИ. В пресс-релизе предупреждают, что классификатор “не полностью надежен” и не должен использоваться как “основной инструмент принятия решений”.

Технология проста, и для ее использования необходима бесплатная учетная запись OpenAI. Текст, подлежащий проверке, следует поместить в поле и нажать специальную кнопку. Инструмент проанализирует его и выдаст свой вердикт: текст очень маловероятно, маловероятно, непонятно, возможно или вероятно создан ИИ.

OpenAI также предоставляет несколько предупреждений, на которые следует обратить внимание перед использованием инструмента:

текст должен содержать минимум 1000 символов или примерно 150-250 слов;
классификатор не всегда точен и может неправильно обозначить текст, как написанный ИИ или человеком;
текст, написанный ИИ, можно легко отредактировать, чтобы он был похож на человеческий и мог “обмануть” классификатор;
классификатор может дать ошибочный результат, если пользователь проверяет текст, написанный на английском языке или ребенком — поскольку инструмент учился на английском контенте, написанном взрослыми.

Предостережения кажутся оправданными — журналист The Verge протестировал инструмент на собственных текстах и тот обозначил их как “очень маловероятно созданные ИИ”. Не достаточно точный результат (“маловероятно созданные ИИ”) дает классификатор при попытке проверить статьи CNET Money — издание утверждает, что эти статьи были “написаны с помощью ИИ и отредактированы человеком” (недавно CNET добавил новые поправки в более чем половину из них).

CNET не уточняет, какой ИИ-инструмент использует для написания статей, однако журналисты склоняются к мнению, что это Wordsmith. OpenAI говорит, что их инструмент предназначен не только для GPT, и может обнаруживать “текст, написанный искусственным интеллектом от разных поставщиков”.

Вместе с тем несколько примеров ответов ChatGPT инструмент обозначил как “возможно” или “вероятно” созданные ИИ. По данным OpenAI, во время тестирования инструмент обозначал текст, созданный искусственным интеллектом как “вероятно написанный ИИ” в 26% случаев, и ошибочно обозначал человеческий текст, как текст ИИ в 9%.

OpenAI не первая компания, создавшая классификатор текста. После того как ChatGPT “завирусился”, студент Эдвард Тиан представил сайт с похожими возможностями под названием GPTZero.

Владелец ChatGPT сосредоточился на создании классификатора в первую очередь из-за опасений преподавателей, поскольку многие образовательные учреждения запретили использование чат-бота из-за того, что не могут различать работы ИИ от текстов, написанных учениками. OpenAI говорит, что “взаимодействует с педагогами в США”, обращая внимание на их отзывы о ChatGPT.

Источник: The Verge