Connect with us

Hi, what are you looking for?

Наука и технологии

OpenAI сама не может распознать текст, сгенерированный в ChatGPT

OpenAI сама не может распознать текст, сгенерированный в ChatGPT
OpenAI сама не может распознать текст, сгенерированный в ChatGPT

В ответ на нарастающее беспокойство педагогов о способности ChatGPT помогать студентам списывать, OpenAI выпустила инструмент, который может распознавать текст, написанный искусственным интеллектом. Однако компания заявила: «наш классификатор не является полностью надежным».

«В наших оценках на «тестовом наборе» английских текстов наш классификатор правильно идентифицирует 26% текстов, написанных ИИ (истинные положительные результаты), как «вероятно написанные ИИ», в то время как неправильно обозначает текст, написанный человеком, как написанный ИИ в 9% случаев (ложные положительные результаты)», – написала компания, разработавшая ChatGPT, в своем блоге.

Классификатор, обучавшийся на наборе текстов, написанных человеком и искусственным интеллектом на одну и ту же тему, еще не надежен и должен лишь дополнять другие способы определения того, кем написан текст. Ограничения, которые классификатор, согласно OpenAI, включают ненадежность на коротких текстах и ​​значительно надежнее работает с текстами от новейших систем искусственного интеллекта.

Недавно профессора Нью-Йоркского университета сказали студентам, что они не могут использовать ChatGPT без специального разрешения, заявив, что любое использование этого инструмента будет считаться плагиатом. Преподаватели придумывали собственные способы выявления написания эссе искусственным интеллектом, чтобы предотвратить любое мошенничество, например, пропускали свои подсказки к эссе через ChatGPT, чтобы иметь эталон того, как будет выглядеть текст сгенерированный искусственным интеллектом.

22-летний студент, по имени Эдвард Тиан, разработал собственный детектор ChatGPT, который был запущен в бета-версии в начале этого года, а 29 января вышел в полном объеме как GPTZeroX. В этом приложении можно вставить текст или загрузить один или несколько документов одновременно, и программа подсчитает, какую часть текста написал искусственный интеллект, и выделит предложения, написанные ИИ. По словам Тиана, приложение ошибалось менее чем в 2% случаев во время тестирования на наборе данных новостных статей BBC и сгенерированных машиной статей с такой же подсказкой, что делает GPTZeroX более надежным, чем собственный детектор OpenAI.

OpenAI призывает людей в своем блоге, на которых оказывает непосредственное влияние языковой бот, «включая, но не ограничиваясь учителями, администраторами, родителями, студентами и поставщиками образовательных услуг», предоставить обратную связь через опросы в Google Form. Поскольку ChatGPT становится способным писать все – от студенческих эссе до кода, учителя во всем мире пытаются адаптировать процесс обучения к новой технологии и обсуждают, как можно использовать этот инструмент с точки зрения этики.

В тренде