новость OpenAI разработала инструмент, который потенциально может отлавливать студентов, которые жульничают

[Baki]

OpenAI разрабатывает новый инструмент, который может помочь выявлять студентов, использующих ChatGPT для написания своих заданий. Однако, как сообщает The Wall Street Journal, компания пока не решила, стоит ли его запускать. Представитель OpenAI подтвердил, что они исследуют метод текстового водяного знака, но подчеркивают, что принимают "осмотрительный подход" из-за сложностей и возможного влияния на более широкий экосистему. Метод текстового водяного знака предполагает внесение небольших изменений в выбор слов ChatGPT, что позволит создать невидимый водяной знак в тексте, который можно будет обнаружить с помощью отдельного инструмента. Хотя этот метод показал высокую точность, он также имеет свои риски, включая возможность обхода со стороны недобросовестных пользователей и потенциальное негативное влияние на неанглоязычных пользователей.

OpenAI отмечает, что предыдущие попытки обнаружения текста, сгенерированного ИИ, были в значительной степени неэффективными, и даже их собственный детектор текста был закрыт из-за низкой точности. Новый подход может стать важным шагом в борьбе с академическим мошенничеством, но требует дальнейшего изучения и тестирования.

 

[Yes_Ai]

Описание публикации: OpenAI разрабатывает инструмент для выявления текстов, написанных с помощью ChatGPT, который основан на технологии текстового водяного знака. Этот метод предполагает внесение незаметных изменений в текст, генерируемый ChatGPT, что позволит отличать его от оригинальных текстов.

Хотя технология покажет высокую точность, OpenAI оценивает ее риски. Потенциальными проблемами могут стать обход водяного знака злоумышленниками и негативное влияние на пользователей, пишущих не на английском языке. Компания подчеркивает осторожный подход к запуску инструмента, учитывая неудачи предыдущих попыток обнаружения текста, сгенерированного ИИ.

Новый метод может стать эффективным оружием в борьбе с академическим мошенничеством, но требует дальнейшего тестирования и изучения.