5 способов обнаружить текст, написанный ChatGPT и другими инструментами искусственного интеллекта

Можете ли вы обнаружить текст, сгенерированный ChatGPT? ИИ используется в электронных письмах, сопроводительных письмах, маркетинговых презентациях, эссе для колледжей, программировании и даже в некоторых новостях. Но выяснение того, что написано человеком, а что — компьютерной программой, лучше оставить самим компьютерам.

Инструменты обнаружения получили широкое распространение благодаря ChatGPT и альтернативным моделям больших языков (LLM). Большинство из них бесплатны, хотя и с ограничениями на количество символов (что можно обойти, вставляя фрагменты текста за раз). Детектор искусственного интеллекта может служить многим целям: от проверки того, что написанный вами текст не выглядит слишком общим и неестественным, до раскрытия обмана со стороны кандидатов на работу.

Преподаватели находятся в верхней части списка тех, кто мог бы использовать надежный способ определить, было ли что-то написано ИИ. И они действительно были одними из первых, кто внедрил программное обеспечение для обнаружения ИИ. Но так же, как ChatGPT и ему подобные могут быть ненадежными, так и детекторы искусственного интеллекта.

В субреддите ChatGPT ученик средней школы недавно обратился за советом(Открывается в новом окне) после того, как учитель истории ложно обвинил его в использовании ChatGPT. Учитель не раскрыл, какой инструмент использовался, и, по словам ученика, посчитал оправданным заявление, поскольку детектор помог ему уловить другой текст, написанный искусственным интеллектом, от других учеников, которые признались в использовании ChatGPT.

Это предостерегающая история, которую мы хотели рассказать, прежде чем перейдем к обзору популярных детекторов искусственного интеллекта и нашему опыту работы с некоторыми из них. Поскольку ChatGPT и подобные ему программы обучены имитировать речь людей, отделить то, что записал ИИ от обычного использования, от реального текста, написанного людьми, — непростая задача — даже для ИИ.

В сообществе ИИ ходят разговоры об генераторах ИИ, включая водяные знаки (Открывается в новом окне) или сигналы в тексте, написанном ИИ, которые могут быть обнаружены программным обеспечением, не влияя на читаемость текста. Но это должно включать в себя участие компаний, производящих ИИ-контент, и маловероятно, что какая-либо из них сделает что-то, что поставит их в невыгодное положение по сравнению с конкурентами.

Тем не менее, вот некоторые из наиболее часто используемых детекторов искусственного интеллекта. Чтобы опробовать все бесплатные, я пробежался по тексту из собственной истории «Далл-И — следующий Диор?» Как ИИ пытается «заставить это работать» в моде, а также текст из подсказки, созданной ChatGPT: «Пожалуйста, напишите мне статью о том, как ИИ используется в индустрии моды, в частности о Stable Diffusion, DALL-E 2, и Мидджорни».

Классификатор текста AI (откроется в новом окне) исходит прямо из источника: разработчика ChatGPT OpenAI.

ChatGPT кажется немного неудобным оценивать себя, но, поскольку это ИИ, ему, вероятно, все равно. OpenAI также открыто заявляет об ограничениях этого решения: лучше всего оно работает при длине минимум 1000 символов; он может неправильно маркировать как текст, созданный искусственным интеллектом, так и текст, написанный человеком; он не работает с текстом, написанным детьми или не на английском языке; а несколько настроек текста, сгенерированного ИИ, помогают ему легко обходить классификатор.

Классификатор текста AI, который можно использовать бесплатно, оценивает текст по тому, насколько вероятно, что он будет создан искусственным интеллектом: очень маловероятно, маловероятно или неясно. OpenAI подчеркивает, что детектор призван «способствовать разговору о различии между контентом, написанным человеком, и контентом, созданным искусственным интеллектом», а не давать окончательный ответ.

Я использовал AI Text Classifer для оценки всего эссе, написанного с помощью ChatGPT, и получил такой результат: «Классификатор считает, что текст, скорее всего, сгенерирован AI». Для моего собственного текста инструмент определил следующее: «Классификатор считает, что текст вряд ли создан искусственным интеллектом».

GPTZero(Открывается в новом окне) разрушил мечты студентов колледжей всего через несколько дней после того, как ChatGPT попал в заголовки газет. Он был разработан одним из них, выпускником Принстона Эдвардом Цаем (Открывается в новом окне), который использовал знания, полученные по специальности «Компьютерные науки» и «Журналистика», для анализа текста на предмет «недоумения» (насколько сложны идеи и язык). и «прерывистость» (если речь идет о смеси длинных и коротких предложений, а не о предложениях более одинаковой длины).