4 червени знамена, че ChatGPT е написал това, което четете, според експерти

Изкуственият интелект изглежда е навсякъде в наши дни, от вътрешен дизайн да се домашна постановка . Но една от най-известните — и вероятно една от най-противоречивите — употреби на AI в момента е ChatGPT.

Ако никога не сте играх си с ChatGPT преди, ето бърза снимка на това как работи: Човек потребител въвежда заявка, като „Напишете ми нова рецепта за вечеря“ или „Как да украси стаята ми за гости ” и след няколко секунди ChatGPT изхвърля отговор.

Но някои хора и фирми използват ChatGPT за много повече от просто приготвяне на храна. Те разчитат много на чатбота, за да пишат всичко есета за прием в колеж да се рецензии на продукта — въпреки че понякога води до противоречиви резултати.

какво е 333 в ангелски числа

Като читател това може да ви накара да се запитате дали някога неволно сте чели нещо, което сте мислили, че е написано от човешки автор, но всъщност е създадено от бот. Чудите се как да разберете дали нещо е написано от ChatGPT? Разговарях с няколко експерти, за да получа техните съвети за навигиране в този мрачен нов свят, захранван от AI, в който живеем. Ето какво имаха да кажат.

Как ChatGPT казва да разбере дали нещо е написано от ChatGPT?

Но първо се чудех какво ще каже ChatGPT, ако му задам точно този въпрос. Просто за забавление направих акаунт, написах „как да разбера дали нещо е написано от ChatGPT“ в лентата за съобщения и натиснах Enter.

ChatGPT, разбира се, ми даде отговор веднага.

„Идентифицирането дали нещо е написано от ChatGPT може да бъде предизвикателство, тъй като моделът има за цел да генерира текст, подобен на човешки“, отговори той. „Има обаче някои общи характеристики, които могат да показват, че текстът е генериран от езиков модел.“

След това продължи да ми дава списък с черти, които може да показват, че даден текст е написан от бот, като повтаряне на едни и същи фрази или идеи многократно или изглеждащ общ и липсващи конкретни подробности. ChatGPT също казва, че в текста може да липсват лични анекдоти и емоции.

Друго кажете, според ChatGPT? Ако информацията изглежда остаряла, защото ChatGPT е обучаван само на данни до януари 2022 г.

В края на отговора си ChatGPT се опита да ме успокои, като написа, че ако имам „конкретни притеснения или съмнения относно част от текста, не се колебайте да попитате и аз ще направя всичко възможно да ви помогна.“

Как да разберете дали нещо е написано от ChatGPT

Добре, това беше забавен експеримент, но сега какво трябваше да кажат истинските човешки експерти.

Първото нещо, което трябва да имате предвид е, че текстът на ChatGPT се генерира от подкана, въведена от човек. Поради това човешкият потребител може да променя подканата отново и отново, за да произведе конкретния глас, стил, дължина и тип текст, който търси. Това може да направи изненадващо трудно да се разбере дали нещо е написано от ChatGPT.

„В моето изследване открих, че дори добре обучени хора се борят да открият надеждно генерирания текст“, казва Лиъм Дуган , който проучва различни въпроси, свързани с chatbot, докато работи върху своята докторска степен в Университета на Пенсилвания. (Той и колегите му създадоха онлайн игра, наречена „ Истински или фалшив текст ”, където хората могат да тестват своите умения за откриване на текст, генерирани от изкуствен интелект – опитайте сами.)

Според Дуган няма конкретни думи или фрази, които да показват, че даден текст е написан от чатбот. Така че, за съжаление, не можете просто да направите „Control+F“ за специфично многословие.

Виждам 333

Други експерти повториха това мнение.

„За съжаление, изглежда, че няма лесен начин за откриване на текст, който е написан от ChatGPT или AI като цяло“, казва Ксавие Хардинг, продуцент на съдържание в Mozilla, компанията зад интернет браузъра Firefox. „Видяхме създателите на ChatGPT, OpenAI, да се опитват да предлагат методи за откриване на текст, написан от AI, и трябваше да ги извикат, казвайки, че няма точен начин за откриване на текст, генериран от AI.“

Внимавайте за грешки при копиране и поставяне.

Но само защото може да е трудно да се каже, не означава, че всяка надежда е загубена. Тъй като хората са тези, които подсказват ChatGPT, може да видите някои супер-очевидни улики, че нещо е написано от чатбот.

„Виждал съм хора случайно да включват странични коментари от чатбота като „Разбира се, ето новинарска статия за откриването“, казва Дуган.

Знайте как да забележите „халюцинации“.

Като оставим настрана този тип грешки, експертите също препоръчват внимателно да проучите част от текста за фактическа точност. Колкото по-нишова е информацията, толкова по-вероятно е чатботът просто да измисли факт или да обърка нещо, казва Дуган.

Хората, които работят в областта на ИИ, наричат ​​тези погрешни стъпки „халюцинации“.

„Понякога AI ще каже неща, които направо не са верни“, казва Хардинг. „Това може лесно да разбере, че четете текст, създаден от AI, а не от човек, въпреки че може да е трудно да разберете дали нещо е халюцинация, ако е по тема, с която не сте запознати.“

Ако не сте много запознати с темата, за която четете, направете бързо онлайн търсене, за да проверите информацията пред вас, добавя Хардинг.

Внимавайте за писане, което изглежда твърде общо.

Друг знак, че нещо е написано от чатбот, е прекомерната обобщеност (което самият ChatGPT също спомена). Ако част от текста изглежда твърде широка - като рецензия на филм, в която не се споменава нито един от членовете на актьорския състав по име, например - може да искате да сте подозрителни.

„За да избегнат грешки, чатботовете често пишат общ текст“, казва Дуган. „Те ще дадат много безопасни и предвидими отговори и ще се опитат да избегнат необходимостта от измисляне на информация. Това обаче често може да изглежда странно за читателя. Читателите трябва да обърнат внимание на всичко, което изглежда като избягване на предоставянето на конкретна информация.

Прочетете повече от първите няколко изречения.

Друг съвет: Прочетете колкото е възможно повече от текста, вместо само първото или две изречения. Гари Маркъс , почетен професор по психология и неврологични науки в Нюйоркския университет, казва, че може да бъде по-лесно да се установи дали нещо е написано от чатбот, когато текстът е по-дълъг.

„Много е трудно да се каже от всяко отделно изречение, защото те са обучени на умопомрачително големи количества текст, за да звучат възможно най-човешки“, казва той. „Тези системи често излизат извън релсите при по-дълъг разговор, но не непременно в кратки откъси.“

какво означава 999 в библията

А какво да кажем за детекторите за chatbot?

Разровете се онлайн и вероятно ще срещнете инструменти, които твърдят, че могат да откриват генериран от AI текст. В момента Dugan провежда широкомащабно проучване, за да тества ефективността на тези детектори - но засега ранните доказателства не са обещаващи.

„Всички наши резултати показват, че детекторите не са надеждни и че не трябва да ги използвате в сценарии с високи залози“, казва той. „Много компании твърдят, че могат да открият генериран текст с 99 процента или по-висока точност, но тези твърдения са неверни. Детекторите често маркират текст, написан от хора, като генериран от чатбот и лесно биват измамени.“