O echipă de cercetători de la Școala de Inginerie și Științe Aplicate a Universității din Pennsylvania vrea să le ofere utilizatorilor de tehnologie instrumentele cu care să identifice textele generate de inteligența artificială (AI) precum ChatGPT.
Înainte să furnizeze datele cardului de credit sau pur și simplu să folosească o rețetă de pe internet, realizatorii studiului le recomandă tuturor să fie cu băgare de seamă.
Studiul făcut public în februarie și desfășurat de Chris Callison-Burch, profesor asociat în cadrul Departamentului de Informatică și Știința Informației (CIS), împreună cu Liam Dugan și Daphne Ippolito, doctoranzi în CIS, oferă dovezi că textul redactat de AI poate fi recunoscut.
„Oamenii pornesc de la anumite presupuneri cu privire la ce fel de erori ar face o mașină, dar aceste presupuneri nu sunt neapărat corecte", a spus Callison-Burch, potrivit site-ului Science Daily.
Dugan, colegul său de cercetare, a oferit și exemple de greșeli ale AI. „Noi dovedim că mașinăriile fac diverse erori - de bun simț, de relevanță, de raționament și erori logice".
Cercetare cu ajutorul unui joc
Studiul utilizează date colectate cu ajutorul unui joc original de antrenament pe internet numit „Text real sau fals".
Participanții au avut de identificat dacă un anumit text a fost redactat de inteligența artificială.
Toate exemplele erau prezentate ca fiind scrise de oameni. Iar participanților li se cere să marcheze unde cred că începe textul generat de AI.
„Metoda noastră nu numai că face activitatea să fie mai atractivă, ci oferă și un context mai realist pentru instruire", spune Dugan. „Textele generate, precum cele produse de ChatGPT, încep cu indicații furnizate de oameni.”
Acesta amintește că acum AI rar face greșeli gramaticale - spre deosebire de anii anteriori - și că de aceea ar fi important ca oamenii să continue să se antreneze în detectarea erorilor.
„Putem să ne antrenăm pentru a fi cititori și scriitori mai buni"
Din acest studiu reiese și că AI nu-i va înlocui prea curând pe autorii de ficțiune, de pildă.
Ippolito, unul dintre autorii studiului și cercetător științific la Google, a contribuit, de exemplu, la Wordcraft, instrument de scriere creativă AI dezvoltat cu scriitori publicați. Niciunul dintre scriitori sau cercetători nu a considerat că AI ar ajunge să redacteze precum un autor de ficțiune, dar cei mai mulți au concluzionat că poate sprijini procesul creativ.
„Aceste tehnologii sunt cele mai potrivite pentru scrierea creativă", spune Callison-Burch. La rândul său, Dugan completează: „Oamenii sunt fixați pe exemplele îngrijorătoare, cum ar fi plagiatul și știrile false, dar acum știm că putem să ne antrenăm pentru a fi cititori și scriitori mai buni.”
Sursă fotografie: Pixabay
