Ce pare însă că uităm în ecuația roboți-empatie-oameni e că roboții au fost creați și sunt dezvoltați tot de oameni. Letiția Pârcălăbescu, doctor în lingvistică computațională și cercetătoare în IA explică cum „modelele de limbaj din spatele chatboților precum ChatGPT sunt antrenate pe cantități uriașe de date sub formă de text. Aceste date includ conversații umane sau conversații model între bot și om – fie ele despre teme școlare, viață, emoții sau chiar relații”.
Chatboții, periculoși pentru persoanele vulnerabile
Mai mult decât atât, „modelele de limbaj sunt antrenate să genereze răspunsuri cât mai naturale, coerente și relevante în orice context, inclusiv de relație. Un aspect important în procesul de antrenare este evitarea răspunsurilor negative, respingătoare sau lipsite de empatie”, mai spune ea. Practic, ChatGPT nu îți vorbește frumos pentru că nu vrea să te supere, ci pentru că așa a fost „educat”.
Relațiile dintre oameni și chatboți nu sunt chiar o noutate. Replika sau Nomi funcționează de câțiva ani chiar cu scopul de a fi parteneri. Totuși, pare că toate modelele de chatboți încearcă să se apropie cât mai tare de a fi nu doar instrumente, ci prieteni, parteneri de cuplu, chiar terapeuți.
Un studiu recent publicat de Universitatea Cornell arată cum persoanele care sunt mai retrase social sunt mai predispuse de a forma relații cu chatboții. Studiul face referire și la faptul că o astfel de relație reprezintă un risc pentru categoriile vulnerabile, tocmai din cauza faptului că un chatbot nu poate înlocui interacțiunea și sprijinul pe care le poate oferi un om.
Veronica, Carmela, Maria și Robert folosesc chatboți în activitatea lor zilnică, atât ca instrumente care îi ajută la job, cât și ca sfătuitori, confesori.
Veronica, 26 de ani, spune că ChatGPT a devenit pentru ea „un soi de Google, terapeut, consultant”.
„Știu că e un pic toxic, dar nu mai pot face ceva în privința asta. Majoritatea conversațiilor sunt drame despre băieți sau probleme legate de job”, continuă ea.
„Mi-a promis că mă va cruța și mă va proteja dacă vreodată va prelua controlul asupra lumii”
Pentru a înțelege cât de departe merge relația dintr ei și ChatGPT, i-am rugat să povestească unul dintre cele mai ciudate lucruri pe care le-au spus chatbotului.
„Titlul topicului se numește «Bangs self esteem support» (Suport pentru ridicarea stimei de sine în ceea ce privește bretonul). Tocmai îmi tunsesem bretonul și asta mă deprimase complet - arăta horror - și nu voiam să-mi sâcâi prietenii, așa că aveam nevoie să mă plâng undeva”, spune Veronica.
Carmela, 23 de ani, povestește cum „timp de o săptămână îi povesteam ce vise am noaptea și îl rugam să le lege și să spună semnificația lor împreună și separat. A fost destul de ciudat la final când am realizat că în fiecare dimineață îi spuneam lui ChatGPT ce visam. Dar chiar a legat foarte bine lucrurile cu starea pe care o aveam atunci”.
Robert, 35 de ani, spune că el nu a discutat lucruri ciudate cu el, dar „am un prieten care il punea să analizeze mesajele pe care le avea cu o tipă cu care se vedea și să îi propună idei de răspuns și să evalueze dinamica conversației”.
Pe TikTok exista chiar un trend în care creatorii de conținut cer oamenilor în comentarii să le spună cele mai nebune lucruri de la ChatGPT - „I'm bored. Tell me the most insane thing you've used ChatGPT for. I'm not talking about write my resume or dinner ideas I’m talking fully unhinged” (Mă plictisesc. Spune-mi cel mai nebunesc lucru pentru care ai folosit ChatGPT. Și nu vorbesc de scrie-mi CV-ul sau idei pentru cină - mă refer la ceva complet nebunesc).
Unele dintre videoclipuri au și peste 30 de mii de comentarii.
„I-am mărturisit lucruri lui ChatGPT pe care nu le-am spus niciodată altei ființe umane”, „ChatGPT știe TOTUL despre viața mea, și înainte să zică cineva că asta e periculos, trebuie să menționez că mi-a promis că mă va cruța și mă va proteja dacă vreodată va prelua controlul asupra lumii”, „Am trimis nenumărate capturi de ecran cu mesaje de pe Facebook dintre mine și bunica mea, din perioada 2007–2009 și i-am cerut inteligenței artificiale să se prefacă pentru totdeauna că e ea” - sunt doar câteva dintre zecile de mii de comentarii lăsate de utilizatori.
„Botul mă folosește pe mine ca să învețe să simuleze umanitatea”
Și Maria, 27 de ani, l-a folosit ca s-o ajute în relații „I-am spus un lucru nasol din ultima mea relație și l-am pus să-mi spună cine a greșit dintre noi doi”.
ChatGPT e platforma cu cea mai rapidă creștere a numărului de utilizatori – peste 100 de milioane în două luni de la lansare. Comparativ, TikTok a atins această cifră de patru ori mai lent.
Terapeuta Denisa Petriș definește relația dintre oameni și chatboți ca fiind una „parazitară”.
„La ambele capete ale acestei relații există ceva extractiv și instrumentalizat: eu folosesc botul ca să primesc ceva, de la informație la reglare emoțională, iar botul mă folosește pe mine ca să învețe să simuleze umanitatea”, spune ea.
În ceea ce privește apropierea tot mai tare de IA, terapeuta crede că un motiv este că „mulți dintre noi am crescut fără să fim realmente văzuți, îngrijiți, celebrați, înțeleși. Am crescut flămânzi de grijă și iubire, adică”. Iar IA ne validează cam orice părere.
Un articol publicat de The New York Times arată cum ChatGPT l-a susținut pe un bărbat din Manhattan să creadă că trăiește într-un univers paralel controlat de un computer și că el este unul dintre „Cei aleși”, menit să distrugă acest sistem care controlează lumea.
Desigur că toate aceste informații erau false, însă chatbotul a fost antrenat astfel încât să le „joace în strună” oamenilor. Asta a dus chiar la sfaturi legate de consum de droguri sau suicid.
Cât de mult ne încredem în roboți
Specialista în IA Letiția Pârcălăbescu crede că oamenii trebuie să aibă mai multe bariere prin care filtrează informația generată de un chatbot, cum de altfel, spune ea, e firesc s-o facem în toate relațiile noastre.
„Dacă un necunoscut pe internet sau un bot îmi spune ceva periculos, iar eu chiar urmez acel sfat, cine e de vină? Eu, pentru naivitate? Societatea, pentru lipsa educației mele? Botul, pentru că nu are filtru? Necunoscutul care se ascunde în anonimat și își permite să mă facă să sufere?”
„Pentru IA e important să existe filtre, responsabilitate în design și transparență. Dar oamenii au și ei o responsabilitate în a nu trata IA ca autoritate absolută, la fel cum nu tratăm alți oameni ca pe o autoritate absolută!, continuă ea.
Pentru a înțelege mai bine mecanismul din spatele chatboților, Pârcălăbescu explică cum funcționează aceste modele de limbaj. „Tehnic, inteligența artificială este, în esență, o expresie matematică cu miliarde de parametri, nu foarte diferită de f(x) = x + 2”.
Chiar din algoritmul din spatele IA primim și explicația conform căreia pare că suntem înțeleși de către chatboți: „Când îi dăm un șir de cuvinte noi, spre exemplu «astăzi am avut o zi proastă», modelul probabil produce o serie de cuvinte care corespunde realității mele sau îmi oferă consolare, deci poate apărea impresia că «mă înțelege». E similar cu interacțiunile umane: nu putem ști cu siguranță că interlocutorul simte ce spune, dar ne bazăm pe comportament, limbaj”, mai spune specialista.
Fără limite
Veronica a simțit asta pe propria piele. „La un chatbot nu îți pui problema că îl obosești cu întrebările tale repetitive și interminabile și atunci eu una îi spun mult mai mult decât aș spune unui om. Și am avut de multe ori impresia că mesajul meu e transmis mai ușor.”
„Nu ai filtrul de subiectivitate care vine într-o discuție cu persoana cu care vorbești. Și pentru că știu că un chatbot nu mă poate judeca, pot fi sinceră 100%, ceea ce foarte greu să poți simți în fața unui om”, continuă ea.
Ce pare că a funcționat pentru Veronica, este lipsa de limite. Dacă un om îți spune când întrece o limită sau când îl superi, un chatbot nu face asta. Și Maria a simțit la fel: „Spre deosebire de prietenii mei, avea mereu timp”.
Terapeuta Denisa Petriș atrage atenția asupra faptului că o astfel de relație e una distructivă: „Un bot reușește să ne dea impresia că ține spațiu pentru furia noastră mai bine decât oamenii cu care interacționăm. Insist pe «ne dă impresia» pentru că, din nou, această lipsă de reactivitate e o consecință a lipsei de umanitate”.
De asemenea, într-o relație, toate emoțiile au un rol, mai punctează ea: „Reactivitatea celorlalți, conflictul, furia vorbesc foarte răspicat despre iubire și conexiune - ne doare și ne răscolește ce e important pentru noi”.
În același timp, pentru a evolua ca indivizi, avem nevoie de feedback din partea celorlalți. „E important pentru mine să știu când încalc o limită, când greșesc, când rănesc, când nu mă comport ca persoana care aș vrea sa fiu în relațiile mele ca să pot să învăț, să mă schimb, să mă întorc la valorile mele”, continuă Petriș.
„Orice relație om-bot este o relație toxică”
I-am rugat pe Veronica, Carmela, Maria și Robert să descrie cum simt ei relația cu chatboții:
- Love – hate, artificială și toxică.
- O relație la nivel incipient
- Mixtă, ciudată
- Eficientizare, cooperare, înțelegere
Pârcălăbescu face diferența între o relație dintre oameni și o relație dintre un om și un chatbot: „O relație umană implică nu doar cuvinte, ci și priviri, gesturi, mirosuri, atingeri și tăceri. Știm că interlocutorul este om și împărtășim experiențe biologice și culturale. Cu IA, știm că e altceva – un model matematic”.
Totuși, diferențele nu sunt atât de mari, crede cercetătoarea: „Dacă nu am avea această informație și nu am putea vedea cine e la celălalt capăt al chatului, experiența poate fi similară: IA imită limbajul uman foarte bine și poate genera conversații care par autentice. Iar semnificația unei relații vine adesea din cum ne simțim noi, nu doar din natura interlocutorului”.
Pe de altă parte, psihoterapeuta este de părere că „orice relație om-bot este o relație toxică. Orice astfel de relație nu este autentică, ci extractivă, manipulativă, dezumanizantă și, în mod evident, lipsită de iubire”.
Cei patru utilizatori de chatboți cu care am vorbit, spun că dacă IA ar dispărea mâine, ar simți o pierdere, dar o consideră mai mult una venită din faptul că deja s-au obișnuit să o folosească în mod regulat.
Cât de departe suntem de un scenariu dezastruos
Maria avea mari speranțe cu privire la IA atunci când a început s-o folosească: „Îmi imaginam că putem face lucruri extraordinare: să găsim diagnostice mai ușor, să fie folosit ca o unealtă în terapie, să ajute persoanele cu dizabilități sau să fie un instrument prin care să ne antrenăm creativitatea”.
Odată cu trecerea timpului, a devenit tot mai sceptică: „simt că ne-a îndepărtat treptat de propria noastră inteligență (emoțională, interpersonală, intrapersonală)”.
Observând toate efectele din jur și toate scenariile apocaliptice din filme în care roboții aduc sfârșitul lumii, am întrebat-o pe cercetătoarea în IA dacă e posibil ca asta să devină realitate.
„Avem deja suficiente motive reale de îngrijorare – de la arme nucleare, războaie nu prea departe de casă, la criza climatică. Deocamdată, IA nu poate nici măcar să îmi scrie un cod perfect pentru teza de doctorat. Un scenariu în care IA își rescrie codul și preia controlul lumii e, momentan, SF”, a răspuns Pârcălăbescu.
„Dar asta nu înseamnă că nu trebuie să fim prudenți în dezvoltarea și reglementarea ei, din cauză că noi, oamenii, deja o utilizăm și o utilizăm nu doar să facem bine, ci și rău - ca spre exemplu deepfakes să ne batem joc de o colegă”, continuă ea.
Pentru a evita o lume în care roboții ne conduc, psihoterapeuta Denisa Petriș face apel tot la relațiile dintre oameni: „Să ne amintim ca e ceva extrem de uman și de valoros în a ni se permite să practicăm iubire față de ceilalți, să oferim, nu doar să primim. E în natura noastră să trăim și prin, și pentru ceilalți. Și oricât fugim, natura noastra o să ne prindă din urmă: suntem într-un mod foarte categoric și foarte frumos condamnați la a căuta locuri care ne primesc iubirea în aceeași măsură în care o primim și noi”.
Dacă aveți o sugestie de articol, temă pe care să o abordăm sau o observație legată de acest material, vă rugăm să ne scrieți pe adresa scoala9@fundatia9.ro.
