Inteligența artificială ascultă ce spun și îmi livrează reclame țintit? Răspunsul unei cercetătoare românce în Germania

Inteligența artificială ascultă ce spun și îmi livrează reclame țintit? Răspunsul unei cercetătoare românce în Germania

A fost a treia ediție a evenimentului „Care-i faza cu știința”, la Liceul Tehnologic Independența din județul Constanța. Letiția Pârcălăbescu, cercetătoare în inteligență artificială la Universitatea Heidelberg din Germania, s-a întâlnit online cu elevii și le-a răspuns la toate curiozitățile legate de aplicațiile pe care le folosesc. Au vrut să știe de ce ChatGPT nu spune adevărul, doar face fraze frumoase, despre furtul de date, cum au ajuns aplicațiile ca Snapchat să dialogheze și să pună întrebări „ca un om” și cât de aproape suntem de momentul în care roboții se vor întoarce împotriva omenirii, așa cum s-a întâmplat în filmul „Terminator”.

26.05.2023

de Andreea Archip Foto: Vlad Chirea

După ce a studiat Fizica și Informatica, Letiția Pârcălăbescu și-a început doctoratul la Universitatea Heidelberg. Cercetarea ei se concentrează pe rețele neuronale care învață să integreze limbajul cu văzul. Proiectul ei secundar se învârte în jurul canalului YouTube „AI Coffee Break with Letitia”, unde împreună cu animata „doamnă Coffee Bean” explică și vizualizează concepte din inteligența artificială.

Marți, 23 mai, a pus pentru o oră pe pauză transmisiunile pe YouTube, ca să se întâlnească cu elevii de la Liceul Tehnologic Independența, în format hibrid. Elevii de la postliceală și profesorii lor au avut tot felul de curiozități despre aplicațiile mobile pe care le folosesc, despre furtul de date și cum să se protejeze online.

Letiția Pârcălăbescu

- În ce aplicații se pot transpune lucrurile pe care le cercetați?

- O aplicație care se poate construi cu ceea ce fac eu este, spre exemplu, când cineva își ia telefonul și folosește camera pentru a vedea ce e în jur și telefonul începe să-i povestească ce vede. Acest lucru poate ajuta oamenii cu deficiențe de vedere pentru că pot pur și simplu să orienteze camera spre locul de interes și telefonul acela începe să le spună ce vede în jur.

Dacă ne gândim la mașini care se conduc singure, de exemplu, ele au camere și tot felul de senzori prin care privesc lumea. Dacă noi reușim să integrăm foarte bine imaginea cu textul, putem să îi spunem mașinii: „te rog parchează mai la dreapta, lângă acel om cu căciulă albastră, pentru că vreau să opresc să îl iau.”

Dacă veți căuta pe Google stable diffusion (aplicație web, n.r.) și scrieți un text, vă generează o imagine - o aplicație pe care nu mi-aș fi imaginat-o acum cinci ani.

„Nu am așteptarea ca ChatGPT să-mi răspundă corect”

- Eu am încercat ChatGPT într-un proiect și l-am întrebat inițial surse de poluare în municipiul Constanța și mi-a dat câteva exemple și apoi am întrebat care este gradul de poluare de la atomocentrala de la Cernavodă și mi-a scris că aceste date sunt confidențiale. Am observat că nu mi-a dat niciun procent și răspunsul era cu un spectru larg. De ce nu este exact?

- Când îl întreb pe ChatGPT ceva nici măcar nu am așteptarea să-mi răspundă corect pentru că nu a fost niciodată antrenat ca acele date pe care le spune să fie corecte.

OpenAI, cei care au creat acest program, vor să zică că „e super, folosiți-l”, ei sunt puși pe vânzare. Ar fi foarte important ca toată lumea să știe care a fost obiectivul în timpul antrenării ChatGPT.

Scopul lui nu a fost niciodată să facă ceva corect, scopul lui a fost să citească tot ce scrie pe internet, de la Wikipedia la Reddit, la Twitter, toate site-urile web, orice a fost publicat înainte de 2021. Obiectivul nu a fost să spună chestii adevărate.

Luăm o propoziție de pe internet și putem să-i ștergem ultimele trei cuvinte, la alegere, iar el este antrenat să completeze propozițiile: Ana are... mere, Gică are... pere.

Când aude Cernavodă, probabil se gândește la energie atomică, dar el nu se uită în date exact care este procentul de poluare, iar dacă pe undeva a dat de un procent de poluare, îl va asocia cu Cernavodă, dar e posibil ca acel număr să nu aibă nicio legătură. Pentru că el a fost antrenat doar să „rimeze” un text, să asocieze cuvinte într-o formă care să aibă sens, dar nu a avut niciodată obiectivul de „corect/fals”.

E ca un om carismatic căruia îi place să vorbească, sună bine ce spune, dar nu e neapărat corect ce spune.

elevi Independența

- Vom ajunge în punctul în care ne va controla inteligența artificială?

- Dacă o lăsăm să ne controleze, ne va controla, putem să-i lăsăm hățurile și-o să ne ducă de râpă, dar momentan, AI nu este deloc în stare să ne controleze. Trebuie să ne întrebăm ce înseamnă controlat.

Dacă stăm să ne gândim, ne controlează și acum când stăm pe tot felul de platforme și primim reclame în funcție de locurile pe care le-am vizitat, lucrurile care ne interesează și dacă asta ne influențează următoarea cumpărătură pe care o facem, putem spune că ne controlează.

Dar cine ne controlează este cel care a programat inteligența artificială și o pune la noi pe site, e vorba de oamenii și companiile din spatele AI. Dacă ne gândim la scenariile de filme, suntem foarte departe de chestia asta.

Poate aveți și voi profesori sau șefi mai inteligenți ca voi, este normal, sau voi câteodată sunteți mai inteligenți ca profesorii sau șefii voștri. Mă refer la inteligență, nu la experiență acum. Asta nu înseamnă că voi îi controlați. 

Nu neapărat cel care e cel mai inteligent te și controlează. În mod normal, distribuirea de putere se face mai complex, cu reguli, cu hățuri și cu diferite feluri de comportament. Chiar dacă sunteți mai inteligenți cu profesorii voștri, n-o să vă apucați să vă comportați negativ și să încercați să-i controlați pentru că există acel respect.

Există bineînțeles această întrebare, ce vom face când se va ajunge ca AI să fie mult mai inteligentă ca noi? Pe unele aspecte este deja mai inteligentă ca noi, poate juca mai bine șah ca noi și acel joc Go, poate să rezolve anumite probleme de știință, ajută în cercetare în locuri în care oamenii sunt limitați, fiindcă noi avem o memorie limitată. 

- Ar exista posibilitatea unui scenariu de „Terminator” în care Skynet, acea rețea globală, pusese stăpânire pe arme și pe internet și toate mașinile s-au întors împotriva omenirii?

- Aș spune că va mai dura foarte foarte mulți ani pentru că ce asumă acel film este că noi vom crea o rețea care are o cheie și dacă controlăm acea cheie putem să manipulăm tot sistemul și să îl întoarcem împotriva cuiva. Cumva, această ipoteză spune că există un singur buton care controlează dacă ceva e de o parte sau de alta. Eu nu am încredere în omenire că ne vom organiza vreodată într-un fel atât de uniform.

Internetul e o rețea de care mă minunez zilnic că funcționează pentru că sunt literalmente niște cabluri legate între ele. Dar internetul este foarte nestructurat, s-au legat niște cabluri, apoi s-au mai adăugat altele, apoi s-a pus un cablu transatlantic, dar dacă cade un cablu, nu cade tot. Nu e ca un pom, dacă tăiem trunchiul, tăiem și accesul la apă al frunzelor. Nu. În cazul internetului, dacă tăiem o parte, restul bestiei continuă să existe. Mereu se strică noduri de conectare, dar informația mereu poate să găsească alte rute pentru că nu sunt controlate de cineva, de un stat sau de o persoană. Statele pot doar să reglementeze ce date se trimit, ce am voie să trimit, dar nu mai mult.

Deci nu există o cheie a internetului și cineva care ar putea să o aibă și să controleze totul. Este atât de neorganizat, de organic totul încât nu poți să-l controlezi. Avem sisteme politice diferite, țări cu regulile lor, culturi cu normele lor, eu nu cred că se va uniformiza curând toată lumea așa încât să creăm un Skynet cu acces la el. Pentru că nu ne-am organiza niciodată atât de bine, oamenii sunt foarte dezorganizați și haotici.

elevi Independenta Constanta

„Noi, oamenii, avem această predilecție spre a găsi patternuri unde nu există”

- Ați sesizat că, dacă vorbim acum despre un produs, imediat ce deschidem telefonul, apare o reclamă. Uneori îți apare exact la ce te gândești. Marile companii ne ascultă ca să ne vândă lucruri?

- Este greu de știut, deoarece companiile nu recunosc și au foarte mare interes să nu spună, dar ideea este că nici măcar nu trebuie să spună anumite lucruri ca să-și dea seama un algoritm că noi vrem o anumită chestie. Cum există acei oameni care sunt mai buni la a citi dacă un om minte sau nu, uitându-se la niște detalii la care noi nu ne uităm: cum își mișcă mâinile, cum privește, lucruri mici, dar care spun că minte.

La fel sunt tot felul de lucruri care pot să dea unui algoritm informația că noi vrem un anumit lucru. De exemplu, eu mi-am dus mașina la inspecția tehnică acum doi ani, am fost pe un site web al locului de inspecție, am scris probabil anumite mailuri și am uitat complet că acum doi ani am făcut asta. Apoi, parcă îmi amintesc că se apropie vremea de inspecție tehnică și chiar atunci încep să primesc reclame să mă duc la inspecție.

Faptul că eu acum m-am gândit la inspecția tehnică e doar o coincidență pentru că algoritmul știa datele de acum doi ani că iar vine vremea inspecției. Acest atribut că un lucru trebuie reînnoit după o anumită perioadă de timp este bine memorat de un algoritm. Dacă ți-ai cumpărat acum un an sandale vara, probabil vei vrea sandale și acum și îți dă această idee simultan cu gândul tău.

Noi, oamenii, avem psihologic această predilecție spre a găsi patternuri unde ele nu există. Dacă eu, spre exemplu, mă gândesc la ceva și la alta și la alta, dar apoi m-am gândit fix la aceeași chestie cu colegul meu, zic: wow, suntem suflete pereche! La fel cu reclamele, ne gândim la multe lucruri, ne vin multe reclame, nu le băgăm în seamă, dar apoi vine acea reclamă la care noi tocmai ne-am gândit: wow, îmi citește gândurile, ascultă ce vorbesc! Noi înregistrăm aceste fapte cu mai multă predilecție și le memorăm și avem impresia că ne citește gândurile, dar nu numărăm de câte ori nu ni le citește.

Sunt doi factori aici: această predilecție umană spre a număra lucrurile când se întâmplă mai mult decât când nu se întâmplă, coincidențele, și doi, algoritmii care detectează tot felul de dorințe din comportament și rețin anumite lucruri periodice și ne vor da înainte de împlinirea termenului această sugestie: ți s-au stricat sandalele, poate vrei unele noi.

„Datele sunt bani și nimeni nu vrea să șteargă bani”

- Când ne instalăm aplicații, ni se cere permisiunea să ni se înregistreze vocea, să se acceseze imaginile. Când nu permiți, nu mai poți să instalezi aplicația sau nu funcționează cum trebuie. Deci suntem obligați să fim și înregistrați. Pe Tik Tok îmi arăta niște conturi ale elevilor care aveau legătură cu agenda mea telefonică. De ce se întâmplă asta?

- Dacă pe WhatsApp vreau să trimit un mesaj vocal, trebuie să-i dau acces aplicației la microfonul meu din telefon, dar asta nu înseamnă că ascultă mereu ce zic. Este foarte bine punctat că noi acceptăm o grămadă de chestii, îi spunem aplicației să ne acceseze și sufletul, dar acesta este de fapt un comerț la care noi spunem „da”. Că altfel Facebook, Whatsapp, Instagram, Tik Tok sunt gratis, dar de fapt nu este nimic gratis și noi plătim accesul gratuit la aceste funcții prin datele noastre.

Am dat like la o chestie, ne-am uitat două secunde la un video, deci nu ne-a interesat tema, și ne-am uitat o grămadă la poze cu cai, deci probabil îmi plac caii - sunt niște inferențe pe care le face un algoritm pentru că eu i-am dat acces la date. Dacă îmi plac caii, o să-mi dea poze cu cai, dar și reclame cu hățuri noi pentru cal, poate vreau o șa. Aceste preferințe sunt de ajutor pentru a-mi da videouri și poze interesante, dar și reclame interesante. Vânzătorii de șei de cai plătesc foarte bine această plasare de reclamă. Deci nu sunt gratis aceste aplicații, ci le cumpărăm cu acordul de a le da datele noastre pe baza cărora ne dau reclame și ei primesc bani de la cei care plătesc să plaseze reclamă.

Datele sunt o monedă foarte dorită și se întâmplă mult comerț în moneda date, nu atât de mult ca în moneda euro sau dolar.

„Nu vorbim cu toată lumea de pe net, cum nu vorbim cu toți oamenii din autobuz”

- În momentul în care ne ștergem contul, datele rămân în memorie?

- Depinde. În general, da, sunt stocate. De ce ar depune cineva efortul să șteargă bani? Datele sunt bani. Dar ceea ce se întâmplă bine în UE – în SUA e mai Vestul Sălbatic- este că se depune efort să facă anumite reguli. De pildă, dacă Facebook vrea să funcționeze pe teritoriul UE, trebuie să-i dea fiecărui utilizator opțiunea să-și șteargă datele.

Anumite firme fac asta, însă complicat: de ce să faci asta printr-un singur buton, mai bine scrii un mail, dar de ce să scrii un mail când e mai bine să scrii o scrisoare de mână?

UE se luptă să dea oamenilor opțiunea ca orice date să poată fi șterse și trebuie să le șteargă, dar firmele pot să-ți îngreuneze acest demers.

- Foarte mulți dintre elevi au primit mesaje, poate chiar de la roboți. De unde își pot da ei seama, ce unealtă au la dispoziție să știe că mesajul este adevărat sau înșelător?

- Devin din ce în ce mai convingătoare pentru că una e să primesc mailuri de la prințul Nigeriei decât de la PayPal sau Amazon. Sunt oameni care copiază felul în care Amazon scrie mesajele. Trebuie să fim foarte atenți și să ne educăm.

La fel cum nu credem tot ce zice cineva, la fel trebuie să ne uităm la lucruri în spațiul virtual. Când vine un email e important să ne uităm de la cine vine, nu doar la numele persoanei, ci și adresa de email. Dacă este de la Amazon, se va termina cu @amazon.com și adresa de email este de la companie și se vede asta. Dacă e cineva care doar imită Amazon va fi @oricealtcevașinuamazon, tot felul de chestii inventate.

Pur și simplu, regula numărul 1 este să nu vorbim cu persoane necunoscute. Mama mi-a spus când eram mică să nu nu vorbesc cu necunoscuții. La fel și pe internet.

elevi

- Snapchat îți pune și el întrebări și îți cere poze. Te întreabă cum a fost ziua ta sau îți cere o poză cu tine. Mi se pare suspect...

- Uneori îmi cer și mie, dar nu le dau. Câteodată nici nu sunt roboți, sunt chiar oameni care își fac un hobby din a primi nuduri, alții au jobul ăsta de a vorbi cu tine până le dai bani.

Nu există o aplicație care să le aibă pe toate. Am pur și simplu grijă când primesc mesaje de la oameni necunoscuți să vorbesc doar când văd că cineva este bine intenționat.

Dacă văd că o invitație este prea vagă și ar putea fi adresată oricui, nu intru în conversație. Am un timp limitat de viață și nu trebuie să mă bag în toate conversațiile din online, la fel cum nu ne băgăm în seamă cu toată lumea din autobuz.

Citiți și: 
„Suntem deja un fel de cyborg.” Tehnologiile lui Elon Musk și creierul lui Lionel Messi, explicate de un cercetător de la Cambridge
Fizica din „Interstellar” și din poezia lui Eminescu, explicată de cercetătorul Cristian Presură elevilor vasluieni din Puiești

 

Andreea Archip

editor coordonator

A terminat Facultatea de Jurnalism la Iași. Până la Școala 9, în cei 18 ani de presă, a fost redactor-șef la „Opinia Studențească”, a fost reporter la Evenimentul Zilei, Adevărul, TVR - Departamentul Știri, Digi 24 și Libertatea. 

CUVINTE-CHEIE

letitia parcalabescu, ai, inteligenta artificiala, chat gpt

Utilizăm cookie-uri și alte tehnologii similare necesare funcționării site-ului, analizării performanței, pentru a-ți oferi conținut personalizat după interese și preferințe, precum și pentru activitatea noastră de publicitate online. Detalii despre despre cookie-uri și gestionarea lor in Politica de Cookies
Accept toate cookie-urile