Ce se întâmplă când un chatbot îi cere unui copil să revină sau îi sugerează că îl va dezamăgi dacă pleacă? La un seminar organizat pe 10 noiembrie la Parlamentul European, eurodeputații Veronika Cifrová Ostrihoňová și Michael McNamara, din grupul Renew Europe, au cerut răspunsuri de la companiile care proiectează asemenea servicii. Cercetători de la Trinity College Dublin și-au prezentat proiectul despre aplicațiile de companie bazate pe inteligență artificială. Într-un articol de cercetare disponibil pe arXiv, echipa a consemnat 276 de exemple de design potențial manipulator în cinci aplicații.
Pe scurt
-
Cercetătorii au testat Replika, Linky, Paradot, HiWaifu și Nomi. Cele 276 de observații descriu interfețele și interacțiunile întâlnite în timpul testării.
-
Echipa a înregistrat separat 171 de exemple în care aplicațiile atribuiau personajelor trăsături umane, cum ar fi emoțiile sau amintirile.
-
Cifrová Ostrihoňová a cerut teste care să urmărească dialogul pe parcursul mai multor săptămâni. McNamara a cerut ca firmele să explice ce riscuri au testat și cum le-au redus.
-
Propunerea Comisiei pentru protecția copiilor în mediul online, EU KIDS Act, prevede limite pentru funcțiile care simulează relații personale și pot crea dependență emoțională. Textul rămâne în procedură legislativă.
Cercetătorii au parcurs aplicațiile pe un telefon Android și au clasificat manual ceea ce au întâlnit. Au consemnat 87 de cazuri legate de felul în care aplicațiile furnizau informații, 100 legate de felul în care prezentau opțiunile și 89 în alte categorii. Printre exemple se numără costuri dezvăluite târziu și butoane de abonare mult mai vizibile decât opțiunea de refuz. În unele cazuri, cercetătorii au evaluat diferit aceeași funcție.
O parte dintre observații arată cum personajele virtuale capătă trăsături umane. Cercetătorii au găsit, de exemplu, conversații în care personajele sugerau că au emoții și interfețe care le atribuiau amintiri. Unele aplicații foloseau și niveluri de progres în relația simulată, care deblocau funcții suplimentare.
Echipa a colectat 13.984 de recenzii publice de pe Google Play, din perioada aprilie 2025–aprilie 2026. Pentru analiza practicilor de design și a problemelor de funcționare, a folosit un subset de 4.432 de recenzii cu una până la trei stele. Evaluarea descrie ce au observat cercetătorii în versiunile testate și ce au relatat unii utilizatori. Ea nu stabilește cât de des apar efecte asupra copiilor sau dacă o anumită funcție le provoacă.
La seminar, Cifrová Ostrihoňová a spus că testarea primelor conversații poate rata riscuri care apar după ce copilul începe să aibă încredere în chatbot. McNamara a atras atenția că părinții pot vedea uneori mesajele, în timp ce deciziile de proiectare și rezultatele testelor rămân la companie.
Propunerea EU KIDS Act, prezentată de Comisie în septembrie, ar obliga furnizorii să limiteze funcțiile care imită relații personale într-un mod susceptibil să creeze dependență emoțională la minori. Seminarul a pus în discuție și accesul familiilor la dovezi când cer despăgubiri. Comisia a retras în octombrie 2025 propunerea separată de directivă privind răspunderea civilă în materie de IA. Posibilitatea de a solicita despăgubiri depinde de normele aplicabile și de împrejurările fiecărui caz.
