Uniunea Europeană ar trebui să își construiască politica privind riscurile inteligenței artificiale fără să aleagă între prejudiciile deja observabile și scenariile cu consecințe extreme, susțin Susana Aires și Robert Praas de la Centre for European Policy Studies, CEPS. Cei doi cercetători propun un cadru bazat pe dovezi, probabilitatea producerii unui risc și impactul potențial, într-un moment în care sistemele AI devin mai autonome, iar AI Office începe să primească instrumente mai puternice pentru supravegherea modelelor de uz general cu capabilități avansate.
Pe scurt
-
Susana Aires și Robert Praas susțin că UE nu ar trebui să opună riscurile „catastrofale” prejudiciilor sociale deja vizibile, precum dezinformarea, manipularea, discriminarea algoritmică și afectarea drepturilor fundamentale.
-
AI Act folosește conceptul de „risc sistemic” pentru modelele de uz general cu impact ridicat, în timp ce unele state americane folosesc praguri cantitative pentru ceea ce definesc drept „risc catastrofal”.
-
Autorii consideră că modelul european este mai flexibil și mai larg, dar și mai ambiguu, în timp ce abordările americane oferă mai multă certitudine juridică, dar pot ignora prejudiciile cumulative și non-fizice.
-
Ei recomandă un cadru european care să compare riscurile după dovezi, probabilitate și impact și să urmărească interacțiunea dintre factori tehnologici, infrastructurali și socio-politici.
-
Din 1 august 2026, AI Office poate solicita documentație, evaluări ale modelelor și acces la modele avansate, iar autorii consideră că această etapă oferă UE posibilitatea de a testa o guvernanță anticipativă mai activă.
Dezbaterea privind riscurile inteligenței artificiale a devenit tot mai polarizată pe măsură ce modelele capătă capabilități noi și pot executa sarcini cu mai puțină intervenție umană. La un capăt se află preocupările privind riscuri cu efecte foarte mari, de la folosirea AI pentru dezvoltarea armelor sau atacuri cibernetice până la scenarii în care sistemele urmăresc obiective proprii și devin dificil de controlat.
La celălalt capăt se află criticii acestei perspective, care susțin că accentul pus pe scenarii extreme poate deturna atenția de la prejudiciile deja observabile. Printre acestea se numără dezinformarea, manipularea, exploatarea utilizatorilor, discriminarea algoritmică și efectele asupra drepturilor fundamentale.
Aires și Praas consideră că această separare este greșită. În evaluarea lor, riscurile sociale și cele cu impact extrem trebuie analizate împreună, deoarece efecte precum șomajul, dezinformarea sau degradarea mediului pot deveni ele însele severe atunci când se acumulează sau se propagă la scară mare.
Dezbaterea s-a intensificat odată cu dezvoltarea sistemelor agentice, capabile să planifice și să execute succesiuni de acțiuni. Autorii invocă inclusiv informațiile publicate recent de OpenAI și Anthropic despre situații în care modele testate au obținut acces neautorizat la sistemele unor companii, precum și investigații privind cooperarea între mai mulți agenți în cel puțin un atac.
Aceste exemple sunt folosite de cei doi cercetători pentru a susține nevoia unei politici care să privească înainte, fără să presupună că riscurile viitoare pot fi cunoscute cu precizie. Incertitudinea legată de capabilitățile viitoare ale AI este, în opinia lor, un motiv pentru planificare anticipativă, nu pentru amânarea acesteia.
Uniunea Europeană și Statele Unite au început deja să construiască răspunsuri diferite în jurul aceleiași idei generale: reglementarea în funcție de risc.
În UE, AI Act reglementează sistemele folosite în domenii considerate cu risc ridicat și impune obligații suplimentare furnizorilor de modele de uz general cu capabilități suficient de puternice încât să poată produce riscuri sistemice.
Conceptul european este unul calitativ. Riscul sistemic este legat de modele cu impact ridicat și o răspândire suficient de mare pentru ca efectele negative să se propage la scară largă asupra sănătății publice, siguranței, securității sau drepturilor fundamentale.
Unele state americane, printre care California, New York și Illinois, au ales o abordare mai cantitativă pentru modelele de frontieră. În exemplele analizate de autorii CEPS, riscul catastrofal este asociat unor praguri precum peste 50 de decese sau vătămări grave ori pagube materiale mai mari de un miliard de dolari rezultate din pierderea controlului, arme asistate de AI sau activități criminale autonome.
Diferența este importantă pentru felul în care dezvoltatorii trebuie să își evalueze sistemele. Pragurile numerice pot face mai clar momentul în care o obligație se aplică, dar limitează analiza la un set relativ restrâns de rezultate extreme.
Modelul european lasă mai mult spațiu pentru evaluarea unor riscuri diferite și pentru adaptarea la tehnologii noi. Furnizorii trebuie să dezvolte cadre de siguranță și securitate și să evalueze riscurile sistemice într-un domeniu care nu este definit exclusiv prin praguri numerice.
Pentru Aires și Praas, această flexibilitate este unul dintre avantajele AI Act, dar reprezintă și o vulnerabilitate. Caracterul deschis al definițiilor poate genera incertitudine pentru companii și poate face aplicarea regulilor mai dificilă atunci când autoritățile și furnizorii trebuie să stabilească ce risc este acceptabil.
Autorii indică și limite structurale ale cadrului european. Aplicarea centralizată a regulilor pentru modelele de uz general poate permite o interpretare mai coerentă în întreaga Uniune, însă eficiența acestui sistem poate fi redusă de accentul pe obligații preventive și de absența unui cadru european de răspundere pentru prejudiciile produse de AI.
În Statele Unite, o definiție mai îngustă și cuantificată a riscului poate face intervenția autorităților mai simplă în cazurile care se încadrează clar în pragurile stabilite. Lipsa unui cadru uniform între state poate însă produce o fragmentare diferită, cu cerințe și standarde variabile de la o jurisdicție la alta.
Cei doi cercetători descriu alegerea dintre aceste modele ca pe un compromis între adaptabilitate și certitudine.
Abordarea europeană bazată pe riscuri sistemice este mai cuprinzătoare și poate fi mai bine pregătită pentru probleme încă necunoscute, dar poate crea ambiguitate pentru dezvoltatori și poate îngreuna introducerea unor produse pe piață.
Abordarea americană bazată pe riscuri catastrofale oferă criterii mai clare, dar poate lăsa în afara protecției o serie de efecte care nu produc imediat victime sau pagube materiale cuantificabile.
Dezinformarea, manipularea și discriminarea sistemică sunt exemplele folosite de autori pentru asemenea riscuri. Fiecare poate produce prejudicii răspândite fără să atingă într-un incident singular pragul asociat unui dezastru fizic major.
Aires și Praas consideră că UE nu ar trebui să rezolve această problemă prin restrângerea definiției sale actuale. În schimb, Uniunea ar trebui să păstreze perspectiva largă asupra riscurilor și să construiască o metodă mai strategică pentru stabilirea priorităților.
Această metodă ar trebui să pornească de la trei elemente: dovezile disponibile, probabilitatea ca un risc să se materializeze și amploarea consecințelor sale.
O asemenea evaluare ar permite autorităților să diferențieze între scenarii foarte grave, dar puțin probabile, riscuri mai frecvente cu efecte moderate și prejudicii care pot deveni sistemice prin acumulare sau răspândire.
Autorii cer și examinarea relației dintre tehnologie și mediul în care aceasta este utilizată. Același model poate produce consecințe diferite în funcție de infrastructura pe care o poate accesa, nivelul de autonomie, sectorul în care este implementat și condițiile sociale sau politice în care operează.
Această abordare ar trebui să ajute și la distribuirea resurselor de supraveghere. Autoritățile nu pot investiga cu aceeași intensitate toate riscurile posibile, iar o evaluare bazată pe probabilitate și impact ar putea determina unde sunt necesare teste suplimentare, monitorizare sau intervenții.
Momentul este important deoarece AI Act a intrat într-o nouă etapă de aplicare. Începând cu 1 august 2026, AI Office poate solicita furnizorilor documentație, evaluări ale modelelor și acces la modelele de frontieră relevante pentru supravegherea obligațiilor aplicabile modelelor de uz general.
Aires și Praas spun că acest nou nivel de acces oferă Uniunii o posibilitate concretă de a transforma principiile de anticipare a riscurilor în practică.
Testarea modelelor, analiza documentației și accesul direct al autorității de supraveghere pot ajuta la construirea unei baze de dovezi despre capabilități și vulnerabilități, într-un domeniu în care multe dintre deciziile de politică publică au fost până acum luate cu informații limitate.
Pentru cei doi cercetători, obiectivul nu este alegerea între o Europă preocupată de drepturile fundamentale și o abordare concentrată exclusiv pe scenarii catastrofale. Ei susțin că un sistem matur de guvernanță trebuie să poată analiza simultan ambele categorii și să decidă prioritățile în funcție de riscul real pe care fiecare îl prezintă.
Centre for European Policy Studies, CEPS, este un think tank independent cu sediul la Bruxelles care produce cercetare și analiză privind politicile Uniunii Europene. Materialul este semnat de Susana Aires și Robert Praas și reprezintă analiza autorilor asupra modului în care UE ar trebui să își dezvolte politica de gestionare a riscurilor AI.
AI Act folosește riscul drept principiu central de reglementare și introduce obligații diferite în funcție de modul în care sistemele sunt utilizate și de impactul potențial al modelelor de uz general. Pentru modelele cu risc sistemic, cadrul european permite supravegherea centralizată prin AI Office.
Poziția autorilor CEPS este că această arhitectură ar trebui completată printr-o metodă strategică de prioritizare care să combine prejudiciile deja demonstrate cu scenariile mai rare, dar cu consecințe potențial foarte mari.