Comisia Europeană pregătește recomandări privind folosirea responsabilă a inteligenței artificiale în alegeri, ca parte a European Democracy Shield, pachetul prin care executivul european vrea să întărească democrația în fața manipulării informaționale, riscurilor digitale și presiunilor asupra proceselor electorale. Daniel Fleischer-Ambrus, reprezentant al DG JUST, a spus la un workshop STOA din Parlamentul European că AI poate crea amenințări pentru integritatea informației, dar poate avea și utilizări pozitive în administrarea și explicarea alegerilor.
Recomandările pregătite de Comisie ar urma să fie dezvoltate prin rețeaua europeană de cooperare în materie electorală, care reunește autoritățile statelor membre implicate în organizarea alegerilor. Fleischer-Ambrus a spus că noutatea adusă de European Democracy Shield este crearea unor fire de lucru dedicate, inclusiv unul privind folosirea responsabilă a AI în alegeri.
Pe scurt
-
Comisia Europeană lucrează la recomandări privind folosirea responsabilă a inteligenței artificiale în alegeri.
-
Inițiativa face parte din European Democracy Shield, comunicarea Comisiei și a Înaltului Reprezentant privind întărirea democrației.
-
Rețeaua europeană de cooperare în materie electorală, existentă din 2019, va fi folosită pentru discuțiile cu autoritățile naționale.
-
Comisia analizează atât riscurile AI pentru integritatea informației, cât și posibilele utilizări pozitive în procesele electorale.
-
Printre riscurile menționate în dezbatere se află deepfake-urile, manipularea informațională și folosirea AI împotriva candidaților sau reprezentanților aleși.
European Democracy Shield are trei direcții principale, potrivit explicațiilor date în Parlamentul European de Fleischer-Ambrus. Prima privește protejarea integrității spațiului informațional, a doua vizează instituțiile democratice, alegerile libere și corecte și presa independentă, iar a treia urmărește reziliența democratică a societății, inclusiv prin participarea cetățenilor.
În zona electorală, Comisia folosește rețeaua europeană de cooperare în materie de alegeri, creată în 2019, pentru dialogul cu autoritățile naționale. Fleischer-Ambrus a explicat că, la nivelul statelor membre, autoritățile implicate în organizarea alegerilor formează rețele naționale, iar o parte dintre reprezentanți sunt aduși la nivel european pentru cooperare și schimb de practici.
Recomandările privind AI în alegeri vor fi un instrument de tip soft law, nu o nouă lege europeană. Fleischer-Ambrus a spus că în unele domenii Uniunea Europeană dispune de instrumente legislative dure, iar în altele poate folosi instrumente mai flexibile, în completarea cadrului existent, inclusiv a AI Act.
Comisia a lansat, potrivit intervenției sale, un sondaj între aprilie și mai și a organizat focus grupuri pentru a alimenta lucrările privind această recomandare. Fleischer-Ambrus a spus că discuția trebuie purtată nu doar cu statele membre, ci și cu un cerc mai larg de actori implicați în procesele electorale și în tehnologiile digitale.
Miza nu este doar limitarea riscurilor. Fleischer-Ambrus a spus că AI este discutată frecvent ca amenințare pentru integritatea informației, dar că în domeniul electoral pot exista și utilizări pozitive, inclusiv pentru întărirea proceselor de numărare a voturilor sau pentru informarea alegătorilor.
Această parte este sensibilă, pentru că informarea alegătorilor prin AI poate crea și riscuri noi. Fleischer-Ambrus a menționat explicit scenariul în care boți bazați pe AI ar putea furniza informații electorale, o zonă în care Comisia lucrează împreună cu colegii din AI Office.
European Democracy Shield include și un fir de lucru privind siguranța candidaților politici și a reprezentanților aleși. Fleischer-Ambrus a spus că AI și deepfake-urile fac parte tot mai mult din această provocare, în condițiile în care instrumentele digitale pot fi folosite pentru intimidare, manipulare sau compromiterea actorilor politici.
Dezbaterea STOA a plasat această discuție într-un cadru mai larg despre democrația digitală. Brando Benifei, eurodeputat STOA și gazda workshopului, a spus că Uniunea Europeană trebuie să discute nu doar despre democratizarea tehnologiilor digitale, ci și despre „digitalizarea democrației”, adică modul în care AI și instrumentele digitale pot ajuta instituțiile să asculte mai bine cetățenii, să explice procesele publice și să creeze canale de participare fără a înlocui democrația reprezentativă.
Christian Ehler, președintele STOA, a atras atenția că problema nu este una ipotetică. El a spus că unele consultări online ale Comisiei au fost deja inundate de boți, iar instituțiile nu pot stabili întotdeauna dacă intervențiile vin de la cetățeni europeni reali sau de la boți străini, motivați de interese comerciale sau politice.
Gerasimos Mylonas, reprezentant al EU AI Office, a explicat în al doilea panel că AI Act nu menționează direct participarea civică, dar modelează spațiul public digital prin interdicții, clasificări de risc și articolul privind alfabetizarea AI. El a subliniat că alfabetizarea AI este deja aplicabilă și că Uniunea Europeană a ales să o includă în lege, nu doar într-o strategie sau într-o linie de finanțare.
Pentru alegeri, combinația dintre European Democracy Shield și AI Act creează un cadru în care Comisia încearcă să răspundă simultan la două realități. AI poate amplifica manipularea, deepfake-urile și atacurile asupra încrederii publice, dar poate fi folosită și pentru procese administrative mai eficiente și pentru acces mai bun la informații electorale, dacă există garanții, transparență și control uman.