Uniunea Europeană riscă să reglementeze prea lent o generație de modele de inteligență artificială pe care nu o dezvoltă, dar de care depinde deja prin companii, cercetători, administrații publice și infrastructuri digitale. Un comentariu CEPS semnat de Francisco Ríos și Eduardo Brito avertizează că diferența de timp dintre apariția unui model AI proprietar foarte avansat și apariția unei versiuni similare open source poate fi de aproximativ șase luni, o fereastră scurtă în care Europa trebuie să pregătească apărarea cibernetică și aplicarea regulilor existente.
Pe scurt
-
CEPS avertizează că modelele AI capabile să execute sarcini avansate de securitate cibernetică pot ajunge rapid din laboratoare private în ecosistemul open source.
-
Autorii susțin că Uniunea Europeană consumă modele și infrastructuri AI construite în principal în Statele Unite și China, dar are puțină influență asupra modului în care acestea sunt lansate și distribuite.
-
AI Act acoperă modelele generale de inteligență artificială cu risc sistemic, inclusiv unele modele open source, dar aplicarea regulilor devine dificilă când modelele pot fi descărcate, copiate și redistribuite.
-
CEPS arată că platforme precum GitHub și Hugging Face au devenit infrastructuri de distribuție pentru modele AI, fără ca Europa să le trateze încă drept puncte de control reglementar.
-
Autorii spun că prioritatea nu este scrierea unei noi legi, ci construirea unei capacități europene reale de evaluare, monitorizare și aplicare a regulilor deja existente.
Comentariul pornește de la cazul unui model AI dezvoltat de Anthropic, Claude Mythos, pe care compania l-ar fi considerat suficient de riscant în materie de securitate cibernetică încât să nu îl lanseze public. Potrivit CEPS, modelul a fost oferit mai întâi unui grup restrâns de organizații mari, inclusiv Amazon, Apple, Nvidia și, ulterior, ENISA, în cadrul unei inițiative numite Project Glasswing.
Pentru cititorul neavizat, miza este simplă: un model AI foarte capabil în securitate cibernetică poate ajuta apărătorii să identifice vulnerabilități, dar poate ajuta și atacatorii să găsească, să automatizeze sau să repete atacuri. CEPS citează evaluarea UK AI Security Institute, potrivit căreia versiunea de test a modelului Mythos ar fi finalizat sarcini de securitate cibernetică la nivel de expert în peste 70% dintre cazuri.
Autorii spun că întrebarea importantă nu este doar dacă Anthropic a procedat corect prin limitarea accesului, ci dacă un asemenea comportament responsabil poate deveni regulă. Restricția voluntară funcționează doar cât timp niciun alt actor nu produce un model cu capacități similare și îl pune la dispoziție fără aceleași bariere.
CEPS descrie o comprimare rapidă a diferenței dintre modelele proprietare și cele open source. Potrivit comentariului, Stanford AI Index 2026 arată că cel mai bun model închis mai conduce cel mai bun model deschis cu doar 3,3% pe Arena Leaderboard, iar pe benchmark-ul Cybench rata de succes a agenților AI în sarcini de securitate cibernetică ar fi crescut de la 5% la 96% în aproximativ doi ani, fără a include Mythos.
Această evoluție contează pentru Europa deoarece modelele open source pot fi descărcate, copiate, modificate și redistribuite rapid. Dacă un model cu abilități avansate de atac cibernetic ajunge în format deschis, protecțiile introduse de dezvoltatorul inițial pot deveni irelevante, iar autoritățile pot pierde controlul asupra circulației efective a fișierelor.
Analiza indică și o problemă de dependență strategică. Modelele provin în mare parte din laboratoare americane și chineze, iar platformele prin care circulă, precum GitHub și Hugging Face, sunt infrastructuri ancorate în Statele Unite. În practică, companii europene, instituții publice și cercetători europeni folosesc deja această infrastructură, dar Uniunea Europeană are o influență limitată asupra deciziilor comerciale sau tehnice luate în afara sa.
CEPS atrage atenția asupra modelelor open source chineze, inclusiv DeepSeek, ca exemplu de competiție rapidă la costuri mai mici. Autorii susțin că aceste modele pot ajunge aproape de frontiera tehnologică, dar cu mecanisme de siguranță mai slabe și cu o capacitate redusă a autorităților occidentale de a impune corecții sau obligații.
AI Act oferă deja un cadru pentru o parte a problemei. Modelele generale de inteligență artificială open source beneficiază de anumite exceptări, dar aceste exceptări nu se aplică atunci când modelul este clasificat ca risc sistemic. În acest caz, obligațiile complete se aplică indiferent de tipul de licență.
Problema practică este aplicarea acestor reguli. CEPS arată că dezvoltatorii din afara Uniunii Europene trebuie să desemneze un reprezentant autorizat dacă introduc un model pe piața europeană, dar această cerință devine mult mai slabă când greutățile modelului circulă prin copii, oglinzi, torrente și depozite online.
Autorii invocă reacțiile europene după lansarea DeepSeek în ianuarie 2025 pentru a arăta cât de dificilă este aplicarea extraterritorială. Italia a interzis aplicația în 72 de ore, dar greutățile modelului au rămas disponibile pentru descărcare, inclusiv prin Hugging Face, ceea ce arată diferența dintre a bloca o aplicație și a controla un fișier care se propagă global.
Comentariul respinge ideea că soluția poate fi redusă la interdicții. Interzicerea unui model open source periculos pe piața UE înseamnă, în practică, încercarea de a impune o restricție de licență asupra unui fișier care poate circula în mai multe jurisdicții și prin infrastructuri descentralizate.
CEPS propune trei scenarii. În scenariul pesimist, convergența capabilităților avansează mai repede decât pot autoritățile să clasifice și să controleze modelele, iar o versiune open source cu puteri similare Mythos apare în circa 18 luni. Riscul nu ar fi neapărat un atac coordonat de stat, ci reducerea drastică a nivelului de expertiză necesar pentru atacuri cibernetice serioase împotriva Europei.
În scenariul neutru, dezvoltatorii open source adoptă treptat norme de lansare mai responsabile, sub presiunea reputației și a accesului la piață. În acest caz, rolul Uniunii Europene ar fi să influențeze aceste norme prin greutatea pieței sale și prin condițiile impuse actorilor care vor să opereze în spațiul european.
Scenariul optimist pornește de la ideea că decizia Anthropic de a nu lansa public modelul Mythos ar putea deveni un model de divulgare responsabilă pentru AI de frontieră. Capabilitățile periculoase ar fi puse mai întâi la dispoziția apărătorilor, înainte să ajungă la atacatori, iar fereastra de câteva luni dintre un model proprietar și echivalentul său open source ar deveni timp de pregătire pentru instituții, companii și echipe de securitate.
CEPS avertizează însă că această fereastră ajută doar dacă accesul nu rămâne limitat la marile companii tehnologice. În cazul Project Glasswing, accesul timpuriu a mers către Amazon, Apple și Nvidia, adică actori care au deja resursele pentru a fi prezenți în astfel de discuții. Pentru Europa, întrebarea este cum ajunge protecția și la instituții publice, companii mai mici, infrastructuri critice și centre de securitate care nu sunt automat invitate la masa marilor laboratoare.
Autorii spun că Uniunea Europeană nu își permite să trateze cazul Mythos ca pe o poveste americană. Dacă ENISA trebuie să ceară unei companii private americane acces pentru a evalua o amenințare relevantă pentru infrastructura europeană, atunci Europa nu modelează ecosistemul, ci așteaptă să fie lăsată să îl vadă.
Pentru CEPS, cheia este capacitatea de aplicare. AI Office trebuie să poată evalua intern capabilitățile ofensive de securitate cibernetică ale modelelor și să nu depindă doar de declarațiile dezvoltatorilor. În același timp, Uniunea Europeană ar trebui să trateze platformele de distribuție, precum GitHub și Hugging Face, ca puncte reale de control, deoarece prin ele trec fișierele pe care interdicțiile clasice nu le pot opri ușor.
Concluzia comentariului este că Uniunea Europeană nu are neapărat nevoie să scrie imediat o nouă lege, ci să facă regulile existente aplicabile în practică. Dacă modelele periculoase circulă prin platforme, depozite și copii descărcabile, reglementarea dezvoltatorilor nu mai este suficientă, iar controlul canalelor de distribuție devine una dintre puținele pârghii pe care Europa încă le poate folosi.