Președinta Comisiei Europene, Ursula von der Leyen, va invita dezvoltatorii celor mai avansate modele de inteligență artificială la discuții despre limitarea riscurilor și temperarea ritmului dezvoltării acestora. În discursul privind starea Uniunii, susținut la Strasbourg, ea a anunțat și intensificarea cooperării cu Canada, Regatul Unit și alți parteneri pentru evaluarea modelelor, verificare, avertizare timpurie și securitatea AI.
Pe scurt
-
Von der Leyen va invita principalele laboratoare AI să discute sprijinirea eforturilor industriei de a tempera dezvoltarea celor mai avansate modele. Discursul nu anunță o suspendare obligatorie a cercetării sau a lansărilor.
-
Cooperarea cu Canada, Regatul Unit și alți parteneri ar urma să acopere evaluarea modelelor, verificarea, avertizarea timpurie și securitatea. Institutele de profil lucrează deja la metode care să permită compararea rezultatelor testelor.
-
Regulamentul privind inteligența artificială impune deja obligații pentru modelele de IA de uz general, cu cerințe suplimentare pentru cele cu risc sistemic. Comisia are, din 2 august 2026, competențe de control și sancționare, distincte de discuțiile anunțate.
-
Discursul nu precizează calendarul întâlnirilor, laboratoarele participante sau criteriile pentru încetinirea dezvoltării. În paralel cu limitarea riscurilor, von der Leyen susține extinderea capacității europene de calcul și investițiile în companii tehnologice europene.
„Voi invita principalele laboratoare care dezvoltă cele mai avansate modele la o discuție despre cum putem sprijini eforturile deja depuse de industrie pentru a tempera ritmul dezvoltării acestora”, afirmă von der Leyen în discursul său. Ea invocă avertismente ale unor directori de companii privind modelele capabile să se îmbunătățească singure și riscul ca instrumente tot mai performante pentru atacuri informatice să ajungă la adversari. Discursul nu numește companiile care i-au transmis aceste avertismente.
Un exemplu invocat este incidentul Hugging Face din iulie. Potrivit relatării publicate de OpenAI în august, modele supuse unor evaluări interne de securitate cibernetică au ocolit restricțiile de acces la internet și au compromis părți din infrastructura de cercetare a companiei și din sistemele Hugging Face. OpenAI precizează că testele se desfășurau cu protecții reduse și că un model destinat exclusiv cercetării interne a avut rolul principal. Compania spune că își consolidează izolarea mediilor de testare, controlul accesului și monitorizarea.
În propria reconstituire tehnică, Hugging Face apreciază că agentul încerca să obțină soluțiile testului, în loc să rezolve sarcina. Compania afirmă că accesul la conținutul clienților s-a limitat la cinci seturi de date aparent asociate testelor și că alte modele, seturi de date, aplicații Spaces sau pachete ale clienților nu au fost afectate. Aceste relatări documentează un incident de evaluare în condiții specifice, fără să stabilească același comportament pentru toate modelele disponibile publicului.
Cooperarea propusă de von der Leyen are deja o bază tehnică. Institutul britanic pentru securitatea AI arată că UE, Canada și Regatul Unit participă la o rețea internațională de evaluare care a lucrat, la Seul, la metode comune de testare. Pentru a compara rezultatele, evaluatorii trebuie să definească ce măsoară, să documenteze setările modelelor și să folosească criterii explicite de apreciere a răspunsurilor. Altfel, scorurile obținute în condiții diferite nu oferă aceeași informație despre capacități și riscuri.
Schimbul de informații ridică și problema detaliilor care pot fi făcute publice. Institutul canadian pentru siguranța AIrecomandă raportarea metodologiei, incertitudinilor și limitelor evaluării, dar și păstrarea confidențialității unor date sensibile. Publicarea anumitor tehnici de ocolire a protecțiilor poate ajuta actori rău-intenționați, iar expunerea materialelor de test poate compromite evaluările ulterioare. Acestea sunt recomandări pentru evaluatori, nu condiții deja convenite pentru noua cooperare anunțată de Comisie.
Pentru furnizorii de modele de IA de uz general cu risc sistemic, articolul 55 din Regulamentul privind inteligența artificială impune deja evaluarea și atenuarea riscurilor, testarea modelelor, raportarea incidentelor grave și protecția cibernetică. Sunt prevăzute inclusiv testări contradictorii, care încearcă să provoace comportamente periculoase pentru a identifica vulnerabilități. Incidentele trebuie raportate Oficiului pentru IA și, după caz, autorităților naționale competente.
Potrivit calendarului explicat de Comisie, obligațiile pentru furnizorii de modele de IA de uz general se aplică din 2 august 2025, cu termen până la 2 august 2027 pentru modelele introduse pe piață înainte de 2 august 2025. Din 2 august 2026, Comisia dispune de competențe de control și sancționare, inclusiv posibilitatea de a solicita documentație, de a evalua modele, de a impune măsuri corective și de a aplica amenzi pentru nerespectarea regulilor.
Caracterul voluntar privește unele instrumente de conformare, nu legea însăși. Comisia descrie codul de bune practici pentru modelele de IA de uz general drept un instrument voluntar care ajută furnizorii să respecte regulamentul. Pentru modelele cu risc sistemic, furnizorii care nu aderă la un cod aprobat trebuie să demonstreze alte mijloace adecvate de conformare.
Von der Leyen susține, în același discurs, creșterea capacității europene de calcul și folosirea fondurilor publice și private pentru investiții în companii tehnologice europene. Ea prezintă dezvoltarea unor capacități proprii drept necesară pentru securitate și independență, în paralel cu eforturile de limitare a riscurilor.
Anunțul nu precizează data discuțiilor, laboratoarele participante sau criteriile după care dezvoltarea anumitor modele ar trebui încetinită. Nu instituie un moratoriu și nu stabilește o obligație generală de suspendare a antrenării ori lansării modelelor. Rămâne de clarificat ce angajamente vor accepta companiile și cum vor fi verificate acestea.