Modelele de inteligență artificială capabile să identifice vulnerabilități necunoscute și să construiască lanțuri de atac ar putea deveni disponibile la scară mai largă în următoarele trei până la șase luni, a avertizat Anthropic în Comisia pentru piața internă și protecția consumatorilor a Parlamentului European. Audierea din IMCO a arătat însă că problema nu este numai tehnică: eurodeputații au cerut garanții că Europa nu poate pierde accesul la instrumente esențiale de apărare cibernetică printr-o decizie luată de guvernul Statelor Unite.
Pe scurt
-
Anthropic a spus în Comisia IMCO că modelul său experimental Mythos Preview a găsit mii de vulnerabilități necunoscute în sisteme de operare, browsere și alte componente software folosite la nivel global.
-
Compania estimează că alți dezvoltatori vor avea modele cu performanțe comparabile în trei până la șase luni, iar unele dintre acestea ar putea fi lansate fără restricții suficiente pentru prevenirea utilizării ofensive.
-
Anthropic nu a lansat public Mythos și a acordat acces controlat unor organizații care întrețin infrastructuri software importante. Participanții la program au identificat peste 10.000 de vulnerabilități grave sau critice în prima lună.
-
Eurodeputații au invocat suspendarea temporară a accesului utilizatorilor străini la alte modele Anthropic după introducerea unor controale americane la export și au cerut garanții că Europa nu poate fi exclusă din nou.
-
Oficiul european pentru inteligență artificială primește din 2 august puteri de aplicare asupra modelelor de uz general și pregătește un cadru pentru testarea acestora și accesul utilizatorilor de încredere la capacități cibernetice sensibile.
Audierea a fost organizată de Comisia pentru piața internă și protecția consumatorilor după mai multe invitații adresate Anthropic și după controversele privind accesul utilizatorilor europeni la modelele avansate ale companiei. Reprezentantul Anthropic a participat prin videoconferință, iar discuția s-a concentrat asupra capacităților cibernetice ale noilor modele, restricțiilor americane la export și dependenței tehnologice a Europei.
Donnie Greenberg, membru al echipei tehnice Anthropic, a explicat că un model antrenat pentru programare și raționament general poate deveni foarte eficient în identificarea defectelor software. Capacitatea de a înțelege codul îi permite să analizeze sisteme complexe, să descopere vulnerabilități și să combine mai multe erori într-o succesiune capabilă să ofere acces neautorizat.
Modelul experimental Mythos Preview a găsit mii de vulnerabilități necunoscute anterior, potrivit companiei. Printre exemplele prezentate în IMCO se află o problemă veche de 27 de ani în OpenBSD, un sistem de operare cunoscut pentru standardele sale ridicate de securitate, și mai multe vulnerabilități din nucleul Linux care puteau fi folosite împreună pentru preluarea controlului asupra unui computer.
Aceleași capacități pot fi utilizate de echipele de securitate pentru a descoperi și repara probleme înaintea atacatorilor. Dacă modelul ajunge însă la grupări criminale sau actori statali ostili, el poate reduce considerabil timpul și nivelul de expertiză necesare pentru pregătirea atacurilor.
Anthropic a decis să nu lanseze public Mythos Preview și a creat Project Glasswing, un program prin care oferă acces controlat organizațiilor responsabile de componente software și infrastructuri importante. Programul a fost extins la aproximativ 150 de organizații din peste 15 țări, dar compania nu a prezentat în ședință lista completă și nici distribuția beneficiarilor între Statele Unite, Europa și alte regiuni.
Greenberg a spus că participanții au identificat în prima lună peste 10.000 de vulnerabilități cu severitate ridicată sau critică. Mozilla ar fi găsit și corectat 271 de probleme într-o singură versiune Firefox, de aproximativ zece ori mai multe decât în versiunea precedentă.
Volumul mare de rezultate schimbă însă punctul în care apar întârzierile. Găsirea vulnerabilităților poate deveni foarte rapidă, în timp ce verificarea lor, stabilirea priorităților, dezvoltarea corecțiilor și distribuirea actualizărilor rămân procese lente și costisitoare.
Spitalele, rețelele energetice, sistemele de alimentare cu apă, băncile și operatorii de transport folosesc adesea echipamente și programe vechi, care nu pot fi oprite sau actualizate cu ușurință. Chiar dacă o eroare este identificată, organizația trebuie să stabilească dacă remedierea poate fi aplicată fără întreruperea serviciului sau fără apariția altor probleme.
Anthropic estimează că avantajul temporar al apărătorilor va dura numai câteva luni. „Fereastra în care apărătorii dețin avantajul se măsoară în luni”, a spus Greenberg, adăugând că mai multe companii ar putea avea modele din aceeași categorie în trei până la șase luni.
Aceasta este o estimare a companiei, nu un calendar confirmat de lansare. Riscul invocat este că unii dezvoltatori pot distribui modele similare fără programe de acces controlat, monitorizarea utilizării sau alte garanții.
Un model publicat cu parametrii disponibili poate fi descărcat, modificat și rulat independent de compania care l-a creat. Acest model de distribuție poate susține cercetarea și concurența, dar face foarte dificilă limitarea folosirii pentru atacuri.
Dezbaterea din IMCO s-a mutat rapid de la capacitatea tehnică la dependența geopolitică. Mai mulți eurodeputați au întrebat dacă Europa își poate construi securitatea cibernetică pe instrumente care pot fi retrase printr-o decizie a administrației americane.
Anthropic a confirmat că, după introducerea unor controale la export de către guvernul Statelor Unite, a suspendat accesul tuturor utilizatorilor străini la două dintre modelele sale avansate. Restricțiile au fost ridicate la 30 iunie, iar accesul a fost restabilit la 1 iulie.
Compania a precizat că măsura a vizat modelele denumite Fable în stenograma audierii și nu sistemul Mythos cu capacități cibernetice sensibile. În perioada restricțiilor, Anthropic a lucrat cu autoritățile americane pentru testarea și întărirea măsurilor de siguranță aplicate modelelor afectate.
Greenberg a spus că nu au existat modificări comparabile ale modelului Mythos înainte și după restricțiile de export, deoarece acesta nu a făcut parte din procedura respectivă. Mythos a rămas într-un sistem de acces limitat, administrat direct de companie.
Eurodeputații au cerut să afle câte instituții europene au acces în prezent, dacă accesul Agenției Uniunii Europene pentru Securitate Cibernetică este activ și cine îl poate suspenda. Reprezentantul companiei nu a oferit în ședință un număr exact și nici o garanție juridică potrivit căreia o viitoare decizie a Washingtonului nu ar putea afecta din nou utilizatorii europeni.
Brando Benifei a subliniat că primele organizații care au primit acces la modelul de securitate nu erau europene și că accesul ENISA a fost suspendat temporar. El a spus că operatorii europeni de energie, spitale și sisteme de apă folosesc aceleași componente software și pot afla despre vulnerabilități mai târziu decât organizațiile aflate pe lista privată a companiei.
Alți membri IMCO au întrebat dacă datele clienților europeni pot fi accesate de autoritățile americane, unde sunt stocate și dacă utilizatorii ar fi informați în cazul în care guvernul SUA ar cere modificarea serviciilor sau limitarea accesului. Reprezentantul tehnic Anthropic nu a oferit răspunsuri complete asupra acestor aspecte juridice și comerciale, iar conducerea comisiei a remarcat că la o audiere viitoare ar fi necesară participarea unui reprezentant politic al companiei.
Anthropic a susținut că organizațiile europene nu trebuie să depindă de un singur model sau de un singur furnizor. Greenberg a recomandat folosirea mai multor sisteme pentru evaluarea riscurilor, deoarece modelele pot identifica vulnerabilități diferite și pot avea performanțe distincte în verificare, prioritizare și dezvoltarea patch-urilor.
El a respins ideea că accesul direct la Mythos ar transforma automat o instituție într-un operator protejat. Un spital sau o companie energetică depinde de furnizorii care dezvoltă sistemele de operare, aplicațiile și componentele folosite, iar acești furnizori sunt cei care trebuie să repare vulnerabilitățile din produsele distribuite la nivel global.
În infrastructurile critice există și o separare între sistemele informatice obișnuite și sistemele operaționale care controlează echipamente fizice. O rețea energetică poate avea aplicații administrative bine protejate, dar o conexiune slab securizată către sistemele de control poate oferi atacatorilor acces la partea operațională.
Din partea Comisiei Europene, directoarea Oficiului pentru inteligență artificială a spus că puterile de aplicare prevăzute de AI Act pentru modelele de uz general vor deveni active la 2 august. Oficiul va putea verifica dacă furnizorii au evaluat riscurile și dacă măsurile de reducere a acestora sunt suficiente atunci când modelele sunt folosite în UE.
Comisia a lansat și un plan de acțiune privind inteligența artificială și securitatea cibernetică. Acesta include creșterea capacității europene de testare a modelelor, îmbunătățirea igienei cibernetice și pregătirea unui cadru pentru accesul utilizatorilor de încredere la sisteme cu funcții sensibile.
Reprezentanta Comisiei a spus că UE vrea să evite crearea unei dependențe permanente de modele de frontieră dezvoltate în afara Europei. Riscurile nu sunt limitate la securitatea cibernetică, deoarece modelele tot mai capabile pot avea utilizări sensibile și în biologie, apărare sau alte domenii.
Audierea nu a stabilit dacă Europa va dezvolta într-un interval apropiat un model propriu comparabil cu Mythos și nici dacă furnizorii americani vor acorda instituțiilor europene acces permanent. Ea a arătat însă că cele două probleme evoluează în paralel: modelele cu capacități ofensive avansează rapid, iar instrumentele cele mai puternice pentru apărare rămân controlate de companii și autorități din afara UE.
În următoarele luni, organizațiile europene trebuie să își identifice mai bine componentele software, sistemele care nu pot fi actualizate rapid și furnizorii de care depind. În același timp, instituțiile UE vor trebui să stabilească regulile de acces la modelele sensibile și măsurile prin care o decizie luată într-un stat terț să nu lase infrastructurile europene fără instrumentele necesare pentru apărare.