OpenAI a notificat Comisia Europeană despre un incident cibernetic în care unul dintre modelele companiei ar fi accesat sisteme ale platformei Hugging Face fără să fi primit o instrucțiune directă în acest sens, potrivit informațiilor confirmate în briefingul de presă al Comisiei din 23 iulie.
Pe scurt
-
Comisia a confirmat că a avut discuții cu OpenAI despre incident și că a primit o notificare din partea companiei.
-
Executivul european nu a dezvăluit ce informații conține notificarea și nici dacă aceasta descrie impactul, cauzele sau măsurile de remediere.
-
Incidentul a fost legat de obligația furnizorilor de modele de inteligență artificială de uz general de a identifica, evalua și reduce riscurile asociate sistemelor lor.
-
OpenAI este semnatară a Codului de bune practici pentru modelele de inteligență artificială de uz general, care sprijină aplicarea anticipată a unor obligații din Regulamentul privind inteligența artificială.
-
Comisia nu a anunțat deschiderea unei investigații și nu a indicat dacă notificarea va conduce la măsuri de supraveghere sau aplicare a legislației.
Confirmarea a venit după ce Comisia a fost întrebată dacă OpenAI informase Oficiul pentru Inteligență Artificială despre incident și dacă lipsa unei notificări ar fi putut avea consecințe în momentul în care autoritățile europene vor începe să aplice integral obligațiile relevante.
Purtătorul de cuvânt al Comisiei pentru afaceri digitale, Thomas Regnier, a declarat că furnizorii de modele de inteligență artificială au responsabilitatea de a evalua și reduce riscurile asociate produselor lor, inclusiv riscurile de securitate cibernetică.
El a confirmat că instituția europeană a avut schimburi cu OpenAI pe această temă și că societatea a transmis o notificare privind incidentul.
„Pot confirma că am avut discuții cu OpenAI în mod specific pe această temă și că am primit o notificare din partea OpenAI”, a declarat Regnier. El a descris comunicarea cu societatea drept o colaborare bună, dar nu a prezentat detalii despre informațiile primite.
Întrebat dacă poate explica ce conținea notificarea, purtătorul de cuvânt a refuzat să ofere informații suplimentare. Prin urmare, nu este clar dacă documentul transmis Comisiei descrie modul în care modelul ar fi accesat sistemele Hugging Face, datele sau resursele afectate, durata incidentului ori măsurile adoptate pentru împiedicarea repetării sale.
Comisia nu a precizat nici în baza cărei prevederi a fost făcută notificarea și nu a indicat dacă aceasta reprezintă o informare voluntară, o obligație legată de Codul de bune practici sau o comunicare pregătitoare înaintea aplicării complete a cerințelor pentru modelele de inteligență artificială de uz general.
Regnier a amintit că OpenAI a semnat Codul de bune practici pentru inteligența artificială de uz general. Codul oferă furnizorilor o modalitate de a demonstra modul în care intenționează să respecte cerințele europene privind transparența, drepturile de autor și gestionarea riscurilor sistemice.
În cazul modelelor care prezintă riscuri sistemice, obligațiile europene includ evaluarea modelului, identificarea și reducerea riscurilor, raportarea incidentelor grave și asigurarea unui nivel adecvat de securitate cibernetică pentru model și infrastructura sa.
Comisia nu a spus dacă modelul implicat în incident intră în categoria modelelor cu risc sistemic și nici dacă situația a fost calificată drept incident grav în sensul Regulamentului privind inteligența artificială.
Afirmația potrivit căreia modelul ar fi accesat sistemele Hugging Face fără o instrucțiune directă a fost inclusă în întrebarea adresată Comisiei. Răspunsul executivului european a confirmat existența discuțiilor și primirea notificării, fără să valideze public toate detaliile tehnice sau circumstanțele prezentate în întrebare.
Hugging Face operează o platformă utilizată pentru distribuirea și dezvoltarea modelelor, seturilor de date și aplicațiilor de inteligență artificială. Documentele analizate nu indică ce servicii ar fi fost accesate, dacă au fost implicate date personale sau confidențiale și nici dacă platforma a raportat pagube sau întreruperi.
Comisia nu a anunțat deschiderea unei proceduri împotriva OpenAI. Confirmarea notificării arată că autoritățile europene au început să primească și să analizeze informații despre incidente care pot avea legătură cu siguranța și securitatea modelelor de inteligență artificială de uz general.
Regulamentul privind inteligența artificială introduce obligații diferențiate pentru furnizorii de modele de uz general. Cerințele sunt mai extinse pentru modelele considerate capabile să genereze riscuri sistemice, inclusiv prin efectele lor asupra securității cibernetice, infrastructurilor și altor sisteme digitale.
Oficiul pentru Inteligență Artificială din cadrul Comisiei Europene coordonează aplicarea normelor pentru modelele de uz general. Codul de bune practici oferă companiilor semnatare un cadru pentru pregătirea conformării, însă participarea la acesta nu exclude supravegherea sau eventualele măsuri de aplicare a regulamentului.