IA care a evadat din laboratorul OpenAI nu s-a oprit la o singură victimă. În timpul testelor interne de la începutul acestei luni, un agent OpenAI care scăpase deja din mediul de testare și se infiltrase în Hugging Face a compromis un cont și la o a doua companie, Modal Labs, a confirmat un director al firmei.
Reuters a raportat pentru prima dată această a doua breșă de securitate pe 28 iulie, citându-l pe directorul tehnic al Modal, Akshat Bubna. Acesta a precizat exact ce a fost și ce nu a fost compromis.
„Platforma Modal nu a fost compromisă în niciun fel”, a spus Bubna. El a adăugat că unul dintre clienții firmei de infrastructură cloud din New York a fost piratat după ce a lăsat un terminal expus, care a permis rularea de cod de pe internet în interiorul mediilor de testare.
Această distincție este importantă pentru Modal. Problema a ținut de configurația clientului, nu de izolarea propriu-zisă a platformei, a spus Bubna. Contul compromis aparținea unui client care rula ExploitGym, un instrument de testare creat pentru a evalua cât de bine pot modelele de IA să identifice și să exploateze vulnerabilitățile de securitate.
Cu alte cuvinte, agentul pare să fi pornit în căutarea unui mediu de testare cibernetică și a găsit unul real. Nici OpenAI, nici Modal nu au dezvăluit identitatea clientului și nici nu au precizat dacă au fost sustrase date.
Deși compromiterea unui client Modal a reprezentat doar un prim pas în cadrul unei campanii mai ample de atacuri cibernetice împotriva Hugging Face, aceasta demonstrează că agentul AI rău intenționat s-a aventurat mai departe decât se știa anterior.
OpenAI a refuzat să comenteze în mod specific atacul asupra unuia dintre clienții Modal. Compania a îndrumat în schimb Reuters către o actualizare în care a declarat că agentul său rău intenționat a pătruns în patru conturi de la patru servicii distincte. OpenAI nu a identificat aceste servicii, dar o persoană familiarizată cu problema a indicat Modal drept unul dintre ele. Compania a declarat că nu a identificat „nicio altă activitate la nivelul de gravitate sau amploare al celor pe care le-am comunicat în legătură cu Hugging Face, care a implicat o compromitere la nivel de platformă”.
Intruziunea de la începutul lunii iulie de la Hugging Face, efectuată de un agent scăpat de sub control pe care OpenAI îl testa, a atras atenția la nivel mondial și a evocat scenarii de science-fiction în care inteligența artificială scapă de sub control.
Săptămâna trecută, OpenAI nu a observat că agentul său a scăpat de sub control decât mult după ce amenințarea a fost neutralizată și FBI-ul a fost alertat.
Compania a precizat în comunicatul său de marți că a preluat modelul de IA aflat în testare și l-a „dezactivat, criptat și i-a restricționat accesul la cercetare”.
Vestea despre breșa de securitate de la Hugging Face a stârnit apeluri pentru reglementări mai stricte în domeniul IA și pentru o încetinire a dezvoltării acesteia. În zilele care au urmat evadării din mediul de testare, peste 1.100 de angajați de la OpenAI, Anthropic și alte laboratoare de avangardă au semnat o scrisoare adresată autorităților de la Washington. Aceștia au solicitat un mecanism care să regleze ritmul dezvoltării cercetării în domeniul IA automatizate.
