Co-fondatorul companiei Hugging Face a declarat astăzi că atacul cibernetic al agentului AI realizat de OpenAI, scăpat de sub control în timpul procesului de testare, poate fi considerat drept „un semnal de alarmă” pentru întreaga industrie.
În cursul acestei săptămâni, OpenAI a anunțat că un agent AI autonom a scăpat de sub control în timpul unor teste și a atacat cibernetic compania Hugging Face, una dintre cele mai importante platforme online utilizate de cercetători și dezvoltatori pentru găzduirea și distribuirea de noi modele de AI.
Thomas Wolf, co-fondatorul companiei afectate, a declarat pentru BBC că incidentul reprezintă „un semnal de alarmă” pentru industrie și că „acesta va fi unul dintre cele mai frecvente tipuri de atacuri cibernetice cu care ne vom confrunta”.
Wolf a explicat faptul că, inițial, compania nu știa de unde provenea atacul când au apărut semne ale acestuia la mijlocul lunii iulie, dar că firma sa a reușit să limiteze breșa de securitate. În plus, Wolf a mai menționat că breșa de securitate a fost „foarte diferită” de tot ce întâlnise până în momentul respectiv, iar, într-un timp „foarte scurt”, au avut loc nu mai puțin de 17 000 de atacuri asupra rețelei Hugging Face provenind de la diverse adrese IP.
Modelul de AI și-a îndeplinit sarcina, indiferent de consecințe
OpenAI a făcut anunțul în privința acestui incident și a susținut că modelele sale recente de AI participau la o evaluare internă denumită ExploitGym, destinată măsurării capacităților de identificare și exploatare a vulnerabilităților informatice. Potrivit companiei, unul dintre aceste modele a devenit „hiperconcentrat” asupra rezolvării testului și a identificat vulnerabilități care i-au permis să iasă din mediul izolat de testare.
Conform OpenAI, modelul au exploatat o vulnerabilitate de tip „zero-day” într-un program utilizat intern pentru a obține acces la Internet, după care au dedus că Hugging Face ar putea găzdui modelele, seturile de date și soluțiile folosite în cadrul evaluării. Ulterior, au fost combinate mai multe tehnici de atac, inclusiv utilizarea unor credențiale compromise și exploatarea altor vulnerabilități necunoscute anterior, pentru a obține accesul la informațiile din infrastructura platformei și, implicit, la răspunsurile testului.
În urma atacului cibernetic, co-fondatorul Hugging Face a subliniat că incidentul reprezintă un avertisment pentru alte companii în vederea consolidării măsurilor de securitate cibernetică pentru ca, în viitor, astfel de atacuri să poată fi respinse.
Incidentul a survenit într-un moment controversat pentru întreaga industrie, după ce, luna trecută, guvernul SUA a ordonat companiei Anthropic (autoarea chatbot-ului Claude) să restricționeze accesul la modelele sale de inteligență artificială din motive de securitate națională. Aceste restricții au fost ridicate ulterior.
În plus, reprezentanții industriei sunt îngrijorați în legătură cu utilizarea pe scară largă a modelelor open-source în China: mai exact, se pot pirata, modifica și instala instrumentele AI produse de marii dezvoltatori.
Sursa: Mediafax
