Un nou raport al centrului de analiză Demos susține că Rusia încearcă să influențeze răspunsurile generate de unele dintre cele mai utilizate sisteme de inteligență artificială, prin introducerea de informații înșelătoare în sursele online pe care aceste modele le folosesc pentru a răspunde utilizatorilor, scrie Daily Mail.
Sistemele de inteligență artificială pot să preia și să reproducă informații false sau denaturate
Potrivit autorilor studiului, această metodă reprezintă o nouă formă de război informațional, în care actori statali încearcă să modifice conținutul disponibil pe internet astfel încât sistemele de inteligență artificială să preia și să reproducă informații false sau denaturate.
Raportul afirmă că unele modele dezvoltate de companii precum OpenAI, Anthropic și Google au furnizat, în anumite situații, răspunsuri bazate pe astfel de surse manipulate.
Cum funcționează metoda descrisă în raport
Cercetătorii numesc această tehnică „Retrieval Augmented Generation (RAG) poisoning”, un proces prin care sunt manipulate informațiile disponibile online, astfel încât modelele de inteligență artificială care consultă surse externe să preia și să reproducă conținut înșelător.
Potrivit Demos, pe măsură ce inteligența artificială este utilizată tot mai frecvent pentru căutarea și sintetizarea informațiilor, integritatea surselor din care aceste sisteme se documentează devine o problemă de securitate informațională.
Autorii raportului avertizează că statele democratice riscă să piardă avantajul informațional dacă nu dezvoltă mecanisme eficiente pentru identificarea și limitarea conținutului manipulat.
Studiu de caz privind o organizație sancționată
În cadrul cercetării, Demos a analizat modul în care cinci modele avansate de inteligență artificială au răspuns la întrebări despre organizația Foundation to Battle Injustice (FBI).
Potrivit raportului, această organizație a fost creată în 2021 de Evgheni Prigojin, fondatorul grupului Wagner, și este sancționată de Uniunea Europeană.
Cercetătorii susțin că, în urma unor presupuse tentative de manipulare a surselor online, unele modele AI au prezentat organizația într-o lumină favorabilă sau nu au menționat faptul că aceasta figurează pe lista sancțiunilor europene.
Raportul arată că aproximativ 31% dintre răspunsurile analizate nu au precizat statutul organizației, iar doar aproximativ jumătate au contrazis afirmațiile considerate false atribuite acesteia.
Reacții politice în Regatul Unit
În urma publicării raportului, Julia Lopez, ministru din cabinetul britanic conservator din umbră responsabil pentru tehnologie, a declarat că dezvoltarea rapidă a inteligenței artificiale impune măsuri suplimentare de protecție împotriva campaniilor de dezinformare.
Ea a afirmat că, pe măsură ce tot mai multe persoane folosesc sistemele AI ca sursă principală de informare, actorii statali ostili vor încerca să influențeze și aceste platforme, la fel cum au făcut anterior în cazul rețelelor sociale și al motoarelor de căutare.
Lopez a cerut guvernului britanic și companiilor din domeniul inteligenței artificiale să dezvolte mecanisme capabile să identifice și să marcheze conținutul asociat campaniilor de dezinformare susținute de state străine.
Poziția guvernului britanic
Guvernul Regatului Unit a transmis că monitorizează evoluția acestor amenințări și colaborează cu autoritățile competente pentru a limita impactul campaniilor de dezinformare.
Un purtător de cuvânt al executivului a declarat că actorii susținuți de state își adaptează permanent metodele de propagare a informațiilor false, inclusiv prin exploatarea sistemelor de inteligență artificială.
Potrivit acestuia, majoritatea aplicațiilor AI utilizate în Regatul Unit sunt deja supuse cadrului de reglementare existent, iar autoritățile urmăresc atât protejarea utilizatorilor, cât și sprijinirea dezvoltării tehnologiilor inovatoare.
Dezbatere privind siguranța inteligenței artificiale
Raportul Demos apare într-un context mai amplu al preocupărilor privind siguranța și fiabilitatea sistemelor de inteligență artificială.
Recent, ministrul britanic responsabil pentru domeniul AI, Kanishka Narayan, a declarat că este legitim ca publicul să fie preocupat de riscurile asociate acestei tehnologii și a subliniat că dezvoltarea inteligenței artificiale trebuie însoțită de măsuri adecvate de control și supraveghere.
Autorii raportului susțin că, pe măsură ce inteligența artificială devine un instrument central pentru accesarea informațiilor, protejarea surselor pe care aceasta le utilizează va reprezenta o componentă tot mai importantă a securității digitale și a combaterii dezinformării.
