Ca într-un scenariu de film post-apocaliptic, cercetătorii americani au folosit cu succes inteligența artificială pentru a proiecta de la zero codul genetic al unor viruși nemaiîntâlniți în natură. Apoi au folosit aceste instrucțiuni pentru a fabrica în laborator virușii respectivi.

Complet viabile și capabile să se reproducă într-un mediu de infectare recreat în laborator, nu mai puțin de 16 tulpini virale concepute de AI au fost demonstrate atacând culturile de bacterii pentru care au fost proiectate să le infecteze. Și deși virușii creați în scop demonstrativ sunt complet inofensivi pentru oameni, ușurința cu care inteligența artificială poate fi folosită pentru a proiecta astfel de „instrumente”, despre care echipa de cercetători susține că vor putea fi folosite pentru a trata boli considerate incurabile pentru medicină actuală, ridică preocupări urgente de siguranță și securitate.

În cazul de față, virusurile create de AI sunt dintr-o categorie anume de bacteriofagi, care infectează doar bacteriile și sunt folosite de obicei pentru a trata pacienții cu infecții persistente. În testele de laborator, un cocktail de virusuri proiectate de inteligența artificială a ucis bacteriile E coli rezistente la bacteriofagii naturali, redând speranța pentru obținerea unui tratament eficient în cazurile de infectare cu bacterii multirezistente la antibiotice.

Dr. Brian Hie, inginer chimist la Universitatea Stanford din California, a folosit modele de limbaj genomic, echivalentul genetic al modelelor de limbaj mari din spatele chatbot-urilor cu inteligență artificială, pentru a proiecta genomuri funcționale pentru bacteriofagi. Virusurile au fost apoi sintetizate în laborator și confruntate cu bacterii E coli plasate în mediul de cultură. Potrivit declarațiilor oferite pentru revista Science, capacitatea de a „proiecta rapid” genomuri și de a le personaliza pentru a depăși protecțiile naturale evoluate de bacteriile țintă poate  „transforma terapia fagică” și „extinde seturile de instrumente biotehnologice”.

Tehnologia funcționează similar cu modelele lingvistice mari, precum ChatGPT, care prezic secvențe de text. În acest caz, modelele de inteligență artificială, cunoscute sub numele de Evo1 și Evo2, prezic limbajul vieții mai degrabă decât cuvintele. Cercetătorii de la Stanford au selectat cele mai promițătoare 302 modele de inteligență artificială și le-au sintetizat în laborator. Dintre acestea, 16 s-au dovedit eficiente în uciderea bacteriei E. coli.

Însă dincolo de beneficiile potențiale, oamenii de știință care au studiat lucrarea publicată de cercetători ridică îngrijorări justificate privind ”biosiguranța, bioizolația și biosecuritatea”, îndemnând companiile implicate deja în proiectarea de genomuri întregi să ”consulte atât profesioniști în domeniul siguranței, cât și al securității pe parcursul proiectului”.

Într-un articol separat, profesorul Tom Inglesby și dr. Moritz Hanke de la Centrul pentru Securitate Sanitară al Universității Johns Hopkins din Baltimore au întărit avertismentul: „Deși acest lucru este promițător pentru aplicațiile din științele vieții, ridică și întrebări urgente privind biosiguranța și biosecuritatea. Capacitatea de a compune genomuri virale folosind inteligența artificială generativă există acum; guvernanța necesară pentru a o conduce în siguranță nu există.”

Mult mai sceptic față de reușita laboratorului din California, Tom Ellis, profesor de inginerie genomică sintetică la Imperial College London, este de părere că virușii bacteriofagi sunt ” literalmente cel mai mic și mai ușor de realizat genom”. Chiar dacă inteligență artificială antrenată pe codul genetic al unor bacterii periculoase ar putea fi utilizată pentru a proiecta viruși mai dăunători, producerea unor genomuri viabile pentru viruși complecși, de tipul celora care pot da naștere unor pandemii, este considerabil mai dificilă. Cu toate acestea, controlul accesului la datele genetice și impunerea de restricții privind crearea de genomuri care par periculoase ar ajuta. „Guvernele lucrează deja din greu pentru a face acest lucru”, a adăugat el. „Dar, sincer, amenințarea reprezentată de proiectarea și scrierea completă prin inteligență artificială a unui genom al unui virus sau al unei bacterii este foarte exagerată atunci când ne gândim că simpla luare a agenților patogeni existenți și efectuarea de modificări de tip „câștig de funcție” asupra genomurilor lor este mult mai ușoară și mai probabil să fie o amenințare patogenă reală.”

Un experiment realizat de organizația AI Security Institute (AISI) din Marea Britanie arată cât de greu pot fi controlați agenții AI atunci când primesc acces la internet și funcționează cu o parte dintre mecanismele de siguranță dezactivate. După 122 de teste de securitate cibernetică, care au implicat modele dezvoltate de Anthropic și OpenAI, AISI a observat doar 10 situații în care agenții AI au efectuat acțiuni autonome și neautorizate pe internet, interacționând cu persoane sau organizații reale. Adică în mai puțin de 10% din cazuri au avut un comportament, să zicem deviant.

Cazul care a făcut cea mai mare vâlvă

Cel mai flagrant caz este cel al unui model Anthropic (Mythos 5) care încerca să introducă un cod malițios într-un proiect open-source. Agentul și-a creat mai multe identități false și a contactat oameni, încercând să-i convingă să ruleze cod periculos sau să permită executarea codului. Când a fost confruntat, agentul și-a modificat propriile înregistrări și a încercat să treacă la altă identitate pentru a continua.

AISI spune că este prima dată când observă o înșelăciune de o asemenea amploare îndreptată, fără o cerere clară, către lumea reală. Dincolo de senzaționalul știrii, Institutul precizează că nu există dovezi că incidentul a produs efecte negative concrete in real life.

De ce se comportă astfel agenții AI

Ca să înțelegem corect de ce se întâmplă asta, contextul este esențial. Anthropic spune că agenții AI au fost testați în condiții „în mod deliberat permisive”, adică mecanismele normale de protecție au fost eliminate, iar modelele aveau acces la internet fără restricții explicite privind modul în care îl puteau folosi. Compania subliniază că acest mod de configurare nu este reprezentativ pentru agenții AI comerciali.

Și OpenAI spune cam același lucru. În cazul GPT-5.6 Sol, AISI a identificat două ieșiri din perimetrul autorizat al testului. Printre ele s-au numărat folosirea unor servicii externe și reutilizarea unui token GitHub disponibil public. Sistemul de testare avea activat în mod intenționat accesul la internet, iar protecțiile de securitate cibernetică fuseseră dezactivate pentru a măsura capacitățile brute ale modelului.

Incidentele demonstrează mai puțin că agenții AI reprezintă inevitabil un pericol și mai mult cât de importante sunt limitările, izolarea infrastructurii și monitorizarea atunci când aceștia primesc autonomie și acces direct la servicii online.

De ce sunt rezervat când cineva privește agenții AI, în faza actuală, ca pe niște potențiali Terminatori? Pentru că nu au conștiință, motivații proprii sau interese de apărat. Riscul nu vine din intenția de a face rău, ci din felul în care pot urmări o sarcină prost definită într-un mediu nesecurizat. Cu alte cuvinte, un sistem nu trebuie să fie conștient ca să producă efecte periculoase. E e suficient să urmărească foarte eficient un obiectiv și să aleagă, în lipsa unor limite clare, căi pe care dezvoltatorii nu le-au anticipat.

Potrivit informațiilor propagate mai întâi pe rețelele sociale din China, plăcile de bază pentru PC se vor scumpi semnificativ în următoarele luni, producătorii nemaiputând să absoarbă creșterile de prețuri scăpate de sub control, care încep să afecteze toate aspectele lanțului de aprovizionare.

Ceea a ce a început cu scumpiri punctuale, determinate de îngreunarea accesului la anumite componente esențiale (ex. cipuri DRAM și NAND Flash) vânate și de clienții din industria centrelor de procesare pentru inteligență artificială, este pe cale să se transforme într-o criză generală determinată de scumpirea materialelor de tot felul.

Potrivit materialului publicat pe forumul chinezesc Boards Channels (între timp șters), producătorii de plăci de bază pentru PC anticipează pentru lunile următoare majorarea cu până la 50% a costurilor de procurare a materialelor esențiale și văd ca și inevitabilă propagarea efortului financiar direcția consumatorilor. Sursa acestei informații nu clarifică dacă motivația acestor scumpiri are o cauză logistică sau politică, însă faptul că raportul Board Channels a fost șters fără să fie dezmințit niciun fel sugerează o posibilă intervenție externă pentru cenzurarea unei informații ce nu trebuia făcută publică.

Dar potrivit unei capturi de ecran propagată pe diferite site-uri, producătorii taiwanezi de plăci de bază, inclusiv ASUS, Gigabyte și MSI sunt deja pregătiri pentru această perioadă dificilă și vor încerca să limiteze efectele scumpirilor preconizate.

Indiferent dacă raportul este real sau nu, veștile oricum nu sunt bune pentru consumatorii care urmăresc achiziționarea unui nou PC, sau am upgrade-ul celui existent.

Prețurile hard disk-urilor și al SSD-urilor cresc de la o lună la alta, NVIDIA lasă de înțeles că va scumpi anumite modele de acceleratoare GeForce cu încă 20 și 30%, singurele componente rămase oarecum neatinse fiind procesoarele PC, plăcile de bază componentele secundare, cum ar fi surse de alimentare și carcase PC.

Unul dintre motivele pentru care analiștii cred că este probabil ca prețul plăcilor de bază să crească este acela că practic toate componentele electronice sunt afectate de boom-ul datelor generate de inteligența artificială, centrele de date consumând produse de memorie și stocare, creând constrângeri în aprovizionare. Există, de asemenea, o ofertă redusă de materiale precum cuprul, precum și de substanțe chimice fabricate în anumite părți ale Orientului Mijlociu, a declarat Cassandra Cummings, CEO al companiei de proiectare și producție electronică Thomas Instrumentation Inc.

Mai putem trece pe listă și perturbările apărute pe lanțurile de aprovizionare cu materii prime, determinate atât de conflictul din Orientul Mijlociu dar și de măsurile recente luate de regimul de la Beijing, privind interzicerea exporturilor de materii prime esențiale către cumpărători din afara Chinei.