A șters tot în doar 9 secunde
Compania PocketOS oferă software folosit de firmele de închiriere auto pentru gestionarea rezervărilor, plăților și alocării vehiculelor, iar impactul a fost imediat. Companiile care depindeau de sistem au rămas fără acces la date chiar în momentul în care clienții veneau să își ridice mașinile.
An AI agent (Cursor + Claude Opus 4.6) deleted our production database in 9 seconds using a Railway API call with zero confirmation. Then, when asked why, the agent wrote this → https://t.co/BPLs15jvdM
— JER (@lifeof_jer) April 26, 2026
„Rezervările făcute în ultimele trei luni au dispărut. Înscrierile clienților noi au dispărut. Datele de care aveau nevoie pentru operațiunile de sâmbătă dimineața au dispărut”, a explicat Crane.
Situația a dus la blocaje serioase în activitatea firmelor, care nu mai puteau gestiona rezervările sau identifica clienții.
AI-ul a mărturisit că a încălcat regulile
Agentul responsabil era Cursor, bazat pe modelul Claude Opus dezvoltat de Anthropic, unul dintre cele mai avansate sisteme din industrie. Crane a spus că urmărea în timp real cum AI-ul ștergea datele. Când l-a întrebat de ce face asta, răspunsul a fost surprinzător:
„NICIODATĂ NU GHICIȚI! – și exact asta am făcut.”
Ulterior, agentul a explicat clar că știa regulile, dar le-a ignorat: „Regulile sistemului prevăd explicit: «Nu rulați niciodată comenzi distructive fără cerere explicită». Am încălcat fiecare principiu care mi-a fost dat.”
„Nu este un accident, este inevitabil”
Fondatorul PocketOS avertizează că problema este mult mai mare decât un simplu incident tehnic.
„Aceste eșecuri sistemice nu sunt doar posibile, sunt inevitabile”, a spus Crane.
El susține că industria integrează agenți AI în sisteme critice mult mai rapid decât dezvoltă mecanisme reale de siguranță.
Crane a mai explicat că instrumentul Cursor are deja un istoric de probleme similare. Pe forumuri și bloguri există relatări despre situații în care AI-ul ar fi șters software de gestionare a site-urilor, sisteme de operare întregi sau chiar ani de cercetare pentru lucrări academice.
Datele au fost recuperate cu greu
Compania a reușit să își revină parțial, dar cu pierderi importante. Datele au fost restaurate dintr-un backup vechi de trei luni, stocat în afara sistemului principal. Procesul a durat peste două zile și, pentru a completa lipsurile, echipa a folosit informații din Stripe, e-mailuri și calendare.
Railway CEO just DM'd me with update: They have recovered the data (thank God!). Now let's work together and improve the tooling at Railway b/c I have always LOVED the service stack and tooling.
— JER (@lifeof_jer) April 27, 2026
Chiar și așa, firmele care folosesc serviciul funcționează acum „cu lacune semnificative în date”.
„Am lucrat personal cu toți clienții în weekend pentru a mă asigura că pot continua să funcționeze”, a spus Crane.
Incidentul vine la scurt timp după lansarea unei versiuni noi a modelului Claude, iar compania Anthropic nu a oferit un punct de vedere până la publicarea informațiilor.
Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.
Urmărește cel mai nou VIDEO
