După cum relatează acum CBC, procesul a dezvăluit că firma cheltuia milioane de dolari pe cărți fizice, le tăia cotoarele pentru a putea scana rapid paginile în scopul antrenării modelului său lingvistic de mari dimensiuni, iar apoi arunca paginile.
Site-ul american de investigații 404 Media a relatat într-un amplu material publicat în 21 iulie că Anthropic distruge cărți ca parte a acestui proces ce a ajuns să fie numit „scanare distructivă” din cauza unei particularități bizare a legislației americane.
Un tribunal din SUA a stabilit că scanarea cărților pentru antrenarea inteligenței artificiale intră sub incidența doctrinei „fair use” (utilizare rezonabilă). Dar pentru a nu încălca legea privind drepturile de autor, Anthropic este obligată să distrugă cărțile. Astfel, înainte de scanare există un singur exemplar al cărții, iar după scanare există tot un singur exemplar (în format digital), ceea ce în interpretarea legislației americane înseamnă că nu are loc niciun act de piraterie.
O investigație separată publicată de 404 Media a dezvăluit pe 17 august că astfel de comenzi mari de cărți ajung la o unitate a Amazon din Las Vegas, unde sunt supuse „scanării distructive” pentru antrenarea modelelor lingvistice de mari dimensiuni (LLM) la care lucrează compania fondată de Jeff Bezos.
Deși Amazon nu este un jucător major în domeniul AI, compania este interesată de dezvoltarea acestei tehnologii pentru sporirea vânzărilor sale din domeniul comerțului electronic, dar și pentru optimizarea celor din afacerea sa de cloud computing.
Ce spun anticarii din Canada
Peter Sellers, proprietarul librăriei Sellers & Newel din Toronto, spune că, în trecut, solicitările pentru cărți în cantități mari veneau de la designeri care amenajau locuințe sau de la platouri de filmare. De regulă, erau însoțite de cerințe specifice privind culoarea și dimensiunea cărților. Însă, în luna iunie a început să primească telefoane „foarte suspecte”, pentru comenzi mari care conțineau liste de cărți aparent aleatorii.
„Este oarecum tentant, pentru că pot să scap de multe lucruri care altfel s-ar putea să nu fie vandabile”, a spus el într-un interviu acordat CBC, societatea de radiodifuziune a Canadei. „Și apoi începi să te gândești: ‘Nu, nu, nu, ceva nu este în regulă aici’”, a adăugat el.
Pe 10 iunie, a primit pe LinkedIn un mesaj de la cineva care susținea că reprezintă o companie de inginerie a datelor numită Innodata. Mesajul afirma că firma „caută în prezent să achiziționeze volume mari de cărți second-hand” și „explorează posibili parteneri de aprovizionare”.
Sellers spune că a ignorat solicitarea și nu s-a gândit prea mult la mesaj până când, ulterior, a citit un articol despre scanarea cărților pentru antrenarea AI. El afirmă că toate acele solicitări „ciudate” au început să aibă mult mai mult sens după ce a citit articolul.
„Întregul meu personal este atent acum la acest lucru”, susține acesta.
„Dacă cineva vrea cărți în cantități mari, răspunsul este nu – cu excepția cazului în care este un designer pe care îl cunoaștem sau cineva cu care am mai lucrat, ori dacă are un fel de acreditare legitimă și vrea aceste cărți dintr-un motiv legitim”, mai spune Sellers.
Comenzi de cărți greu de refuzat
Alți vânzători de cărți au declarat pentru CBC News că au primit solicitări similare în ultimele luni, adesea pentru cărți educaționale obscure, care au rămas nevândute ani întregi. Unii spun că este greu să refuzi astfel de solicitări, mai ales într-o industrie care trece printr-o perioadă nu tocmai fastă.
Vânzătorii spun că numele companiilor care fac aceste solicitări par să se schimbe rapid și că niciunul dintre cumpărători nu a recunoscut public că furnizează cărți companiilor de AI.
Zoom Books, o companie cu sediul în Columbia Britanică care pretinde că revinde și reciclează cărți second-hand, a fost menționată frecvent pe forumurile online ale vânzătorilor de cărți și pe Reddit pentru efectuarea unui număr mare de comenzi în volume mari, greu de înțeles.
Vânzătorii de cărți din Spania, Germania, Australia, Noua Zeelandă, Marea Britanie și din alte țări și-au exprimat suspiciunea că comenzile Zoom sunt destinate revânzării în vederea scanării pentru AI, deși nimeni nu a prezentat dovezi concretecă acesta este într-adevăr cazul. BBC a scris pe larg luna trecută despre subiectul comenzilor uriașe primite de anticari, fără a menționa însă explicit Zoom.
„Nu reușeam să ne dăm seama care era motivația lor”
Patrick Hempelmann, proprietarul unei librării BMV Books din Toronto, a declarat acum pentru CBC că Zoom a început să cumpere de la el sute de cărți în urmă cu aproximativ șase luni.
Comenzile erau în principal pentru cărți tehnice specializate, tipărite în tiraje mici, care se vindeau de obicei cu prețuri cuprinse între 5 și 30 de dolari. Unele erau cărți medicale vechi sau manuale de matematică și fizică de nivel postuniversitar, care stătuseră pe rafturi timp de un deceniu.
„Nu reușeam să ne dăm seama care era motivația lor sau care era domeniul lor de interes, pentru că cumpărau tot felul de lucruri, din toate categoriile. Părea că nu exista nicio logică sau vreun motiv clar”, afirmă acesta.
Hempelmann spune că nu știa despre controversa privind scanarea cărților pentru AI până când a fost contactat de jurnaliștii de la CBC, dar că, după ce a citit despre acest subiect, consideră că situația este „pur și simplu tristă”.
„Adică, noi suntem vânzători de cărți. Cărțile nu ar trebui distruse”, afirmă acesta.
De ce doresc companiile de AI să pună mâna pe cărți
Într-un email trimis CBC News, Zoom Books a precizat că nu vinde către Anthropic, însă nu a confirmat direct că nu a avut relații comerciale cu alte companii de AI sau că nu a expediat cărți către companii care doreau să le scaneze și distrugă ulterior. Compania a invocat caracterul confidențial al informațiilor privind clienții săi.
Cărțile fizice, în special cele publicate înainte ca OpenAI să lanseze ChatGPT în 2022, sunt căutate de companiile din domeniul AI. Unul dintre motive ține de faptul că experții sunt îngrijorați că modelele lingvistice se degradează atunci când sunt antrenate în mod repetat pe propriile rezultate, astfel încât trebuie alimentate cu conținut despre care se știe cu certitudine că nu conține texte generate de AI.
Până în jurul anului 2022, cărțile erau scrise exclusiv de oameni, iar companiile de inteligență artificială au nevoie de texte scrise de oameni pentru a antrena viitoarele LLM-uri.
Problema este că instrumentele AI ce funcționează în baza acestor modele, în special primele versiuni, au generat numeroase „halucinații”, adică informații complet inventate. Iar dacă noile modele sunt antrenate la rândul lor pe baza unor texte ce conțin informații false, pericolul este ca output-ul lor să devină profund viciat.