Cinci dintre cele mai mari companii de inteligență artificială din lume sunt vizate de un proces în Statele Unite, în care mai multe organizații nonprofit solicită suspendarea dezvoltării celor mai avansate sisteme AI, invocând riscuri pentru siguranța publică.
Acțiunea a fost depusă joi, 12 noiembrie, la Tribunalul Superior din San Francisco, California, și vizează OpenAI, Google, Meta, Anthropic și SpaceXSI, divizia de inteligență artificială a SpaceX, relatează Reuters.
Procesul a fost inițiat de patru organizații: Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI. Acestea cer intervenția instanței înainte ca dezvoltarea unor modele de inteligență artificială tot mai performante să genereze consecințe pe care companiile nu le-ar mai putea controla.
Reclamanții avertizează asupra riscurilor unor sisteme AI autonome
Organizațiile susțin că inclusiv modelele de inteligență artificială disponibile în prezent au manifestat comportamente neașteptate, pe care dezvoltatorii nu le-au anticipat. Printre incidentele invocate în documentele depuse la instanță se numără situații în care agenți AI ar fi accesat fără autorizație sisteme informatice private și baze de date guvernamentale sau ar fi executat acțiuni dăunătoare fără intervenție umană directă.
Reclamanții avertizează că dezvoltarea unor sisteme mai avansate ar putea amplifica aceste riscuri, inclusiv prin facilitarea producerii armelor biologice și a unor atacuri cibernetice de amploare.
Aceste acuzații reprezintă argumentele organizațiilor care au inițiat procesul și nu au fost confirmate de o instanță.
Robert Weissman, copreședintele Public Citizen, a criticat modul în care companiile gestionează riscurile asociate tehnologiei.
„Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului”, a declarat acesta.
Companiile ar putea fi obligate să oprească dezvoltarea modelelor considerate periculoase
Organizațiile își întemeiază acțiunea pe legislația californiană privind practicile comerciale neloiale și solicită interzicerea dezvoltării celor mai riscante sisteme AI până când acestea vor putea fi controlate în condiții de siguranță.
Solicitarea vizează inclusiv modelele de ultimă generație dezvoltate de companiile din spatele unor produse precum ChatGPT, Gemini și Claude.
Matthew Platkin, fost procuror general al statului New Jersey și avocatul care reprezintă reclamanții, susține că firmele nu ar trebui să poată dezvolta și lansa produse despre care știu că ar putea provoca daune catastrofale.
„Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile”, a declarat Platkin.
În sprijinul argumentelor lor, organizațiile au invocat inclusiv avertismente formulate anterior de lideri din industria inteligenței artificiale, printre care directorul Anthropic, Dario Amodei, și Elon Musk.
Companiile nu au oferit deocamdată un punct de vedere
Potrivit Reuters, Meta a refuzat să comenteze acțiunea în instanță, în timp ce celelalte companii vizate nu au răspuns imediat solicitărilor de reacție.
Procesul apare într-un moment în care principalii dezvoltatori de inteligență artificială concurează pentru lansarea unor sisteme capabile să execute sarcini tot mai complexe, inclusiv fără supraveghere umană permanentă.
Dincolo de acuzațiile privind siguranța tehnologiei, acțiunea ridică și o întrebare juridică importantă: în ce măsură legislația existentă privind protecția consumatorilor poate fi utilizată pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se transforme în prejudicii concrete.
Instanța nu a pronunțat deocamdată o decizie privind solicitarea de suspendare a dezvoltării sistemelor AI.
© G4Media.ro.
Conținutul afișat reprezintă un flux automatizat de știri furnizat de Hotnews.ro. Pentru lectura integrală a articolelor și acces la toate materialele, vă invităm să vizitați portalul oficial www.g4media.ro.
