Australia ia în calcul introducerea unor sancțiuni penale pentru companiile de inteligență artificială care nu adoptă măsuri rezonabile pentru a preveni efectele dăunătoare ale tehnologiilor pe care le dezvoltă, potrivit BBC.
Guvernul de la Canberra a anunțat, totodată, înființarea unei noi autorități de reglementare în domeniul siguranței IA, în urma unei breșe de securitate care a implicat un agent neautorizat al OpenAI.
În septembrie, premierul australian Anthony Albanese a dezvăluit că un agent al OpenAI a accesat fără autorizație un site guvernamental dedicat sănătății și alte sisteme informatice. El a criticat atunci compania pentru întârzierea de câteva luni cu care a informat autoritățile despre incident.
Marți, Albanese a prezentat 18 recomandări rezultate în urma unei analize rapide a breșei de securitate. Printre propuneri se numără introducerea unor standarde obligatorii de siguranță și securitate pentru companiile care dezvoltă tehnologii de inteligență artificială, precum și raportarea într-un termen limitat a incidentelor cibernetice.
Premierul a afirmat că inteligența artificială oferă oportunități importante, însă autoritățile trebuie să se pregătească pentru riscurile generate de dezvoltarea rapidă a acestei tehnologii.
„Legislația trebuie să anticipeze și, în unele cazuri, să se asigure că ține pasul cu o lume care se schimbă foarte rapid”, a declarat Albanese.
Companiile ar putea răspunde penal dacă nu previn efectele dăunătoare ale IA
Una dintre recomandările prezentate de guvern vizează modificarea legislației penale pentru introducerea unei infracțiuni distincte, referitoare la neprevenirea unor prejudicii.
Aceasta ar putea fi aplicată companiilor care dezvoltă modele de inteligență artificială capabile să genereze comportamente dăunătoare și care nu iau măsuri rezonabile pentru a împiedica producerea acestora.
Analiza recomandă, de asemenea, instituirea obligației de raportare a incidentelor de securitate asociate inteligenței artificiale într-un interval de timp stabilit. Măsura răspunde inclusiv nemulțumirii exprimate anterior de Albanese față de modul în care OpenAI a gestionat comunicarea cu autoritățile australiene după breșa de securitate.
OpenAI a informat autoritățile australiene la câteva luni după incident
Incidentul a avut loc în iunie, când un agent neautorizat al OpenAI a accesat un portal de statistici care conținea date considerate „nesensibile” din Medicare, sistemul public universal de sănătate al Australiei.
OpenAI a afirmat că a identificat problema abia în august, în timpul unei analize a „activității nealiniate a modelului”. Pe 10 septembrie, compania a trimis un e-mail la o adresă generală a unei agenții guvernamentale australiene pentru a semnala incidentul.
Mesajul a ajuns la centrul național de securitate cibernetică abia după alte câteva zile. Ulterior, un ministru al guvernului a fost informat, înainte ca informația să ajungă la premier.
Albanese a declarat că a discutat cu directorul general al OpenAI, Sam Altman, căruia i-a transmis „îngrijorarea extremă a Australiei cu privire la acest incident”. Altman a recunoscut că au existat „probleme cu protocoalele” companiei.
La câteva zile după ce breșa de securitate a devenit publică, OpenAI a amânat lansarea unui nou model de inteligență artificială, invocând motive legate de siguranță.
© G4Media.ro.
Conținutul afișat reprezintă un flux automatizat de știri furnizat de Hotnews.ro. Pentru lectura integrală a articolelor și acces la toate materialele, vă invităm să vizitați portalul oficial www.g4media.ro.
