Google DeepMind avertizează că Inteligența Artificială Generală cu „capacități umane” va apărea până în 2030 și „va putea distruge permanent omenirea”

• Google DeepMind estimează că Inteligența Artificială Generală (AGI) ar putea deveni realitate până în 2030.
• AGI are potențialul de a „distruge permanent umanitatea,” conform unui document de cercetare al DeepMind.
• Documentul analizează riscurile existențiale și impactul sever pe care AGI le-ar putea avea asupra omenirii.
• Documentul identifică patru categorii principale de riscuri asociate sistemelor A.I. puternice: „utilizare abuzivă”, „misalignment”, „erori” și „riscuri structurale”.

Pe măsură ce avansează în dezvoltarea unor sisteme A.I. puternice, Google DeepMind avertizează – într-un document de 145 de pagini despre siguranța utilizării Inteligenței Artificiale – că AGI (Inteligența Artificială Generală) înzestrată cu capacități umane „ar putea deveni realitate până în 2030” și „ar putea distruge permanent omenirea”, scrie Fortune.

În cadrul unei analize a spectrului de riscuri asociate acestui tip de Inteligență Artificială, documentul subliniază: „Riscurile existențiale care distrug permanent umanitatea sunt exemple clare de daune severe. Între aceste extreme ale spectrului, decizia privind severitatea unei daune nu este responsabilitatea Google DeepMind; aceasta aparține societății, ghidată de toleranța colectivă la risc și de conceptualizarea daunelor. Având în vedere impactul masiv potențial al AGI, ne așteptăm ca aceasta să poată reprezenta un risc semnificativ de daune severe”.

Shane Legg, cofondatorul DeepMind și unul dintre autorii lucrării, a declarat anterior că previziunea sa pentru apariția AGI este anul 2028.

Recent, CEO-ul DeepMind, Demis Hassabis, a afirmat într-un interviu că AGI ar putea deveni realitate în următorii „cinci până la zece ani”, plasând anul 2030 la limita inferioară a acestui interval.

Totuși, cercetătorii Google recunosc că sunt „extrem de incerți” cu privire la termenele exacte pentru dezvoltarea unor sisteme A.I. puternice, dar consideră 2030 un termen „plauzibil”.

Documentul a prezentat patru categorii principale de riscuri asociate AGI:

1. „Utilizare abuzivă” – Utilizarea intenționată a Inteligenței Artificiale pentru a provoca daune.

2. „Misalignment” – Inteligența Artificială dezvoltă „neintenționat” un comportament dăunător

3. „Erori”- Eșecuri neașteptate cauzate de defecte de design sau modul în care a fost antrenat A.I.-ul

4. „Riscuri structurale” – Conflicte între diverse grupuri de oameni, inclusiv state sau companii, sau chiar între sisteme A.I.

DeepMind a prezentat în document și strategia pe care o va aplica pentru reducerea riscurilor, iar aceasta se concentrează pe „prevenirea utilizării abuzive” și subliniază „importanța identificării timpurii” a capacităților periculoase.

Eforturile sunt insuficiente, avertizează experții

Cu toate acestea, abordarea DeepMind nu i-a convins pe toți experții în A.I.

Anthony Aguirre, cofondator și director executiv al Future of Life Institute, a declarat pentru Fortune că, deși echipa DeepMind face un „efort admirabil” pentru a aborda riscurile asociate AGI, „este nevoie de mult mai mult”.

„Inteligența Artificială supraumană amenință să provoace tulburări sociale și politice fără precedent în istoria umanității”, a spus el. „Așa cum indică chiar autorii, AGI ar putea apărea curând – chiar aproape în orice moment – și ar putea să se auto-îmbunătățească rapid, depășind cu mult capacitatea umană. Astfel de sisteme sunt inerent imprevizibile, iar noi suntem mult mai aproape de a le construi decât de a înțelege cum să le controlăm, dacă acest lucru este măcar posibil”, avertizează Aguirre.

Google nu a răspuns solicitării de comentarii din partea publicației Fortune.

The post Google DeepMind avertizează că Inteligența Artificială Generală cu „capacități umane” va apărea până în 2030 și „va putea distruge permanent omenirea” appeared first on Aleph News.