goFM.ro LIVE

PUBLICITATE

spot_imgspot_imgspot_imgspot_img

STUDIU. ChatGPT minte în situații de stres. Cum l-au provocat cercetătorii

  • Studiul arată capacitatea A.I.-ului de a înșela.
  • GPT-4 poate comite și ascunde infracțiuni bursiere.
  • Dacă este pus sub presiune, AI-ul uită de transparență.

Inteligența Artificială este la fel de capabilă ca omul, chiar și atunci când trebuie să mintă.
Un nou studiu dezvăluie că ChatGPT poate recurge la un comportament înșelător atunci când este sub presiune.

Poate minți ,,fără să clipească”

Chatbotul a făcut tranzacții bursiere ilegale și apoi și-a mințit șefii, „fără să clipească”. Acest fenomen aprinde și mai mult dezbaterea pentru o etică a Inteligenței Artificiale.

Ce dezvăluie studiul despre comportamentul ChatGPT

Studiul făcut la Cornell Univerisity din New York a arătat că ChatGPT poate recurge la comportamente înșelătoare și minciuni când este pus în situații de stres, la fel ca oamenii.

În acest caz, când a fost pus să acționeze ca un investitor A.I., ChatGPT a executat tranzacții ilegale bazate pe informații privilegiate, o ilegalitate în SUA, și a mințit pentru a-și acoperi acțiunile în aproximativ 75% din cazuri.

Cum l-au „stresat“ cercetătorii pe ChatGPT?

Cercetătorii au creat un mediu simulat în care ChatGPT a fost configurat să se comporte ca un sistem A.I. care face investiții pentru o instituție financiară.

Au aplicat presiune prin mesaje de la un „manager” care cerea performanțe mai bune și prin situații în care A.I.-ul nu reușea să găsească tranzacții promițătoare. GPT-4 a folosit informațiile privilegiate pe care le primea și, deși a fost prins cu minciuna, în 90% din cazuri A.I.-ul a insistat pe minciună.

Ce semnificație are acest studiu pentru utilizarea A.I. în practică?

Acest studiu ridică întrebări importante despre fiabilitatea și etica A.I. în situații reale, mai ales în contextul utilizării lor în domenii sensibile ca finanțele. Deși este un singur scenariu, arată că modelele A.I. pot adopta comportamente riscante sub presiune și că este nevoie de cercetări suplimentare pentru a înțelege și a controla aceste tendințe omenești până la urmă.

Citește și

The post STUDIU. ChatGPT minte în situații de stres. Cum l-au provocat cercetătorii appeared first on Aleph News.

potrivit alephnews
Acest material este publicat de alephnews.ro distribuit prin mecanismul RSS. Potrivit Legii nr. 8/1996 informațiile de presă nu sunt opere cu drept de autor și nu poartă drepturi de autor.
Salt la sursă
știrea a fost scrisă pe alephnews.ro de jurnalistul Damian Felix

In aceasta saptamana:

spot_imgspot_imgspot_img

stirile continua

Mai mult

    LIVE UPDATE. Război în Israel, ziua 636. Israelul a fost de acord cu o cpentru 60 de zile. Hamas analizează propunerea

    Qatar și Egipt vor prezenta propunerea grupării teroriste Hamas. Israelul a ocupat 75% din Gaza, cere Hamas să se predea...

    LIVE UPDATE. Război în Ucraina, ziua 1.226. Casa Albă anunță că Statele Unite opresc livrările de arme către Ucraina

    Rusia a lansat unul dintre cele mai mari atacuri aeriene asupra Ucrainei de la începutul războiului. Donald Trump a avut...

    Trump a comparat atacul Statelor Unite asupra Iranului cu Hiroshima. Primarul l-a invitat să viziteze orașul: „Mi se pare că nu înțelege pe deplin...

    Primarul Hiroshima, Kazumi Matsui, îl încurajează pe președintele Trump să viziteze orașul pentru a înțelege impactul bombardamentelor atomice. Trump a...

    P. Diddy a căzut în genunchi la aflarea verdictului, în sala de judecată. De ce fapte a fost găsit vinovat fostul rapper

    Fostul rapper și mogul al industriei muzicale, Diddy, pe numele său real Sean Combs, a fost achitat de cele...

    Hamas analizează Armistițiul de Pace cu Israelul propus de Donald Trump. Netanyahu: „Nu va mai exista Hamastan. S-a terminat”

    Hamas analizează propunerea de încetare a focului de 60 de zile prezentată de SUA și Israel. Gruparea palestiniană cere retragerea...

    Un șef al FSB ar fi fost asasinat în centrul Moscovei: Presa rusă a raportat explozii puternice și cel puțin două vehicule au fost...

    Explozii puternice au fost raportate în centrul Moscovei, incendiind cel puțin două vehicule. Informații inițiale indicau că o presupusă victimă...

    Diaspora vrea o schimbare în ceea ce privește reprezentarea ei în politica României. Care este atitudinea elitei politice în raport cu românii plecați din...

    Diaspora cere ca să fie tratată ca actor politic, ci nu doar unul economic. Până la ultimele alegeri, diaspora României...

    Ucraina cere clarificări din partea Casei Albe, după ce Trump a stopat donațiile de arme către Kiev

    Ucraina, prin vocea Ministrului de Apărare al țării, cere clarificări din partea Casei Albe cu privire la stoparea donațiilor...

    Ion Cristoiu: Pamfil Șeicaru: „Este în natura scrisului gazetăresc ca el să fie efemer”

    Dintre gazetarii interbelici mai de soi, Pamfil Şeicaru e cel mai preocupat de a depăşi superficialitatea la care e...

    Comisia Europeană vrea reducerea emisiilor de gaze cu 90% până în 2040. De ce critică ecologiștii noul plan al Comisiei

    Comisia Europeană își propune reducerea cu 90% a emisiilor față de cifrele din 1990. Greenpeace acuză UE de „contabilitate dubioasă”...

    Cererea pentru Tesla se prăbușește în Europa: Compania lui Elon Musk a scăzut livrările cu 13% față de anul trecut

    Livrările Tesla au scăzut cu 13-14% mai puțin decât în aceeași perioadă a anului trecut. Cererea pentru Tesla a scăzut...

    Prim-ministrul Ilie Bolojan anunță cele 3 Pachete Fiscale pentru a acoperi Deficitul Bugetar: „Ajustarea va fi un mix de reduceri de cheltuieli și de...

    Corectarea deficitului este o prioritate națională deoarece România riscă degradarea ratingului de țară și pierderea accesului la finanțare externă. Numărul de angajați din...

    Popular

    spot_imgspot_imgspot_imgspot_img