PUBLICITATE

spot_imgspot_imgspot_imgspot_img

STUDIU. ChatGPT minte în situații de stres. Cum l-au provocat cercetătorii

  • Studiul arată capacitatea A.I.-ului de a înșela.
  • GPT-4 poate comite și ascunde infracțiuni bursiere.
  • Dacă este pus sub presiune, AI-ul uită de transparență.

Inteligența Artificială este la fel de capabilă ca omul, chiar și atunci când trebuie să mintă.
Un nou studiu dezvăluie că ChatGPT poate recurge la un comportament înșelător atunci când este sub presiune.

Poate minți ,,fără să clipească”

Chatbotul a făcut tranzacții bursiere ilegale și apoi și-a mințit șefii, „fără să clipească”. Acest fenomen aprinde și mai mult dezbaterea pentru o etică a Inteligenței Artificiale.

Ce dezvăluie studiul despre comportamentul ChatGPT

Studiul făcut la Cornell Univerisity din New York a arătat că ChatGPT poate recurge la comportamente înșelătoare și minciuni când este pus în situații de stres, la fel ca oamenii.

În acest caz, când a fost pus să acționeze ca un investitor A.I., ChatGPT a executat tranzacții ilegale bazate pe informații privilegiate, o ilegalitate în SUA, și a mințit pentru a-și acoperi acțiunile în aproximativ 75% din cazuri.

Cum l-au „stresat“ cercetătorii pe ChatGPT?

Cercetătorii au creat un mediu simulat în care ChatGPT a fost configurat să se comporte ca un sistem A.I. care face investiții pentru o instituție financiară.

Au aplicat presiune prin mesaje de la un „manager” care cerea performanțe mai bune și prin situații în care A.I.-ul nu reușea să găsească tranzacții promițătoare. GPT-4 a folosit informațiile privilegiate pe care le primea și, deși a fost prins cu minciuna, în 90% din cazuri A.I.-ul a insistat pe minciună.

Ce semnificație are acest studiu pentru utilizarea A.I. în practică?

Acest studiu ridică întrebări importante despre fiabilitatea și etica A.I. în situații reale, mai ales în contextul utilizării lor în domenii sensibile ca finanțele. Deși este un singur scenariu, arată că modelele A.I. pot adopta comportamente riscante sub presiune și că este nevoie de cercetări suplimentare pentru a înțelege și a controla aceste tendințe omenești până la urmă.

Citește și

The post STUDIU. ChatGPT minte în situații de stres. Cum l-au provocat cercetătorii appeared first on Aleph News.

potrivit alephnews
Acest material este publicat de alephnews.ro distribuit prin mecanismul RSS. Potrivit Legii nr. 8/1996 informațiile de presă nu sunt opere cu drept de autor și nu poartă drepturi de autor.
Salt la sursă
știrea a fost scrisă pe alephnews.ro de jurnalistul Damian Felix

In aceasta saptamana:

spot_imgspot_imgspot_img

stirile continua

Mai mult

    Trump își lansează rețea telefonică. Ce promite MAGAphone-ul

    Trump Mobile promite telefoane „made in USA”, dar experții au dubii. T1 Phone costă 499 dolari, dar are componente greu...

    Emma Răducanu și Carlos Alcaraz formează una dintre perechile de top înscrise la noua ediție a probei de dublu mixt de la US Open

    Proba de dublu mixt va avea loc ca eveniment separat pe 19-20 august, înainte de turneul principal. Șaisprezece echipe s-au...

    Trump ia în considerare intrarea SUA în războiul dintre Israel și Iran. Președintele SUA a convocat o întâlnire cu Consiliul de Securitate Națională în...

    Israelul și Iranul continuă să se bombardeze reciproc Trump cere Iranului să ajungă la o înțelegere Netanyahu: „Iranul are suficient uraniu...

    JD Vance și Steve Witkoff ar putea fi trimiși în Orient să discute cu iranienii. Ce ar putea decide Donald Trump

    Trump: Pregătim ceva mare, mai tare decât un armistițiu. Serviciile secrete ale SUA au păreri diferite despre declarațiile lui Netanyahu. Axios:...

    Trump amenință Iranul: „CAPITULARE NECONDIȚIONATĂ! Știm exact unde se află așa-numitul „Lider Suprem” Ali Khamenei. Nu-l vom elimina momentan”

    Israelul și Iranul continuă să se bombardeze reciproc Trump cere Iranului să ajungă la o înțelegere Netanyahu: „Iranul are suficient uraniu...

    Mâine, temperaturile ajung la 33 de grade Celsius la umbră. Cum se anunță vremea în weekend

    Te bucuri de vreme frumoasă mâine. Aversele apar izolat doar la munte. În capitală vor fi înnorări trecătoare, dar nu...

    Statele Unite trimit arme în Orientul Mijlociu. Ce provocări au Iranul și Israelul într-un război de la distanță

    Israelul nu are armele pentru a distruge facilitățile nucleare îngropate din Iran. SUA au bombe cu focos penetrant, care ar...

    WhatsApp lansează trei funcții publicitare într-o secțiune separată numită „Actualizări”. Reclamele se bazează pe informațiile utilizatorului

    Cei care își leagă contul WhatsApp de Facebook sau Instagram vor vedea reclame mai personalizate. Companiile vor putea promova conținut...

    Donald Trump și Keir Starmer încheie o înțelegere comercială în cadrul Summit-ului G7. Problema comerțului cu oțel rămâne nerezolvată

    Trump și Keir Starmer încheie o nouă înțelegere comercială pentru reducerea taxelor vamale pe diferite produse sancționate anterior. Tarifele americane...

    Trump susține tratatul de apărare AUKUS în cadrul Summit-ului G7. Ce presupune această înțelegere

    Trump susține tratatul de apărare AUKUS încheiat pe timpul mandatului lui Joe Biden. Documentul prevede o asistență sporită a SUA...

    Israelul a bombardat o zonă din apropierea unui loc de distribuire a ajutoarelor din Khan Younis. 51 de persoane au murit și 200 au...

    Spitalul Nasser, principala unitate medicală funcțională din zonă, a fost copleșit de numărul mare de victime. IDF a recunoscut incidentul...

    CEO-ul Spotify investește 600 de milioane de euro în tehnologie militară: Helsing devine un lider în apărarea europeană bazată pe A.I.

    Daniel Ek, CEO și co-fondator Spotify, investește 600 de milioane de euro în compania de apărare Helsing. Helsing este evaluată...

    Popular

    spot_imgspot_imgspot_imgspot_img