Avertismentul unui cercetător: Chatboții care simulează persoane decedate riscă să-i tulbure pe cei dragi prin „bântuiri digitale nedorite”

• Un studiu al Universității Cambridge a sugerat că roboții de chat cu Inteligență Artificială au nevoie de protocoale de siguranță pentru a preveni provocarea de daune.
• Cercetătorii spun că, atunci când cei vii se înscriu pentru a fi recreați virtual după ce mor, roboții de chat care rezultă ar putea fi folosiți de companii pentru a trimite familiei și prietenilor supraviețuitori notificări nesolicitate.
• În episodul „Be Right Back” din Black Mirror, o văduvă îndurerată se folosește de tehnologia A.I. care îi permite să comunice cu un robot care îl imită pe soțul ei mort.

Chatboții cu Inteligență Artificială care simulează personalitățile unor persoane decedate riscă să-i tulbure pe cei dragi rămași în urmă prin „bântuiri digitale nedorite”, inclusiv prin publicitate, a avertizat un cercetător, anunță The Independent.

Un studiu al Universității Cambridge a sugerat că roboții de chat cu Inteligență Artificială – cunoscuți sub numele de „deadbots” – au nevoie de protocoale de siguranță pentru a preveni provocarea de daune.

Într-o scenă asemănătoare cu episodul „Be Right Back” din Black Mirror, unele companii oferă deja servicii care permit unui chatbot să simuleze tiparele de limbaj și trăsăturile de personalitate ale unei persoane decedate folosind amprenta digitală pe care aceasta a lăsat-o în urmă, potrivit cercetării.

Studiul, publicat în jurnalul Philosophy and Technology, evidențiază potențialul companiilor de a folosi roboți morți pentru a face publicitate subreptică unor produse utilizatorilor în stilul unei persoane dragi care a murit sau pentru a tulbura copiii insistând că un părinte mort este încă „cu tine”.

Cercetătorii spun că, atunci când cei vii se înscriu pentru a fi recreați virtual după ce mor, roboții de chat care rezultă ar putea fi folosiți de companii pentru a trimite familiei și prietenilor supraviețuitori notificări nesolicitate, memento-uri și actualizări despre serviciile pe care le oferă – ca și cum ar fi „urmăriți de morți” în mod digital.

Chiar și cei care se bucură de confortul inițial al unui robot mort pot fi epuizați de interacțiunile zilnice, care devin o „greutate emoțională copleșitoare”, susțin autorii studiului, însă aceștia ar putea fi, de asemenea, neputincioși în ceea ce privește suspendarea unei simulări de inteligență artificială dacă persoana iubită, acum decedată, a semnat un contract îndelungat cu un serviciu digital de viață după moarte.

În episodul „Be Right Back” din Black Mirror, o văduvă îndurerată se folosește de tehnologia A.I. care îi permite să comunice cu un robot care îl imită pe soțul ei mort.

Eticienii în domeniul eticii A.I. de la Centrul Leverhulme pentru viitorul inteligenței din Cambridge descriu acest domeniu ca fiind „de mare risc”.

Co-autorul Dr. Tomasz Hollanek, de la Centrul Leverhulme, a declarat: „Este o problemă de etică: Este vital ca serviciile digitale de viață după moarte să ia în considerare drepturile și consimțământul nu doar al celor pe care îi recreează, ci și al celor care vor trebui să interacționeze cu simulările.

„Aceste servicii riscă să provoace o suferință imensă oamenilor dacă aceștia sunt supuși unor bântuiri digitale nedorite din partea unor reconstituiri de inteligență artificială alarmant de precise ale celor pe care i-au pierdut.

„Potențialul efect psihologic, în special într-un moment deja dificil, ar putea fi devastator.”

Citește și

• București conduce topul în România pentru motorizare
• Olaf Scholz condamnă atacurile asupra politicienilor
• Real Madrid s-a calificat în finala Ligii Campionilor

The post Avertismentul unui cercetător: Chatboții care simulează persoane decedate riscă să-i tulbure pe cei dragi prin „bântuiri digitale nedorite” appeared first on Aleph News.