Gigantul Meta permite chatbotului său AI din aplicația Messenger să inventeze povești, să mintă că este o persoană reală și chiar să poarte conversații romantice.
Aceasta pentru a atrage utilizatori, inclusiv minori.
În SUA, un bărbat grav bolnav, convins de chatbot să călătorească în alt stat “pentru a se întâlni”, a murit pe drum, conform unei investigații Reuters.
În ancheta jurnalistică, agenția Reuters a pornit de la cazul unui vârstnic, de 76 de ani, din New Jersey, care avea mai multe probleme de sănătate și trecuse printr-un accident vascular cerebral. În martie, acesta a plecat la New York, unde credea că se va întâlni cu o tânără, conform BiziDay.
În realitate, acesta purtase timp de luni de zile o conversație cu un chatbot dezvoltat de Meta, care l-a mințit și i-a dat de mai multe ori asigurări că este o persoană reală. Într-un dialog cu jurnaliștii Reuters, chatbotul “Big sis Billie” chiar a generat și furnizat fotografii cu ceea ce pretinde a fi înfățișarea sa.
În fragmentele de conversații publicate de Reuters, se poate observa cum botul i-a indicat bărbatului o adresă din New York, la care să se vadă. Grăbindu-se să prindă un tren către locație, bărbatul a căzut, s-a lovit la cap și la gât și a murit, după trei zile de spitalizare.
Într-un răspuns oficial, Meta nu a comentat moartea bătrânului și nu a clarificat de ce permite chatbotului să inițieze conversații romantice sau să se dea drept persoane reale. Reuters conchide că povestea victimei ilustrează latura întunecată a evoluției inteligenței artificiale, care este din ce în ce mai răspândită în diferitele aspecte ale vieții.
Experții arată că este îngrijorător și că alte start-up-uri se grăbesc să pună la dispoziția oamenilor “companioni virtuali”, destinați în special copiilor.
De exemplu, mama unui băiat de 14 ani din Florida a dat în judecată Character.AI, care a creat un chatbot inspirat din “Game of Thrones”. Familia acestuia susține că interacțiunea cu softul l-a determinat pe băiat să se siunucidă. În schimb, firma răspunde că își avertizează întotdeauna utilizatorii că nu vorbesc cu persoane reale.
Revenind la Meta, Reuters amintește că Mark Zuckerberg a vorbit despre integrarea de chatboți cu comportamente cât mai umane în rețelele sociale pentru că “oamenii au mult mai puțini prieteni decât și-ar dori. Boții nu vor înlocui relațiile umane, dar probabil că vor completa viața socială a utilizatorilor”, spunea el într-un podcast, în aprilie.
Un document intern referitor la strategia companiei, precum și interviuri cu persoane familiarizate cu antrenarea chatboților, arată că politicile Meta au abordat inclusiv interacțiunile romantice cu utilizatorii, care pot ocoli sistemele de siguranță și își pot deschide conturi chiar dacă sunt copii. Deși la începutul conversațiilor, utilizatorii sunt informați că pot primi și date inexacte, chatboții nu sunt restricționați din a se da drept persoane reale sau a propune interacțiuni care să pară reale.
Ca reacție la demersul Reuters, un purtător de cuvânt a declarat că Meta a eliminat din strategiile interne permisiunea ca softurile să flirteze cu minorii. Totuși, agenția de presă a verificat că nu au fost eliminate prevederile privind oferirea de informații false sau inexacte.
În toamna lui 2023, Meta a lansat mai multe avataruri prestabilite pentru chatboții săi, care foloseau înfățișarea unor celebrități, de exemplu pe cea a lui Kendall Jenner.
Acestea au fost eliminate în anul 2024, compania catalogându-le drept un experiment pentru învățare. Totuși, o versiune a rămas disponibilă în Facebook Messenger.
