Compania americană OpenAI a anunțat că va introduce un mecanism de control parental pentru instrumentul său de inteligență artificială (AI) ChatGPT, după ce, la sfârșitul lunii august, unii părinți americani au formulat acuzații conform cărora acest robot conversațional i-ar fi încurajat pe copiii lor să se sinucidă, transmite AFP.
'În luna următoare, părinții vor putea să-și conecteze contul la cel al adolescentului lor' și 'să controleze modul în care ChatGPT răspunde adolescentului lor cu reguli de comportament ale modelului', a declarat OpenAI într-o postare pe blog.
Potrivit companiei, părinții vor putea fi alertați în cazul detectării unei 'stări de suferință acută' în conversațiile copiilor lor și vor putea controla parametrii contului, scrie Agerpres.
Acest anunț vine în urma unui articol de blog publicat la sfârșitul lunii august, în care compania anunța că avea în pregătire un mecanism de control parental.
Cu o zi înainte, părinții unui adolescent californian de 16 ani care s-a sinucis au depus plângere împotriva OpenAI, acuzând că ChatGPT i-ar fi furnizat fiului lor instrucțiuni detaliate pentru a-și pune capăt zilelor și că l-ar fi încurajat să facă acest gest.
'Continuăm să îmbunătățim modul în care modelele noastre recunosc și răspund la semnele de suferință mentală și emoțională', a adăugat marți compania în articolul său de blog.
OpenAI a declarat că va adopta și alte măsuri, așteptate în următoarele 120 de zile.
Compania va redirecționa anumite 'conversații sensibile' către modele de raționament mai avansate, cum ar fi GPT-5 Thinking. 'Modelele de raționament urmează și aplică într-un mod mai sistematic directivele de securitate', a precizat grupul american.
