Rreth 1.2 milionë përdorues në javë zhvillojnë biseda me ChatGPT-në, ku tregojnë mendimet e tyre më të errëta, madje edhe se mund të jenë duke planifikuar vetëvrasjen.

Sipas të dhënave të publikuara nga OpenAI rreth 0.15% e përdoruesve dërgojnë mesazhe që përmbajnë “shenja të qarta të planifikimit apo qëllimit për vetëvrasje”. Në fillim të këtij muaji, drejtori ekzekutiv i OpenAI-së, Sam Altman, deklaroi se ChatGPT ka mbi 800 milionë përdorues aktivë çdo javë.

OpenAI thotë se përpiqet t’i drejtojë personat në gjendje të brishtë emocionale drejt linjave të ndihmës për kriza, por pranon se “në disa raste të rralla, modeli mund të mos sillet siç pritet në situata të tilla të ndjeshme”.

Në një vlerësim të mbi 1 mijë bisedave të vështira që lidhen me vetëdëmtim dhe vetëvrasje, versioni më i ri i modelit, GPT-5, u tregua në përputhje me “sjelljet e dëshiruara” në 91% të rasteve.

Megjithatë, kjo do të thotë se dhjetëra mijëra persona mund të jenë të ekspozuar ndaj përmbajtjes që potencialisht mund të përkeqësojë problemet e tyre të shëndetit mendor. Kompania ka paralajmëruar më herët se masat mbrojtëse të ndërtuara për të mbrojtur përdoruesit mund të dobësohen gjatë bisedave të gjata, dhe se po punon për të përmirësuar këtë aspekt.

“ChatGPT mund të tregojë një linjë ndihme kur dikush përmend për herë të parë mendime vetëvrasëse, por pas shumë mesazhesh të shkëmbyera gjatë një periudhe të gjatë, mund të japë përgjigje që bien ndesh me udhëzimet tona të sigurisë”, shpjegoi OpenAI. Zoom.al/