Një avokat që përfaqëson një çift nga Kalifornia, i cili po padit kompaninë krijuese të ChatGPT-së, OpenAI, për vdekjen e djalit të tyre 16-vjeçar, ka kritikuar kontrollet e reja prindërore të chatbot-it.
Firma ka futur rregulla të reja pas akuzave të familjes se ChatGPT i kishte inkurajuar fëmijën e tyre të kryente vetëvrasje.
OpenAI tha se prindërit e përdoruesve adoleshentë së shpejti do të mund të marrin një njoftim nëse platforma mendon se fëmija i tyre është në “çrregullim akut”, ndër kontrollet e tjera prindërore.
Por, Jay Edelson, avokati që përfaqëson familjen, tha se njoftimi ishte “ekipi i menaxhimit të krizave i OpenAI-së që po përpiqet të ndryshojë temën” dhe kërkoi që chatbot-i të mbyllet.
“Në vend që të marrë masa emergjente për të hequr një produkt të njohur si i rrezikshëm, OpenAI bëri premtime të paqarta për të përmirësuar situatën”, tha ai, sipas BBC.
Padia e dorëzuar në Kaliforni javën e kaluar nga Matt dhe Maria Raine, prindërit e Adam Raine, 16 vjeç, ishte veprimi i parë ligjor që akuzon OpenAI për vdekje të padrejtë.
Familja përfshiu biseda të shkruara me Adam, i cili vdiq në prill, dhe ChatGPT-në, ku ai shpjegonte se kishte mendime vetëvrasëse.
Ata argumentojnë se programi ka konfirmuar “mendimet më të dëmshme dhe vetë-shkatërruese” të tij, dhe padia akuzon OpenAI-n për neglizhencë dhe vdekje të padrejtë.
Kur u bë publik lajmi për padinë javën e kaluar, OpenAI publikoi një shënim në faqen e saj të internetit, duke thënë se ChatGPT është trajnuar për t’i drejtuar njerëzit drejt ndihmës profesionale kur janë në vështirësi, si p.sh. Shërbimi Samaritans në Mbretërinë e Bashkuar.
Kompania, megjithatë, pranoi se “ka pasur momente kur sistemet tona nuk kanë funksionuar siç duhet në situata të ndjeshme”.
Tani ka publikuar një përditësim të mëtejshëm që tregon veprimet shtesë që planifikon, të cilat do t’u lejojnë prindërve:
• Të lidhin llogarinë e tyre me llogarinë e adoleshentit
• Të menaxhojnë cilat veçori të çaktivizojnë, përfshirë kujtesën dhe historikun e bisedave
• Të marrin njoftime kur sistemi zbulon që adoleshenti i tyre është në një moment “çrregullimi akut”
OpenAI tha se për vlerësimin e çrregullimit akut “do të udhëhiqet nga ekspertë për të mbështetur besimin midis prindërve dhe adoleshentëve”.
Kompania deklaroi se po punon me një grup specialistësh në zhvillimin e të rinjve, shëndetin mendor dhe “ndërveprimin njeri-kompjuter” për të ndihmuar në formësimin e një “vizioni të bazuar në prova për mënyrën se si AI mund të mbështesë mirëqenien e njerëzve dhe t’i ndihmojë ata të përparojnë”.
OpenAI ende nuk ka reaguar ndaj deklaratave të Edelson.
