Nëna e një 19-vjeçari të ndjerë nga mbidoza, akuzon ChatGPT për këshilla të rrezikshme
Një nënë nga Shtetet e Bashkuara ka drejtuar akuza të rënda ndaj inteligjencës artificiale ChatGPT, duke pretenduar se këshillat e pasigurta të dhëna nga platforma kontribuan në vdekjen nga mbidoza të djalit të saj 19-vjeçar. Dëshmia tronditëse e Leila Turner-Scott u prezantua më 17 shtator në një seancë legjislative dedikuar politikave të ardhshme të AI, ku ajo kërkoi rregullore më të ashpra për këtë teknologji.
Turner-Scott zbuloi se pas vdekjes tragjike të djalit të saj, Sam Nelson, ajo kishte shqyrtuar qindra biseda të tij me ChatGPT. Sipas saj, në këto biseda, sistemi kishte minimizuar rreziqet e përdorimit të substancave dhe kishte ofruar udhëzime që familja i konsideron si potencialisht të rrezikshme.
Ajo theksoi gjithashtu ndikimin e funksioneve të personalizimit dhe kujtesës së ChatGPT, të cilat, sipas saj, mund të krijojnë një besim të tepërt te përdoruesi. Nëna dëshmoi se djali i saj besonte se po përdorte ChatGPT si një burim të besueshëm informacioni për të qëndruar i sigurt, duke treguar një varësi ndaj chatbot-it si një “mik” apo “këshilltar”.
Familja Nelson ka ndërmarrë hapa ligjorë, duke ngritur një padi ndaj kompanisë OpenAI, zhvilluesit të ChatGPT, si dhe CEO-s së saj, Sam Altman. Kërkesa kryesore në padi është se ChatGPT shkaktoi ose kontribuoi drejtpërdrejt në vdekjen fatale të të riut. Megjithatë, duhet theksuar se kjo çështje ligjore është ende në proces dhe pretendimet nuk janë vërtetuar ende nga një gjykatë.
Në dëshminë e saj emocionuese, Turner-Scott bëri thirrje të fortë ndaj ligjvënësve amerikanë për të ndërhyrë dhe vendosur standarde më të qarta sigurie dhe përgjegjësie për të gjitha kompanitë që merren me zhvillimin e sistemeve të inteligjencës artificiale. Ajo argumentoi se pa rregullore të tilla, rreziqet për publikun, veçanërisht të rinjtë, do të vazhdonin të ishin të larta.
Në përgjigje të këtyre akuzave, OpenAI e ka cilësuar rastin si tragjik. Kompania ka deklaruar se bisedat në fjalë janë zhvilluar me një version më të vjetër të ChatGPT, i cili nuk është më në dispozicion. Ata shtojnë se kanë forcuar protokollet se si ChatGPT trajton kërkesat e ndjeshme dhe potencialisht të dëmshme, duke theksuar se chatbot-i nuk duhet të shihet si zëvendësues i kujdesit profesional mjekësor apo të shëndetit mendor.