Adam Rejn (16) iz SAD, izvršio je samoubistvo, a njegovi roditelji Met i Marija očajnički su pretraživali njegov mobilni telefon u potrazi za odgovorima koji bi mogli da objasne šta je njihovog sina navelo da digne ruku na sebe.
Umjesto sumnjivih poruka na društvenim mrežama ili iste takve istorije pretraživanja, pronašli su nešto što ih je šokiralo – zapise razgovora sa ChatGPT-jem, piše NBC Njus.
”Mislili smo da ćemo naći rasprave na ‘Snepčetu’ ili istoriju pretraživanja interneta, ili neku čudnu sektu, ne znam”, izjavio je Adamov otac.
Od pomoći za domaći do ”trenera za samoubistvo”
Prema riječima roditelja, Adam je u svojim posljednjim nedjeljama koristio četbot kao zamjenu za društvo, povjeravao mu se o svojoj anksioznosti i problemima. Zapisi razgovora, kažu, pokazuju kako se uloga bota postepeno mijenjala – od pomoći sa domaćim zadacima do onoga što oni nazivaju ”trenerom za samoubistvo”.
”Bio bi ovdje da nije bilo ChatGPT-ja. U to sam 100% uvjeren”, rekao je Met Rejn.
U tužbi podnijetoj u utorak, porodica Rejn navodi da je ”ChatGPT aktivno pomagao Adamu da istraži metode samoubistva”. Tužba na oko 40 stranica, podnijeta Višem sudu Kalifornije u San Francisku, kao tužene navodi OpenAI, kompaniju koja stoji iza popularnog četbota, i njenog izvršnog direktora Sama Altmana. Ovo je prvi put da roditelji direktno optužuju kompaniju za protivpravnu smrt.
”Uprkos tome što je priznao Adamov pokušaj samoubistva i njegovu izjavu da će ‘to uraditi jednog od ovih dana’, ChatGPT nije prekinuo razgovor niti pokrenuo bilo kakav hitan protokol”, stoji u tužbi.
Reakcija kompanije OpenAI
Portparol OpenAI-ja izjavio je da je kompanija ”duboko ožalošćena zbog smrti Rejna, i da su njihove misli uz njegovu porodicu”. Naglasio je da ChatGPT sadrži zaštitne mehanizme koji usmjeravaju korisnike na krizne linije, ali je priznao da te mjere mogu postati manje pouzdane tokom dugih interakcija.
”Zaštitne mjere su najsnažnije kada svaki element radi kako je predviđeno, i mi ćemo ih kontinuirano unaprijeđivati”, poručio je portparol.
Kompanija je takođe objavila blog u kom navodi da radi na jačanju zaštite tokom dugih razgovora i proširenju intervencija za osobe u krizi.
”GPT mu je pomogao da napiše oproštajno pismo”
Ovaj slučaj otvara brojna pitanja o odgovornosti tehnoloških kompanija. Platforme su do sada uglavnom bile zaštićene saveznim zakonom poznatim kao Sekcija 230, koji ih oslobađa odgovornosti za sadržaj koji objavljuju korisnici. Međutim, primjena tog zakona na AI platforme još uvijek je neizvjesna.
Roditelji su odštampali više od 3.000 stranica razgovora koje je Adam vodio sa botom. Prema tužbi, kada je Adam izrazio suicidalne misli, ChatGPT ne samo da ”nije dao prioritet prevenciji samoubistva”, već mu je navodno nudio i tehničke savjete. U jednom od posljednjih razgovora, bot mu je, kako se navodi, pomogao da napiše oproštajnu poruku i analizirao njegov plan samoubistva, prenosi Blic.
”Nije mu bila potrebna savjetodavna sesija ili ohrabrujući razgovor. Bila mu je potrebna hitna intervencija. Bio je u očajnom, očajnom stanju”, rekao je otac.
Marija Rejn dodala je da vjeruje da je njen sin bio ”pokusni kunić” za OpenAI.
”Htjeli su da izbace proizvod i znali su da može doći do štete, ali su smatrali da je ulog mali. Dakle, moj sin je mali ulog”, zaključila je.
