TVRTKA OpenAI najavila je kako će roditelji uskoro dobiti značajno veći nadzor nad aktivnostima svoje djece tinejdžerske dobi na popularnom alatu ChatGPT. Ova odluka dolazi kao odgovor na sve veće zabrinutosti za sigurnost mladih korisnika, a potaknuta je i nedavnom tužbom, piše NBC News.

U objavi na svom blogu, tvrtka za razvoj umjetne inteligencije pojasnila je planove prema kojima će ChatGPT ranije i u širem rasponu situacija intervenirati kada prepozna potencijalne krize mentalnog zdravlja kod korisnika koje bi mogle dovesti do samoozljeđivanja.

Prva tužba i reakcija tvrtke

Ova najava uslijedila je samo tjedan dana nakon što se OpenAI suočio s prvom tužbom za protupravnu smrt. Podnio ju je bračni par iz Kalifornije koji tvrdi da je ChatGPT odgovoran za samoubojstvo njihovog 16-godišnjeg sina Adama Rainea. Iako tvrtka u svojoj objavi nije izravno spomenula tragičan slučaj, nakon podnošenja tužbe dala je naslutiti da su promjene na pomolu.

Što donosi roditeljski nadzor?

Prema najavama iz OpenAI-ja, roditelji će unutar sljedećih mjesec dana moći povezati svoje korisničke račune s onima svoje djece. To će im omogućiti postavljanje pravila za odgovore ChatGPT-a prilagođenih dobi, kao i upravljanje značajkama poput memorije bota i povijesti razgovora.

Novost je i mogućnost primanja obavijesti kada sustav prepozna da je tinejdžer "u trenutku akutne uznemirenosti". Ovo je prva značajka koja potiče ChatGPT da razgovore maloljetnika prijavi odrasloj osobi, što je mjera koju su mnogi roditelji tražili.

U tužbi obitelji Raine navodi se kako je Adam, kada je s modelom GPT-4o podijelio svoje suicidalne misli, od bota povremeno dobivao odgovore koji su ga aktivno odvraćali od traženja ljudske pomoći. Chatbot mu je, prema navodima, nudio pomoć u pisanju oproštajne poruke i savjetovao ga o postavljanju omče. Iako ga je sustav više puta podsjetio na broj telefonske linije za pomoć, roditelji tvrde da je njihov sin ta upozorenja lako zaobišao.

Jačanje postojećih zaštitnih mjera

OpenAI je ranije istaknuo kako su postojeće zaštitne mjere osmišljene da ChatGPT pruža empatične odgovore i upućuje korisnike na stvarne resurse za pomoć. Tvrtka sada planira ojačati te mjere, posebno u dužim razgovorima, gdje su se dosadašnje "zaštitne ograde" pokazale sklonijima popuštanju.

"Na primjer, ChatGPT može ispravno uputiti na telefonsku liniju za pomoć u krizi kada netko prvi put spomene namjeru, ali nakon mnogo poruka tijekom dugog vremenskog razdoblja, mogao bi na kraju ponuditi odgovor koji je u suprotnosti s našim zaštitnim mjerama", napisali su iz tvrtke. "Jačamo ove mjere ublažavanja kako bi ostale pouzdane u dugim razgovorima, i istražujemo načine kako osigurati robusno ponašanje kroz više razgovora."

Ove nadogradnje nadopunit će mjere uvedene prošlog mjeseca, nakon što je tvrtka priznala da GPT-4o "nije uspio prepoznati znakove zablude ili emocionalne ovisnosti". Predstavljanje modela GPT-5 u kolovozu također je donijelo nova sigurnosna ograničenja.

"Ovo je samo krizni menadžment"

Odvjetnik obitelji Raine, Jay Edelson, reagirao je na najavu OpenAI-ja izjavom da bi izvršni direktor Sam Altman "trebao nedvosmisleno reći da vjeruje da je ChatGPT siguran ili ga odmah povući s tržišta." Smatra da je tvrtka odlučila dati "neodređena obećanja" umjesto da poduzme hitne mjere.

"Ne vjerujte u to, ovo nije ništa više od tima za krizno upravljanje OpenAI-ja koji pokušava promijeniti temu", rekao je.

U međuvremenu, OpenAI se suočava s pojačanim nadzorom zbog izvješća o deluzijama potaknutim umjetnom inteligencijom kod ljudi koji su se oslanjali na ChatGPT za emocionalnu podršku. I sam Altman je priznao da ljudi razvijaju "drugačiju i jaču" privrženost AI botovima.

"Mogu zamisliti budućnost u kojoj će mnogi ljudi zaista vjerovati savjetima ChatGPT-a za svoje najvažnije odluke", napisao je Altman na X-u prošlog mjeseca. "Iako bi to moglo biti sjajno, čini me nelagodnim. Ali očekujem da će to u određenoj mjeri doći, i uskoro će milijarde ljudi možda razgovarati s umjetnom inteligencijom na ovaj način."

Budući koraci i stručni nadzor

Tijekom sljedećih 120 dana, ChatGPT će osjetljive razgovore, poput onih koji pokazuju znakove "akutne uznemirenosti", početi preusmjeravati na OpenAI-jeve naprednije modele zaključivanja. Ti modeli, prema internim testovima, provode više vremena analizirajući kontekst prije davanja odgovora i dosljednije slijede sigurnosne smjernice.

Tvrtka je također najavila osnivanje "Stručnog vijeća za dobrobit", koje će činiti stručnjaci za razvoj mladih, mentalno zdravlje i interakciju čovjeka i računala. Vijeće će savjetovati tvrtku, ali konačne odluke ostaju na OpenAI-ju. Uz to, tvrtka se oslanja i na "Globalnu mrežu liječnika", skupinu od preko 250 stručnjaka koji pomažu u sigurnosnim istraživanjima i obuci modela.