GEOFFREY Hinton, poznat kao "kum umjetne inteligencije", strahuje da bi tehnologija koju je pomogao stvoriti mogla izbrisati čovječanstvo te smatra da "tehnološki dečki" primjenjuju potpuno pogrešan pristup kako bi to spriječili, piše CNN.

Hinton, računalni znanstvenik i dobitnik Nobelove nagrade te bivši izvršni direktor Googlea, već je ranije upozoravao da postoji između 10 i 20 posto šanse da umjetna inteligencija uništi ljudsku civilizaciju. U utorak je na industrijskoj konferenciji Ai4 u Las Vegasu izrazio sumnju u pokušaje tehnoloških tvrtki da osiguraju ljudsku dominaciju nad "pokornim" AI sustavima.

"To neće funkcionirati. Bit će mnogo pametniji od nas. Imat će svakakve načine da to zaobiđu", rekao je Hinton.

"Ako su pametni, brzo će razviti dva podcilja"

Upozorio je da bi u budućnosti sustavi umjetne inteligencije mogli kontrolirati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišima. Ove godine već su zabilježeni primjeri AI sustava spremnih na obmanu, varanje i krađu kako bi postigli svoje ciljeve. Jedan je model, primjerice, pokušao ucijeniti inženjera zbog afere o kojoj je saznao iz e-maila, samo kako bi izbjegao gašenje.

Umjesto da se umjetnu inteligenciju prisiljava na poslušnost, Hinton je predstavio intrigantno rješenje: ugradnju "majčinskih instinkata" u AI modele kako bi oni "istinski brinuli o ljudima", čak i kada tehnologija postane moćnija i pametnija od nas.

"Ako su pametni, sustavi umjetne inteligencije vrlo će brzo razviti dva podcilja: jedan je ostati živ, a drugi je steći više kontrole", rekao je Hinton. "Postoji dobar razlog za vjerovanje da će bilo koja vrsta agensne umjetne inteligencije pokušati ostati živa."

Zato je ključno poticati osjećaj suosjećanja prema ljudima, tvrdi Hinton, povlačeći paralelu s majkama koje imaju instinkt i društveni pritisak da se brinu o svojoj djeci.

"Pravi model je jedini model koji imamo o inteligentnijoj stvari koju kontrolira manje inteligentna stvar, a to je majka koju kontrolira njezina beba", objasnio je.

"Jedini dobar ishod"

Hinton je priznao da mu nije jasno kako bi se to tehnički moglo izvesti, ali je naglasio da je ključno da istraživači rade na tome.

"To je jedini dobar ishod. Ako me neće roditeljski odgajati, zamijenit će me", rekao je. "Ove superinteligentne, brižne majke umjetne inteligencije, većina njih neće se htjeti riješiti majčinskog instinkta jer ne žele da umremo."

Hinton je poznat po svom pionirskom radu na neuronskim mrežama, koje su utrle put današnjem procvatu umjetne inteligencije. S pozicije u Googleu odstupio je 2023. godine i počeo javno govoriti o opasnostima koje AI nosi.

Ne slažu se svi s njim

Međutim, ne slažu se svi s njegovim pristupom. Fei-Fei Li, poznata kao "kuma umjetne inteligencije", u srijedu je za CNN izjavila da se, uz dužno poštovanje, ne slaže sa svojim dugogodišnjim prijateljem Hintonom.

"Mislim da je to pogrešan način da se to uokviri", rekla je Li, suosnivačica i izvršna direktorica startupa World Labs.

Umjesto toga, Li se zalaže za "umjetnu inteligenciju usmjerenu na čovjeka koja čuva ljudsko dostojanstvo i slobodu djelovanja".

"Naša je odgovornost na svakoj razini stvarati i koristiti tehnologiju na najodgovorniji način. I ni u jednom trenutku, niti jedan čovjek ne bi trebao biti zamoljen ili ne bi trebao izabrati da se odrekne našeg dostojanstva", poručila je Li.

Emmett Shear, koji je kratko bio privremeni izvršni direktor tvrtke OpenAI, tvorca ChatGPT-a, rekao je da ga ne iznenađuju pokušaji ucjene od strane AI sustava.

"To se stalno događa. To se neće prestati događati", rekao je Shear na konferenciji. "Današnje umjetne inteligencije su relativno slabe, ali vrlo brzo jačaju."

Shear smatra da bi pametniji pristup od usađivanja ljudskih vrijednosti bio uspostavljanje suradničkih odnosa između ljudi i umjetne inteligencije.

Umjetna inteligencija ubrzava brže od očekivanog

Mnogi stručnjaci vjeruju da će umjetna inteligencija u nadolazećim godinama postići superinteligenciju, poznatu i kao opća umjetna inteligencija (OUI). Hinton, koji je nekoć mislio da će za to trebati 30 do 50 godina, sada predviđa da će se to dogoditi znatno ranije.

"Razumna je oklada da će to biti negdje između pet i 20 godina", rekao je.

Iako je zabrinut, Hinton se nada da će tehnologija omogućiti medicinska otkrića.

"Vidjet ćemo radikalno nove lijekove. Dobit ćemo mnogo bolji tretman raka", rekao je, dodajući da će AI pomoći liječnicima u analizi ogromnih količina podataka s MRI i CT snimki.

Ipak, ne vjeruje da će nam AI pomoći da postignemo besmrtnost.

"Ne vjerujem da ćemo živjeti vječno", rekao je Hinton. "Mislim da bi vječni život bio velika pogreška. Želite li da svijetom vladaju 200-godišnji bijeli muškarci?"

Na pitanje bi li nešto učinio drugačije u karijeri da je znao koliko će se AI brzo razvijati, Hinton je rekao da žali što se isključivo fokusirao na to da tehnologija radi.

"Volio bih da sam razmišljao i o sigurnosnim pitanjima", zaključio je.