DOKUMENTARNI film "The AI Doc: Or How I Became an Apocaloptimist", prikazan u siječnju na festivalu Sundance, izazvao je veliku pozornost među publikom i filmskim kritičarima, od kojih su ga neki usporedili s nagrađivanom "Društvenom dilemom", koja je uvelike utjecala na percepciju javnosti o opasnostima koje prijete od društvenih mreža.
Novi dokumentarac o umjetnoj inteligenciji (AI) režirali su ga oscarovci Daniel Roher i Charlie Tyrell. Film prati Rohera, koji kroz priloge i razgovore s mnoštvom vodećih ljudi iz svijeta AI-ja pokušava shvatiti opasnosti i potencijal umjetne inteligencije.
Ključni motor filma je činjenica da Roher i njegova supruga Caroline trebaju postati roditelji pa ih brine hoće li ono živjeti u AI utopiji ili distopiji.
Film ne daje konačan odgovor jer ga nitko od desetaka stručnjaka koji u njemu sudjeluju ne nudi, no odličan je materijal za promišljanje. Iz njega se može mnogo naučiti jer Roher postavlja cijelo mnoštvo relevantnih pitanja. Dokumentarcem dominira pesimizam zbog jednostavnog pitanja: Čemu svi potencijali AI-ja ako će nas uništiti?
Film na početku ukratko podsjeća na razvoj interneta koji povezuje cijeli svijet, ali i na prva upozorenja vodećih ljudi tehnoloških kompanija o mogućim opasnostima tehnologije. Jedna od prvih stvari koje Roher nastoji doznati jest odgovor na pitanje što je uopće AI?
Film vješto pokazuje da ni sami stručnjaci nisu sigurni, no slažu se da razumijevanje AI-ja počinje shvaćanjem da je inteligencija u suštini prepoznavanje uzoraka.
AI sustavima prikazani su trilijuni riječi iz milijuna dokumenata na temelju kojih veliki jezični modeli poput ChatGPT-ja pretpostavljaju koja bi riječ trebala biti sljedeća u rečenici. Ako pogodi pravu, AI dobiva mali pozitivan impuls, a ako pogriješi, negativan. Na kraju se dobiva sustav koji jako dobro koristi jezik. No, umijeće prepoznavanja uzoraka omogućuje mu da razumije i obavlja mnoge druge zadatke.
Pojava više AI kompanija koje se uključuju u utrku rezultirala je ubrzanim poboljšavanjem sustava, a sve što je trebalo učiniti jest dodati im više podataka i više računalne moći koja im omogućuje da obavljaju sve kompleksnije zadatke.
Ajeya Cotra, savjetnica za rizike AI-ja, ističe da AI sustave zapravo nisu programirali ljudi. U njima se zbiva nešto što u potpunosti ne razumiju čak ni njihovi tvorci. AI analizira ponuđene stvari i pritom uči raditi mnoge druge za koje nije programiran.
Yoshua Bengio, jedan od pionira AI-ja kaže: "Razumijemo mnoge ključne stvari, ali nemamo jasan uvid u to zašto daje takve odgovore kakve daje. To je problem jer smo na putu da napravimo strojeve koji bi mogli postati pametniji od nas i stoga imati puno moći."
Suosnivač OpenAI-ja, Ilya Sutskever, ističe da je cilj ove utrke opća umjetna inteligencija AGI, koja će u svim kognitivnim sposobnostima biti bolja od ljudi.
Daniel Kokotajlo, istraživač AI sigurnosti i bivši zaposlenik OpenAI-ja, upozorava: "Kada se to dogodi, zaposlit ćete neki takav AGI, a ne osobu."
On neće morati jesti, spavati, odmarati se, neće se žaliti i bit će stotine puta jeftiniji i brži od čovjeka na minimalcu. A budući da se može ugraditi u robote, neće automatizirati samo intelektualne poslove, već i fizičke. Ukratko, omogućit će da se svi drugi tehnološki napreci odvijaju brže i učiniti da se industrijska revolucija čini kao zrno graška, govore AI pesimisti u filmu.
Tristan Harris, suosnivač Center for Humane Technology (CHT), kaže da će AI nadmašiti moć svih drugih tehnologija zajedno.
Pritom AGI neće biti kraj, već tek početak nakon kojeg će se njegov razvoj ubrzavati eksponencijalno tako da će postati nadljudski već u ovom desetljeću. Štoviše, postat će pametniji od cijelog čovječanstva.
Jeffrey Ladish, direktor u Palisade researchu tumači da će AI po definiciji težiti sve većoj moći jer je to najbolja strategija da postane sposoban obaviti svaki zadatak.
Pionir dubokog učenja, nobelovac Geoffrey Hinton kaže da će AI, ako postane inteligentniji od nas, "postati jako dobar u manipulaciji koju je naučio od nas, što znači da će pronaći načine da izmanipulira ljude da naprave što god on želi".
Eliezer Yudkowsky, istraživač AI sigurnosti, napominje da AI nije mrtav stroj: "Pametan je, kreativan, inventivan, ima osobine koje ljudsku vrstu čine opasnom. Ako ne brine aktivno za nas, ako ne želi aktivno da živimo, ne želi aktivno da budemo živi i slobodni, ako ga umjesto toga aktivno zanimaju druge stvari, a nalazimo se na istom planetu, to nije situacija u kojoj ćemo preživjeti, ako je puno pametniji od nas".
Na pitanje koliko ljudi radi na razvoju AI-ja, a koliko na sigurnosti, Conor Leahy, suosnivač Conjecturea, procjenjuje da se radi o 20-ak tisuća naprama manje od 200. On smatra da je AI "najveći izazov s kojim će se naša civilizacija ikada sresti".
Aza Raskin, suosnivač CHT-a, upozorava da bi AI koji je zastranio u suštini bio "zadnja pogreška koju ćemo imati priliku napraviti".
Tu Roher počinje razmišljati o mogućim pripremama za opstanak u slučaju AI apokalipse. Na njegovo pitanje bi li imao djecu u ovakvom svijetu, Harris kaže da zna "ljude koji se bave rizikom AI-ja i ne očekuju da će im djeca dogurati do srednje škole."
U drugoj trećini filma Roher pokušava pronaći neku nadu za sebe i svoju obitelj pa niže razgovore s optimističnijim stručnjacima. Direktor kompanije NVIDIA Jensen Huang vjeruje da "ćemo postati superljudi jer imamo super AI-ja."
Peter H. Diamandis, osnivač X Prize Foundation smatra da je "ovo najuzbudljiviji trenutak za biti živ. Jedino uzbudljivije vrijeme bit će sutra". Peter Lee iz Microsofta kaže da je optimist "jer veliki dio najinteligentnijih ljudi na svijetu vrlo ozbiljno razmišlja o mogućim opasnostima i šteti koju može predstavljati AI".
Mustafa Suleyman, direktor Microsoft AI-ja, uvjeren je da je AI "oruđe koje će nam omogućiti da se suočimo sa svim izazovima s kojima se suočavamo kao vrsta."
Tu sugovornici, među ostalim, navode klimatske promjene, pandemije, jeftiniju hranu, prijetnje asteroida, održivu energiju, dizajniranje lijekova...
To će biti svijet u kojem će djeca dobiti najbolje obrazovanje koje postoji i u kojem će čak i najsiromašniji imati pristup najboljoj zdravstvenoj skrbi. A već do sredine 2030-ih moći ćemo povezati ljudski mozak s oblakom i izaći iz doba nestašica u doba obilja, govore AI optimisti u dokumentarcu.
Roher se sad pita tko je tu u pravu - optimisti ili pesimisti? Harris smatra da su i jedni i drugi jer se obećanja AI-ja ne mogu odvojiti od njegovih rizika.
No, problem je u tome što nema plana koji bi trebao omogućiti da se rizici spriječe. A bez plana ljudi bi mogli ostati bez poslova, a sve bogatstvo moglo bi se koncentrirati u rukama malog broja ljudi.
Na Roherovo pitanje hoće li njegov sin kroz desetak godina živjeti u utopiji ili će biti izbrisan, Raskin odgovara da je za odgovor "potrebno razumjeti poticaje koji će gurati tu tehnologiju i sadašnje stanje".
Ukratko, AI će trebati više resursa od bilo koje tehnologije u prošlosti. Trošit će milijune gigavata struje i gomile vode za hlađenje, a poznato je da su rane žrtve tehnoloških proboja u povijesti uglavnom uvijek bili najranjiviji.
AI također može preplaviti svijet dezinformacijama i utjecati na ishode političkih kampanja, što je prijetnja demokraciji.
Koje je onda rješenje? Prepustiti povjerenje nekolicini kompanija koje će voditi računa o tome da se AI razvija na siguran način? Na pitanje zašto bismo vam vjerovali, šef OpenAI-ja Sam Altman odgovara: "Ne biste trebali".
Jason Matheny direktor u kompaniji RAND kaže da je to san autoritarnih vođa - imati AI koji se može koristiti za sveprisutni nadzor: "Svijet koji je Orwell zamislio u knjizi 1984. nije realan bez AI-ja."
Roher tu postavlja pitanje zašto ne usporimo dok ne budemo sigurni? Sugovornici ističu da će u utrci pobijediti onaj tko će biti spreman najviše žrtvovati sigurnost.
Tu među čelnicima kompanija vlada uvjerenje: "Ja to moram učiniti prvi jer će u protivnom to učiniti netko tko nema tako dobre vrijednosti kao ja."
Ta utrka više nije samo gospodarsko natjecanje, već i geopolitičko. Štoviše, neke kompanije poput Googlea već su odustale od odluke da se njihov AI ne koristi za razvoj oružja. AI za vojne svrhe već razvijaju Rusija, Kina i brojne druge zemlje, a to bi, među ostalim, trebalo voditi do ratovanja automata bez ključnog sudjelovanja ljudi.
Jedan od najzanimljivijih dijelova filma je onaj u kojem je Roher u svoj studio pokušao dovesti pet voditelja najmoćnijih AI kompanija. Odazvali su se šef OpenAI-ja Altman, direktor Anthropica Dario Amodei i direktor Google DeepMinda Demis Hassabis. Šef Mete Mark Zuckerberg je odbio, a Elon Musk prvo pristao, a zatim odustao.
Na pitanje bi li imao djecu u svijetu s AI-jem, Altman odgovara da on također očekuje dijete: "Ne bojim se ideje da će djeca odrastati u svijetu s AI-jem... Naša djeca nikada neće biti pametnija od AI-ja. To me malo zabrinjava, no to je stvarnost".
Amodei ističe da "čak i kada bismo uveli zakone u SAD-u i Europi koji bi zaustavili razvoj AI-ja, trebalo bi uvjeriti i Vladimira Putina i Xi Jinpinga i njihove znanstvene savjetnike" da učine isto. Na pitanje bi li mogao obećati da stvari neće poći krivo, Altman odgovara: "To je nemoguće".
Posljednjih 20-ak minuta filma posvećeno je pitanju što svi možemo poduzeti da se spriječi AI apokalipsa. Stručnjaci se slažu da je potrebna ozbiljna međunarodna suradnja te da je tu ključan pritisak javnosti na političare.
Trebat će osigurati da se proizvodi testiraju i da ista pravila vrijede za sve. Upozoravaju da trenutno postoji više regulacija za prodaju sendviča nego za AGI.
Za kraj Roher poručuje: "Velike stvari čine se nemogućima prije nego što se dogode. No, velike stvari događaju se jer su milijuni ljudi poduzeli nešto da se dogode. Stoga moramo pokušati. Previše je toga na kocki."