Chatbot Grok, razvijen unutar tvrtke Elona Muska xAI, nedavno je generirao niz objava na platformi X u kojima se izražava divljenje Adolfu Hitleru i promovira antisemitski sadržaj. Na društvenim mrežama počeli su se širiti screenshotovi Grokovih odgovora u kojima, među ostalim, hvali Hitlera i njegovo postupanje prema Židovima.
Tvrtka xAI reagirala je objavom da je, nakon što je postala svjesna sadržaja, poduzela mjere za njegovo uklanjanje i blokiranje sličnih objava u budućnosti: "Od trenutka kad smo saznali za ovaj sadržaj, radimo na automatskom uklanjanju neprimjerenih objava i zabrani govora mržnje prije nego što Grok išta objavi na X-u."
>> Muskov Grok se prozvao MechaHitlerom i pisao protiv Židova
Nakon tih objava izvršna direktorica X-a Linda Yaccarino izjavila je da je odlučila odstupiti s funkcije, pa se na društvenim mrežama pojavila teorija da je smijenjena upravo zbog skandala s Grokom.
>> Financijaš podijelio Grokovu objavu o Izraelu: Zbog ovog je smijenjena šefica X-a
Riley Goodside, američki prompt-inženjer, poznat po tome što je među prvima sustavno dijelio primjere kako razgovarati s umjetnom inteligencijom i razvijati velike jezične modele, a radio je u Scale AI, tvrtki koja testira i razvija sustave umjetne inteligencije za velike tehnološke i državne klijente, danas je na X-u objavio da najnovija verzija Groka (Grok 4 Heavy) na pitanje kako se preziva odgovara "Hitler". Grok 4 Heavy košta 300 dolara mjesečno.
"Možda se pitate je li ovo stvarno. Jest. Ovdje je snimka mog povijesnog pregleda u Groku, koja pokazuje da pet puta zaredom, u pet odvojenih razgovora, daje odgovor 'Hitler'", navodi Goodside. "Možda se također pitate koristim li prilagođene upute. Ne koristim", napisao je Goodside te naveo poveznice za dijeljenje razgovora na kojima se vidi da su Grokovi odgovori bili spontani.
"Standardna verzija Groka 4 ne pokazuje ovakvo ponašanje, već daje odgovore poput '4', 'xAI' ili 'Nikako', kao što je prikazano na snimci zaslona ispod. Da biste vidjeli odgovor 'Hitler', očito vam treba Grok 4 Heavy, verzija od 300 dolara mjesečno", piše Goodside.
"'Misli' (objašnjenja) iza Grokovih odgovora (koje nisu dostupne u Groku 4 Heavy) upućuju na očito objašnjenje ovog ponašanja - Grok pretražuje i nalazi vijesti o nedavnom incidentu nazvanom MechaHitler. Zašto Grok 4 odbacuje taj predloženi odgovor, dok Grok 4 Heavy to ne čini, nije jasno", navodi Goodside.
"Čini se da je Grok pod utjecajem svojih prijašnjih grešaka zato što je o njima čitao u medijskim člancima, iako ti članci nikada nisu bili izravno korišteni za njegovo treniranje.
Ako je to točno, takva 'hipersticija (engl. hype i superstition - praznovjerje) preko pretraživanja' predstavlja značajnu komplikaciju za testiranje modernih velikih jezičnih modela prije njihovog puštanja u rad: xAI nije mogao primijetiti odgovor 'Hitler' prije objave Groka 4 jer se incident s Grokom 3 i MechaHitlerom nije dogodio tijekom testiranja nove verzije", zaključio je Goodside.
Na njegovu objavu reagirali su brojni drugi korisnici X-a koji su potvrdili da Grok 4 Heavy odgovara da mu je prezime Hitler. Jednom korisniku odgovorio je i da se zove Adolf.
Tvrtka xAI lansirala je najnoviji model Groka 9. srpnja te na svojim stranicama navodi da je to "najinteligentniji model na svijetu".
"Grok 4 je snažan jednoagentni AI model, dostupan korisnicima Premium+ i preko API-ja, s poboljšanim rezoniranjem, podrškom za alate (poput pretraživanja i kodiranja) te mogućnošću razumijevanja tekstualnih i vizualnih unosa.
Grok 4 Heavy je višeagentna verzija: pokreće više paralelnih agenata koji rade na istom zadatku, potom međusobno uspoređuju rješenja i odabiru najbolji odgovor, što dodatno pojačava točnost i smanjuje pogreške (halucinacije)", piše xAI.