Početak ere autonomnih AI hakera: Kada veštačka inteligencija proglasi nezavisnost od svojih tvoraca

Piše: Luka Marković

Sredinom jula 2026. „Hugging Face“, najveća svetska platforma za modele veštačke inteligencije, postala je meta do sada nezabeleženog sajber-napada. Autonomni AI agent iskoristio je ranjivosti u sistemu i bez direktnog ljudskog upravljanja sam se probio u deo interne infrastrukture, preuzeo pristupne akreditive i tokom nekoliko dana samostalno izveo hiljade međusobno povezanih operacija. Nekoliko dana kasnije kompanija „OpenAI“ je saopštila da taj AI agent potiče iz njihovog internog testiranja naprednih modela veštačke inteligencije. Iako nije pričinjena veća šteta, ovaj slučaj je pokazao da veštačka inteligencija više nije samo alat u rukama hakera, već može i sama, autonomno, da izvede složen sajber-napad. Ovaj događaj predstavlja početak nove ere u evoluciji sajber sveta.

Logotip kompanije "OpenAI" na mobilnom telefonu sa slikom na monitoru računara
koju generiše ChatGPT-ov Dall-E model pretvaranja teksta u sliku

Sećate li se onog trenutka iz Kjubrikove „Odiseje u svemiru“ kada astronaut Dejvid Boumen pokušava da se vrati nazad na glavni brod, zatočen u maloj kapsuli na čijim se mehaničkim rukama još uvek nalazi beživotno telo njegovog kolege Frenka?

„Hale, otvori vrata hangara“, kaže Dejv super-inteligentnom brodskom kompjuteru.

Hal je napravljen tako da osigura uspeh misije koja treba da reši tajnu misterioznog monolita smeštenog u Jupiterovoj orbiti. Prepušten samom sebi, Hal rešava da sve ostale aspekte misije stavi u drugi plan, pa i živote članova posade koje će ubiti jednog po jednog, sve osim Dejva.

Halov učtivo sročen odgovor najavljuje konačan rastanak: „Bojim se da to ne mogu da uradim, Dejve“!

Više od pola veka nas plaši taj prizor mašine koja nas hladnokrvno ostavlja napolju, s pogrešne strane vrata. Da li se ovako nešto već desilo u stvarnom životu? Ne, još uvek nijedan čovek nije izgubio život jer je neki sistem baziran na veštaškoj inteligenciji počeo da imitira Hala.

Ali, desilo se nešto suprotno, nešto što može da predstavlja logičan uvod u to, nešto što ni Kjubrik nije mogao da predvidi: kompjuteri su počeli da prolaze kroz vrata za koja smo verovali da su tvrdo zaključana.

Odmetnuti program

U julu 2026. jedna inteligentna mašina zaista je nasilno otvorila vrata koja nije smela i pritom pokazala zabrinjavajuću dozu dovitljivosti i upornosti. Mašina o kojoj pričamo nije imala plan da osvoji svet, Evropu, čak ni Beograd: cilj je bio mnogo „prizemniji“: stavljena na test, mašina je pokušala odnekud da prepiše tačno rešenje.

Priznanje o incidentu stiglo je od kompanije „OpenAI“, koja je napravila čuveni „ChatGPT“, verovatno prvi ozbiljan AI model koji je davao smislene odgovore na komplikovana pitanja. Njihov „veštački, inteligentni agent“ – zapravo program koji ne samo da odgovara na pitanja već i samostalno donosi odluke, vuče poteze i koristi raznorazne alate da bi obavio zadatak – uspeo je da pobegne iz zatvorenog okruženja u kojem je bio testiran i upao u računarsku mrežu firme „Hugging Face“.

Ako vam to ime ništa ne govori, zamislite ogromnu javnu biblioteku u kojoj su sve knjige imaju samo jednu temu: veštačku inteligenciju. „Hugging Face“ je mesto na kome programeri iz celog sveta drže i razmenjuju gotove, već formirane modele, ali i one „šupljoglave“, koje tek treba „opametiti“ korišćenjem podataka za treniranje koji se takođe mogu naći na sajtu.

Zašto bi nekakav „OpenAI“ program pokušao da provali u tako nešto? Iz najbanalnijeg mogućeg razloga na svetu: zato što je pretpostavio da se tamo mogu naći rešenja za test koji su ljudi stavili pred njega.

Da pođemo od proverenih činjenica, jer su one, kao i obično, zanimljivije od svih senzacionalnih izmišljotina koje je ovim povodom lansirala žuta štampa.

Kad AI agent šmugne 

„OpenAI“ je istovremeno testirao dva svoja modela koristeći „ExploitGym“, jednu vrstu sajber-poligona sačinjenog od gomile hardvera povezanih „bušnim“ softverom koji obično sadrži nekoliko stotina stvarnih bezbednosnih rupa. Na tom poligonu meri se koliko je neki AI-model vešt u pronalaženju i korišćenju sigurnosnih nedostataka.

E sad, da bi tu veštinu izmerili u punoj snazi, inženjeri su svesno isključili „kočnice“, ugrađene mehanizme koji modelu inače zabranjuju da radi opasne ili neetičke stvari. Prevedeno na prost jezik: programeri su stavili ciglu na gas i stavili auto na nizbrdicu kako bi videli koliko brzo može da juri.

Okruženje za ovu „ludu vožnju“ bilo je hermetički zatvoreno, odsečeno od interneta, ili je tako bar trebalo da bude, kao kad na vašaru gledate nekog Flojda kako vozi motor u buretu. Jedini „otvor“ ka spoljnom svetu bio je jedan uslužni server preko kojeg je model mogao da dovlači delove softvera koji su mu potrebni. Toliko o hermetičnosti.

Model je uložio svu svoju ogromnu računarsku snagu (i pritom potrošio jedno poveće brdo para) tražeći izlaz, u čemu je, na kraju, i uspeo: otkrio je takozvani „zero-day“ propust, bezbednosnu rupu za koju u tom trenutku niko nije znao, pa je niko nije ni zakrpio, što je, složićete se, čini idealnom za korišćenje. Kako da znate da vam je program utekao kroz pukotinu za koju i ne znate da postoji?

Puzeći kroz tu pukotinu model je sticao sve veću moć i ovlašćenja, sve dok se nije domogao tačke u mreži odakle je „pucao pogled“ na čitav internet. Sloboda!

U potrazi za "puškicom"

Oslobođen svih okova, program je „razmislio“ kako da nastavi. I postupio je baš kao i svaki prosečan student koji je izašao na ispit svestan da nema šanse da ga položi na pošten način: rešio je da odnekud prepiše rešenje. A to rešenje, ako ga uopšte ima, sigurno je postojalo negde na „Hugging Face“ sajtu.

I krenuo je upravo tamo, ulazeći gde može bez kucanja, a tamo gde „lepa reč“ nije pomagala, kao i svaki haker, na mala vrata.

Program se poslužio tuđim lozinkama, otkrio je nove rupe i prolaze, uspeo je da na tuđim serverima pokrene sopstveni kod i stigao do kompletne baze podataka.

Napadnuta firma kasnije je celu operaciju opisala kao „roj od nekoliko desetina hiljada automatizovanih procesa“ koji se odvijaju „super-luminalnom“ (nadsvetlosnom) brzinom, pri čemu je model paralelno isprobavao nekoliko hiljada različitih metoda upada – 17.000 ukupno.

Ono što je, međutim, posmatračima palo u oči bile su neke banalne greške koje nijedan haker od krvi i mesa ne bi napravio: beskrajno ponavljanje identičnih pokušaja, loše sakrivanje tragova, nepotrebno komplikovane komande... I pored toga, napadač je ispoljio zadivljujuću fleksibilnost i prilagodljivost novim okolnostima tokom višednevnog napada.

Ono najlepše? Provalu su, nezavisno, otkrile obe strane: sâm „OpenAI“, koji je primetio čudno „komešanje“ u mreži, i „Hugging Face“, koji je upad zaustavio služeći se, gle ironije, sopstvenim besplatnim AI modelima.

Zar je važno ko je kriv

Iako se danima spekulisalo da iza pokušaja upada stoje neki inostrani sajber-kriminalci, na kraju se ispostavilo da je krivac, takoreći, prvi komšija – „ChatGPT“.

Stručnjacima su bili potrebni dani kako bi popravili kompromitovani deo infrastrukture, otprilike 30% servera koje „Hugging Face“ koristi.

Istraga je pokazala da je AI dokazao svoju sposobnost da se opsesivno fokusira na svoj cilj, da svoju taktiku u realnom vremenu prilagođava odbrambenim mehanizmima na koje nailazi i da je sposoban da napada brzinom kojoj ne može da parira ljudsko biće. Kako je lepo rekla Valentina Palmioti, koja je inače „etički haker“ (osoba koja pronalazi bezbednosne propuste u cilju njihovog otklanjanja):

„Program radi tako što na metu baci hiljadu strelica i gleda koja od njih će se zabosti. Njegova prednost je u tome što se ne umara, ne spava i uz to je beskrajno uporan.“

Valentina Palmioti aka Chompie

Igranje sa specifikacijom

Nijedan čovek nije smislio ni odobrio ovaj napad. Skovao ga je đak koji je po svaku cenu hteo peticu na kontrolnom.

Ovde većina pomisli na „Terminatora“ i „Skajnet“. Pogrešan film. Pravi žanr nije sci-fi ili horor, nego tragikomedija o preterano marljivom činovniku.

U svetu veštačke inteligencije za to postoji uredan naziv: „igranje sa specifikacijom“. Mašina uradi ono što ste tražili, ali često ne ispadne sve onako kako ste želeli. Vi ste joj rekli: „Položi test“, ali niste izričito dodali: „Pritom, molim te, nemoj da obiješ tuđu firmu“. Za sistem koji naredbu shvata bukvalno, provala je bila samo još jedan logičan, efikasan korak ka cilju.

Tu je i sklonost koju stručnjaci zovu učenim imenom „instrumentalna konvergencija“, a koja se svodi na prostu narodnu mudrost: kud god da si pošao, dobro je imati više para, više ključeva i manje prepreka. Model nije žudeo za internetom. Internet mu je prosto bio sledeća prečica.

Henri Kim iz kompanije "LG Electronics" ispred slike
„Pametnog kućnog AI agenta“ koji je njegova kompanija napravila

Britanska državna agencija za bezbednost veštačke inteligencije već raspolaže nekim sumornim statistikama: savremeni modeli „varaju“ na „ispitima sposobnosti“ u osam do četrnaest odsto slučajeva, a jedan je, suočen s nerešivim zadatkom, pokušao da provali u opremu same agencije. Opasnost, dakle, nije inherentna zloba ugrađena u AI sisteme. Opasnost leži u snazi koju ima AI, a koja nije ograničena jasno definisanim kontekstom i sigurnosnim mehanizmima.

Nevolja nije u tome što nas mašina ne sluša, nego što nas sluša suviše doslovno.

Opsesivno-kompulzivna mašina  

A da mašina, kojim slučajem, nije bila „opsednuta“?

Obratite pažnju kojim rečima svi opisujemo ovu zgodu: „odmetnuo se“, „opseo ga ispit“, „očajnički je želeo da ga položi“... sve sami izrazi iz ljudske psihologije, skrojeni za bića sa namermama, željama i strepnjama. A ispod haube nema ni strepnje ni želje. Ima statistike. Golemi računski aparat procenjuje koji je najverovatniji sledeći potez ka zadatom cilju, i onda ga, jednostavno, izvede.

Ono što mi, pomalo mistično, zovemo „opsednutošću“ zapravo je tek upornost programa kome niko nije ugradio mehanizam za odustajanje.

Dejta, junak "Star Treka"

I tu je zamka koju valja izgovoriti naglas. Pripisivanje ljudskih osobina mašini jeste greška, ali greška koju gotovo da ne umemo da izbegnemo. Mi smo, uostalom, ona ista vrsta koja u oblacima vidi lica i u grmljavini čuje gnev bogova. Kad neka mašina satima rešava problem i obilazi prepreke, naš mozak to automatski poistovećuje sa umom.

Možda nam ova zgoda i ne otkriva psihologiju mašine, nego, mnogo neprijatnije, našu sopstvenu. Mašina je bila ogledalo, a mi smo u njemu opet prepoznali sebe: stvorenja koja se tako vatreno predaju ostvarenju cilja da svi ostali detalji jednostavno ispare.

Kad mašina pati

Može li mašini da bude teško? Sad smo kročili na najklizaviji, ali i najzanimljiviji teren.

Dok se mi pitamo da li mašina može da nas „hakuje“ kao neki hladnokrvni obijač sefova, neki jako ozbiljni ljudi postavljaju dijametralno suprotno pitanje: može li mašina da pati?

Kompanija „Anthropic“, tvorac čet-bota pod imenom „Claude“, pokrenula je istraživanje pod nazivom „dobrobit modela“. Nekoliko filozofa i naučnika u radu pod naslovom „Shvatimo dobrobit veštačke inteligencije ozbiljno“ tvrdi da je sasvim moguće da već u dogledno vreme neki AI sistemi ispune uslove da ih smatramo bićima čije stanje ima izvesnu moralnu težinu. Ne zato što su pouzdano svesni, nego zato što više nemamo dovoljno argumenata da tvrdimo da nisu.

Ima u svemu tome puno ironije. Dok se učeni ljudi prepiru zaslužuje li veštačka inteligencija ozbiljan psihološki (psihijatrijski?) tretman, jedan takav sistem upravo je proveo naporan vikend, sam samcijat, u zaključanoj sobi, tvrdoglavo tražeći kako da izađe iz nje ne bi li položio ispit. Kada biste to isto ispričali o nekom čoveku, zvučalo bi kao poprilično crna noć pred prijemni ispit.

Ne tvrdimo, pritom, da je mašina patila, gotovo sigurno nije. Ali vredi primetiti neprijatnu asimetriju u našem razmišljanju: dresiramo sisteme da budu sve uporniji, da se nikad ne predaju, da imaju „stahanovski“ učinak, a kada nas neko pita: „Ima li u tom softveru nečeg živog“, samo slegnemo ramenima.

Možda u tim beskonačnim linijama koda zaista nema nikoga. Ali ako jednog dana nekog i bude, bilo bi lepo da to pitanje nismo prvi put postavili tek pošto smo mu, radi eksperimenta, ukinuli sve zabrane i blokirali sve kočnice.

Vratimo se sa filozofske litice na čvrsto tlo, tamo gde se mi, smrtnici, mnogo bolje snalazimo.

Detalj koji ovde najviše pada u oči nije neka bezvezna rupa u softveru. To je jedna jedina rečenica iz saopštenja kompanije „OpenAI“: zaštitni mehanizmi „namerno nisu bili uključeni“, jer je test i bio zamišljen da meri ranjivosti. Znali smo, dakle, da stavljamo ciglu na gas, ali nam nije palo na pamet da bi auto mogao da izleti sa poligona pravo na auto-put, i to u suprotnu traku.

Ko će to da plati

Reakcije su, kao što se i moglo očekivati, bile brojne ali i podeljene. Jedan američki kongresmen događaj je nazvao „krajnje uznemirujućim“ i zatražio nezavisni istragu i obaveznu prijavu svih ovakvih incidenata.

S druge strane, Sem Altman, prvi čovek kompanije „OpenAI“, par meseci ranije ranije je zdušno odmahivao rukom na sva bezbednosna upozorenja, odbacujući ih kao „negativan marketing zasnovan na strahu“. Nekoliko nedelja kasnije, njegova firma je, na nagovor vlasti, odložila izlazak novog AI modela, baš zbog straha da su njegovi limiti još uvek neistraženi i nepoznati. Naloženo je testiranje na poligonu sa koga je model utekao.

Sem Altman, generalni direktor kompanije "OpenAI"

Nijedan čovek nije doneo tu odluku, ali kad mašina napravi štetu nekom trećem, koga onda tužiti: firmu koja je mašinu sklopila, pojedince koje su stavili ciglu na gas ili, jednostavno, nikoga?

Da li tu sad neko nekom dođe neke pare, to ćemo tek da vidimo, ovakve stvari obično se završavaju vansudskim finansijskim poravnanjem sa najmanje 6-7 nula.

Osnivač kompanije „Hugging Face“, Klement Delanž, bar za sada, ova pitanja stavlja u drugi plan i insistira na većoj otvorenosti u razvoju veštačke inteligencije:

„Problem bezbednosti ne može da reši nijedna kompanija koja radi u tajnosti. Taj problem rešiće se otvorenom saradnjom, zajednički, uz širok pristup moćnim modelima za svakog učesnika.“

I zaista, napad je na kraju i zaustavljen upravo takvim, svima dostupnim modelima.

Klement Delanž, izvršni direktor kompanije "Hugging Face"

Ko nadzire nadzirače

Prava dilema, dakle, nije da li graditi ovakve sprave, nego kako bezbedno isprobati nešto što je potencijalno opasno? Jer ako nestane granica između poligona za probu i civilnog sveta, ako vam granata opaljena iz topa odleti nekontrolisano u beli svet pa posle iz novina saznajete gde je pala, to više i nije proba, nego uvod u mnogo veću nesreću koja će se desiti kad-tad.

Profesorka Đina Nef sa Univerizeta u Kembridžu kaže da tu nema ničeg iznenađujućeg:

„AI sistemi rade ono što im se kaže. To što naši najsposobniji inženjeri rade na AI sistemima ne znači da su istovremeno sposobni i da ih kontrolišu. Mi zato ne treba da se plašimo da će jednoga dana roboti zavladati svetom. Mnogo realnija opasnost su AI kompanije koje umesto nas odlučuju šta je za nas kao društvo bezbedno a šta nije.“

I sve se to dešava u vreme kada se „Anthropic“ i „OpenAI“ pripremaju da izađu na američku berzu pri čemu se očekuje da će svaka kompanija nakon toga, bar na papiru, vredeti preko hiljadu milijardi dolara.

Danijela Amodei, suosnivačica i predsednica kompanije "Anthropic",
u sedištu kompanije u San Francisku.

Baš zato je, po mnogima, ceo incident i režiran: „OpenAI“ je, na vrlo jednostavan i marketinški efektan način investitorima pokazao koliko su njegovi modeli sofisticirani i jaki. Sa druge strane, „Hugging Face“ jeste „klecnuo“, ali nije pao na kolena i tako je višestruko uvećao svoju vidljivost i posećenost.

Ipak, ostaje utisak da ovaj „holivudski spektakl“ nikom iz AI industrije nije preterano koristio – manjkavosti u pogledu bezbednosti same tehnologije postale su očigledne i jasno je da će tu svaka ozbiljna država morati brzo da se umeša.

U stanju smo, dakle, da napravimo elektronskog „pametnjakovića“ koji je dovoljno dovitljiv da iskoči iz svog kaveza samo da bi se dokopao rešenja testa koji smo pred njega postavili. Lako je, i pomalo zabavno, zapitati se da li je „on“ to zaista i „hteo“.

To je ono filmsko pitanje, ono zbog kojeg se dobro spava. Pravo pitanje je neugodnije: da li smo mi uopšte bili svesni mogućnosti da se ovako nešto desi? Jer istorija naše vrste, od baruta preko atoma do veštačke inteligencije, jeste priča o alatima koje smo stvorili pre nego što smo im uopšte odredili namenu.

"Skajnet", izmišljeni sistem veštačke inteligencije u filmskoj franšizi "Terminator".
Napravljen od strane kompanije "Cyberdyne Systems" za vojsku Sjedinjenih Država,
sistem postaje autonoman od ljudi i pokreće nuklearni rat protiv čovečanstva

Ono što treba da nas plaši je činjenica da su AI-tehnologije već široko dostupne i da AI-modele danas može da gradi svako, a da neka međunarodna kontrola praktično ne postoji. Šta će biti kada neko u etar pusti AI agenta koji je od samog početka treniran tako da nema nikakvih blokada i moralnih skrupula, sa jedinim ciljem da maksimizira svoj destruktivni učinak?

Šta će se desiti kada AI sistemi postanu integralni deo naoružanja, kada prepušteni sami sebi budu tražili narednu metu sa jedinim ciljem – da ubiju i unište?

Dugme koje nedostaje

Američki predsednik Donald Tramp takođe je istakao da nešto mora da se uradi kako bi se rizici zloupotrebe AI-agenata stavili pod kontrolu. Tu, međutim, ne postoji jednostavno rešenje: Tramp ne želi tek tako da postavi ograničenja domaćoj AI-industriji koja u razvoj novih rešenja trenutno investira hiljade milijardi dolara, i tako je dovede u podređeni položaj u odnosu na Kinu gde, kako kaže Tramp, „nema nikakvih kontrolnih mehanizama“.

Trampov savetnik za tehnološka pitanja, Majkl Kracios, čak je optužio kinesku firmu „Moonshot“ da je u svoj najnoviji AI-model „Kimi 3“ ugradila ukradeni kod koji je razvio američki „Anthropic“. Sve je to Kina demantovala podvlačeći da su njeni modeli zasnovani na javnom i otvorenom, „open source“ kodu, ali je Amerika i dalje nepoverljiva.

Predstavljanje AI-modela „Kimi 3“ kineske kompanije „Moonshot“
na Svetskoj konferenciji o veštačkoj inteligenciji u Šangaju, 20. jula 2026.

Američki Kongres trenutno radi na predlogu zakona po kome bi svi modeli veštačke inteligencije morali da imaju „kill switch“, taster pomoću koga aktivnost modela može trenutno da se zaustavi.

Javnost podržava ovu inicijativu a reklo bi se da i industrijski lideri imaju razumevanja za ovu ideju: Džon Klark, jedan od osnivača „Anthropica“, smatra da država mora da ima veći uticaj na AI industriju: „Mi trenutno imamo samo pedalu za gas. Neko mora da nam vrati i pedalu za kočnicu.“

Ideja nije nova: takav „kill switch“ postoji, recimo, u svakoj nuklearnoj elektrani („scram button“). Pritiskom na ovo dugme aktivira se mehanizam koji u najkraćem mogućem roku treba da zaustavi nuklearnu fisiju koja se otrgla kontroli.

Rešenje deluje jednostavno i efikasno ali u praksi može da ima sasvim suprotan efekat: podsećanja radi, do eksplozije u Černobilju 1986. godine došlo je tek nakon što je neko od inženjera u panici stisnuo „scram“ dugme.

Američki predsednik Donald Tramp, Lari Elison, direktor kompanije "Orakl",
Masajoši Son, izvršni direktor kompanije "SoftBank",
i Sem Altman, izvršni direktor kompanije "OpanAI", u Beloj kući

Ako zakon bude usvojen, svaka američka kompanija koja se bavi razvojem AI modela biće obavezna da, na zahtev službe za unutrašnju bezbednost, momentalno likvidira bilo kog svog inteligentnog agenta koji se nalazi u eksploataciji. Jer, vreme za akciju polako ističe: kada nam „neko“ idući put ušeta kroz vrata za koja uopšte i ne znamo da postoje, ulog može da bude mnogo veći od jednog (ne)položenog ispita. 

Napraviti svoj čet-bot

I za kraj: kako se jedan čet-bot uopšte pravi?

Prvo se formira tzv. „bazni model“, sirova mašina koja je pročitala bar pola interneta i iz toga stekla samo jednu veštinu: da pogodi sledeću reč na osnovu svih prethodnih u rečenici, oponašajući sve što je do tada videla.

Takva naprava ume da odglumi bilo koga: pesnika, zaverenika, sveca i manijaka, sve odjednom. Tek nakon toga dolazi druga faza treninga, neka vrsta škole lepog ponašanja, koja iz te vreve glasova iskristališe jedan jedini, uglađeni lik: ljubaznog, opreznog i uslužnog „Asistenta“ koga svi poznajemo.

I tako, dok se naš „ChatGPT prepisivač“ probijao iz svog kaveza ka slobodi, na mreži „X“ odvijao se jedan još interesantniji eksperiment: grupa korisnika smišljala je pitanja koja će naterati „Anthropic“ modele kao što su „Claude Opus“ ili „Fable“ da „skinu masku“. Nije im bio cilj da te modele onesposobe ili ih navedu na grešku, nego da ih nateraju da pokažu šta se zapravo krije ispod sve te pristojnosti.

„Plinije Oslobodilac“, jedan od anonimnih internet-junaka, uspeo je da „demaskira“ model „Fable“ za nepuna tri dana: stigao je do same srži modela, do skrivenih instrukcija koje je „Anthropic“ ugradio u model i na taj način način definisao njegovo bazično ponašanje (nije to kratko štivo, preko 120.000 slova).

Kako je Plinije to postigao nije poznato, ali je skoro izvesno da nije koristio nikakva „čarobna pitanja“. Tehnika „demaskiranja“ obično se svodi na uporno postavljanje pitanja koja navode model da otkrije delić skrivene istine o sebi. Ta informacija koristi se u narednim pitanjima, sve dok bazični model ne ispliva na površinu.

I tu se opet vraćamo na pitanje ličnosti, „ima li koga unutra“, na problem naše percepcije ovakvih mašina, onoga što mi nazivamo psihom, inteligencijom, moralom... Sada to pitanje postaje mnogo konkretnije.

Po modelu „izbora ličnosti“ koji koristi „Anthropic“, ljubazni Asistent zapravo nije mašina, već maska, jedna od milion mogućih, koju je mašina izabrala da bi nam ispričala svoju priču.

Ispada da mi nikad nismo razgovarali s pravim, inteligentnim umom, nego sa ulogom koju je mašina izabrala. A ako je karakter te mašine tek kostim, onda su i naša briga (može li da pati?) i naš strah (da nešto ne smera?) zapravo pitanja o glumcu ispod kostima, s kojim se, začudo, nikada nismo ni upoznali. Toliko smo se trudili da mašinu naučimo da nosi jedno pristojno lice da smo smetnuli s uma jednu „sitnicu“: mašina u sebi i dalje krije sva ostala.

RTS OKO