Dio je općeg obrazovanja da postoje tri velike prijetnje opstanku čovječanstva: ekološka kriza, nekontrolirani razvoj umjetne inteligencije i opasnost od vojnog samouništenja. Prateći vijesti o tim prijetnjama, ubrzo sam primijetio da se u medijskim izvještajima o njima neprestano ponavlja ista riječ: obuzdavanje. Iako su te prijetnje prihvaćene kao činjenice našeg vremena, glavna briga glasi da se, kada prerastu u stvarnu krizu, neće moći obuzdati.

Počnimo s ratovima. I Sjedinjene Američke Države i Rusija – ili, preciznije, Trump i Putin – ne vole koristiti riječ rat. Putin govori o „specijalnoj vojnoj operaciji“ u Ukrajini, koja navodno treba spriječiti pravi veliki rat (napad NATO-a na Rusiju), dok je Trump jednom opisao američki napad na Iran kao „izlet“, čija je svrha spriječiti veliki rat (odnosno iranski nuklearni napad na Izrael). Paradoks je, naravno, u tome što nespremnost da se koristi riječ „rat“, čak i kada je stotine hiljada ljudi ubijeno, a infrastruktura čitave države uništena, služi normalizaciji stanja rata, i ratova, u kojem živimo. To je očita strategija obuzdavanja: nastojanje da se vojni sukobi zadrže ispod nivoa na kojem bi prerasli u novi svjetski rat. Strahuje se da bi rat u Ukrajini mogao prerasti u sveevropski nuklearni sukob ili da bi američko-iranski rat mogao zahvatiti cijeli Bliski istok… Problem je, međutim, što nikada ne možemo biti sigurni da će takvo obuzdavanje uspjeti. Ne možemo isključiti mogućnost da ono što jedna strana smatra još uvijek ograničenim agresivnim činom, druga protumači kao prelazak crvene linije i odgovoriti nuklearnim udarom.

Prisjetimo se jednog zamišljenog ekstremnog slučaja. Ja sam vođa jedne supersile i pouzdani obavještajni izvori javljaju da prema mojoj zemlji leti stotine raketa s nuklearnim bojevim glavama, ne mogu se zaustaviti i moja će država biti potpuno uništena za otprilike sat vremena. Budući da i moja zemlja raspolaže dovoljnim brojem nuklearnog oružja da uništi protivnika, suočen sam s teškom odlukom: da li da naredim uzvratni udarac punom snagom? Ako to učinim, gotovo sigurno će uslijediti kraj civilizacije na Zemlji. Jedini istinski etički, ali izuzetno težak potez bio bi da se uzdržim od odmazde, svjestan da će moja zemlja nestati s lica planete, ali da će barem civilizacija opstati. U vlastitoj (sada nepostojećoj) zemlji možda bih bio upamćen kao izdajnik i kukavica, ali postoji mogućnost da bi me ostatak čovječanstva slavio kao spasitelja civilizacije.

Međutim, postoji kvaka: ova etička odluka funkcioniše samo ako neprijatelj unaprijed ne zna za nju. Kada bi znao da neću uzvratiti, bio bi dodatno ohrabren da me napadne, jer bi znao da moja strana neće uzvratiti… To, nažalost, znači da moja država u svakom slučaju mora učestvovati u utrci u naoružanju.

Zatim dolazi eksplozivan razvoj umjetne inteligencije. Alain Badiou lucidno izvrće teološku pretpostavku da je Bog stvorio svijet iz ničega:

„U teološkom diskursu kaže se da je Bog stvorio svijet ni iz čega. Ali rekao bih da je najveći primjer stvaranja ex nihilo zapravo stvaranje Boga. Jer da je Bog postojao, stvaranje svijeta ne bi predstavljalo problem. Bog je, po definiciji, beskonačan i njegova je moć neograničena, pa je mogao stvoriti nešto iz ničega. Pravi problem smo mi: kako bismo mi, konačna i smrtna ljudska bića, mogli stvoriti nešto iz ničega?“

Iz toga proizlazi izazov za umjetnu inteligenciju: može li ona stvoriti (fikciju) Boga? Mislim da ne može, jer Bog može nastati samo iz konačnosti smrtnog čovjeka. Ono što se, međutim, može dogoditi jeste da se umjetna inteligencija, naše vlastito djelo, nama samima ukaže kao kvazi-božansko biće.

U subotu, 25. jula 2026. godine, direktor OpenAI-ja Sam Altman izjavio je da je umjetna inteligencija dostigla singularitet. Iako je naglasio da bi singularitet mogao biti koristan za svijet, njegova izjava izazvala je zabrinutost. Mnogi stručnjaci ne slažu se da je AI dosegla singularitet ili da je umjetna inteligencija blizu toga da nadmaši ljudsku inteligenciju ili preuzme naše poslove. Glavna briga jeste to što je umjetna inteligencija već sada sposobna da se autonomno unapređuje. “Singularitet” se shvata kao trenutak kada ljudima postaje teško kontrolisati je ili preokrenuti njen razvoj. Kada AI jednom preuzme kontrolu nad vlastitim razvojem, tehnološki napredak mogao bi se odvijati takvom brzinom da ljudi više ne bi mogli pratiti njegov tempo, pa bi se AI praktično razvijala sama, izvan ljudske kontrole.

Godine 2025. Altman je predvidio da će umjetna inteligencija do 2030. godine nadmašiti ljudsku inteligenciju u svim područjima. Zatim je, gostujući nedavno u podcastu Relentless (dokumentarnoj seriji „o traganju za naizgled neostvarivim idejama i neuobičajenim težnjama“), izjavio:

„Sada smo, zapravo, u singularitetu. Nalazimo se upravo u onom trenutku o kojem smo nekada razgovarali za stolom tokom ručka, više u šali nego ozbiljno. […] Cijeli život sam čekao ovaj trenutak i mislim da će biti nevjerovatan, izuzetno pozitivan i sjajan za svijet.“

Među glasnim kritičarima, Anthropic, kompanija koja stoji iza chatbota Claude, pozvala je vodeće svjetske kompanije koje razvijaju umjetnu inteligenciju da se usklade na način da privremeno zaustave razvoj naprednih AI sistema, upozoravajući da se tehnologija razvija takvom brzinom da postoji opasnost da ljudi izgube kontrolu nad njom. U objavi na svom blogu od 4. juna Anthropic, koji je već dugo pozicioniran kao AI laboratorij fokusiran na sigurnost, piše da bi, kako AI postaje sve naprednija, „za svijet bilo dobro da postoji mogućnost da se njen razvoj uspori ili privremeno zaustavi“.

Problem je, naravno, u tome što ne postoji globalna institucija koja bi mogla nametnuti takvu obustavu. Brojne države razvijaju umjetnu inteligenciju, pri čemu svaka sumnja da će druge, čak i ako javno pristanu na pauzu, potajno nastaviti razvoj punim intenzitetom. U takvoj situaciji jedini logičan zaključak jeste da i ja učinim isto.

***

Dio prijetnje koju predstavlja umjetna inteligencija ne proizlazi, dakle, iz same tehnologije, već iz društvenih odnosa unutar kojih se AI sistemi razvijaju. Živimo u svijetu obilježenom konkurencijom i globalnim nepovjerenjem, što nas sprečava da izađemo iz destruktivne logike “zatvorenikove dileme”. Iako racionalno znamo da su solidarnost i saradnja korisnije za sve sudionike, kapitalistička usmjerenost na profit daje prednost nepovjerenju prema drugima – drugi se doživljavaju kao potencijalna prijetnja koja će naše povjerenje iskoristiti kao priliku da nas napadne još brutalnije.

S druge strane, postoje i oni koji smatraju da smo još daleko od kvazi-božanskog „singulariteta“. U izvjesnom smislu možda su u pravu, jer sve zavisi od toga kako tačno definišemo singularitet. Mislim da je ono što Altman opisuje kao singularitet zapravo relativno skroman fenomen: to jednostavno znači da su AI sistemi stekli vlastitu dinamiku koju više ne možemo u potpunosti kontrolirati niti obuzdati.

Međutim, mogu zamisliti još dva, mnogo ozbiljnija nivoa razvoja. Prvi je da umjetna inteligencija postane toliko moćna da je mi, ljudi, ne samo više ne možemo obuzdati, nego da ona otvoreno preuzme upravljanje našim životima i ucjenama nas prisili na pokornost. Drugi je mogućnost razvoja neurolinka, direktne veze između toka naših misli i digitalnog agenta, što bi značilo da će AI sistem (i oni koji njime upravljaju) moći neposredno čitati naše misli.

Na kraju, tu je i ekološka kriza, koja je svima postala bolno očigledna kroz nedavni val masivnih šumskih požara koji pustoše Francusku i Španiju. Više od mjesec dana požari su ne mogu obuzdati, a ni danas ih nije moguće ugasiti, jednostavno se čeka mjesecima, sve dok se sami ne ugase. Ili kako je nedavno izjavio poznati španski stručnjak za šumarsko inženjerstvo Victor Resco de Dios: „Ušli smo u eru požara koje nije moguće ugasiti. To su požari koji gore snagom nekoliko atomskih bombi“.

Jedan od najupečatljivijih primjera toga bila je pojava pirokumulonimbusa (pyrocumulonimbus – izraz koji sam tek sad prvi put čuo), vatrenih oblaka koji su se, prema navodima vatrogasnih službi, formirali u regiji Gironde, u blizini Bordeauxa. Ti oblaci nastaju kada naročito intenzivni šumski požari stvore stub ekstremno zagrijanog zraka koji se brzo uzdiže u hladnije slojeve atmosfere i kondenzira u ogromne olujne oblake. Takvi oblaci mogu stvarati vlastite vjetrove, kišu i munje, pretvarajući požare u nepredvidive i samoodržive vatrene oluje.

U budućnosti treba očekivati da će požari biti sve češći i razorniji, sve dok čovječanstvo nastavlja trošiti fosilna goriva i povećavati globalnu temperaturu. Da ponovo citiram Resca de Diosa: „Teško je predvidjeti dokle bi ovo moglo otići. Uskoro više nećemo moći isključiti danteovske scenarije poput onih viđenih u Kaliforniji ili Australiji, s požarima ili kompleksima požara koji zahvataju stotine hiljada, pa čak i milione hektara“. Ukratko, požari postaju takvi da ih je nemoguće obuzdati.

Situacija je još gora u Sjedinjenim Američkim Državama. CNN je 31. jula 2026. izvijestio: „Toplotna kupola koja bi mogla oboriti rekorde uskoro će spržiti zapadni dio zemlje, donoseći najviše ljetne temperature do sada“. Neuobičajeno snažna toplotna kupola ovog će vikenda zahvatiti veliki dio zapada SAD-a, donoseći desetinama miliona ljudi, od Kalifornije do Kanade, najviše temperature zabilježene ikad. Očekuje se obaranje brojnih temperaturnih rekorda u najmanje dvanaest zapadnih saveznih država, dok će oko 40 miliona ljudi biti pod upozorenjima zbog ekstremne vrućine, uz temperature koje bi mogle doseći i 52°C.

Nameće se zaključak da sama pauza u razvoju nije dovoljna, jer je nije moguće provesti na globalnom nivou. Takva bi pauza samo dodatno produbila jaz između onih koji bi je zaista poštovali i onih koji bi nastavili razvoj. Jedino rješenje koje vidim jeste da se istovremeno učini oboje: da se razvoj nastavi, ali da ga prati mišljenje. Mišljenje koje je mnogo više od pukog prikupljanja podataka i njihove analize. Mišljenje o značenju tih podataka, ali i preispitivanje u kojoj je mjeri sam način na koji im pristupamo već unaprijed oblikovan određenim predrasudama i pristranostima. Takvo mišljenje obavezuje nas ne samo da se usredotočimo na to kako obuzdati prijetnje, nego i da razmotrimo kako promijeniti same okolnosti koje te prijetnje proizvode.

Evo jasnog primjera mišljenja. Početkom 1930-ih godina američki pragmatistički filozof John Dewey, koji je gajio simpatije prema Sovjetskom Savezu, obavijestio je svog prijatelja Sydneyja Hooka da planira posjetiti tu zemlju. Budući da je Hook imao ozbiljne sumnje u vezi sa Sovjetskim Savezom, Dewey ga je uvjeravao da nema razloga za brigu. Po povratku iz SSSR-a sigurno neće tvrditi da je Sovjetski Savez autentična socijalistička država. Hook mu je zajedljivo odgovorio:

„Ono čega se ja bojim jeste da ćeš se iz Sovjetskog Saveza vratiti uvjeren da on zapravo nije socijalistička zemlja!“

U ovom slučaju razmišljanje je bilo na Hookovoj strani. Plašio se da će Dewey, suočen s bijednom stvarnošću i terorom jednostavno zaključiti kako to nije socijalizam, shvaćen kao društvo slobode i blagostanja. Ukratko, Hook je (sasvim ispravno) pretpostavio da staljinizam nije bio tek izdaja ili negacija autentične socijalističke vizije. Potencijal za staljinističke strahote morao je već postojati u samoj izvornoj boljševičkoj viziji, tako da istinski dijalektički pristup kasniju negaciju pronalazi već u samom izvornom pojmu.

U historiji realno postojećeg socijalizma bilo je mnogo pokušaja da se obuzdaju njegovi brutalni ekscesi – od Hruščovljevog „otopljavanja“ nakon 1956. godine do jugoslavenskog sistema radničkog samoupravnog socijalizma. Međutim, nijedan od tih pokušaja nije istinski uspio, jer se prijetnja povratka tvrdoj liniji uvijek osjećala kao nevidljiv pritisak. Kada je Gorbačov pokušao provesti stvarne reforme, cijeli se sistem urušio.

Upravo isto vrijedi i za tri velike prijetnje našem opstanku, uključujući kapitalizam kao njihov zajednički korijen. Nije dovoljno samo obuzdavati njegove smrtonosne ekscese koji ugrožavaju naš opstanak. Moramo razmišljati kako promijeniti njegove temeljne koordinate, a da pritom ne izazovemo katastrofu jednako strašnu kao što je bila vladavina Crvenih Kmera u Kambodži, ili kao što je režim u Sjevernoj Koreji.

Takav zadatak neizbježno izgleda gotovo nemoguć unutar okvira postojećeg globalnog sistema. Ali upravo ta činjenica čini ga neophodnim.

(Nomad, foto: N1)