Pomogla mi je plava košulja koju sam dobio na poklon od ženine sestre. Čitav događaj me je podsetio na Jakova Petroviča Goljatkina, skromnog birokratu iz novele Fjodora Dostojevskog „Dvojnik“, uznemirujuće studije pocepane ličnosti unutar ogromnog, bezličnog feudalnog sistema.

Sve je počelo porukom cenjenog kolege koji mi je čestitao na nastupu povodom neke geopolitičke teme. Kada sam kliknuo na priloženi link da se prisetim šta sam to pričao, zabrinuo sam se za svoje pamćenje. Nisam mogao da se setim kad sam snimio taj video. Posle nekoliko minuta znao sam da nešto nije u redu. Ne zbog onoga što sam govorio, već zato što sam na snimku sedeo za svojim kancelarijskim stolom u Atini u plavoj košulji koju nikada nisam nosio van svoje kuće na ostrvu. Video je zapravo prikazivao mog „deepfake AI“ dvojnika.

Od tada se po društvenim mrežama šire na stotine takvih video snimaka sa mojim licem i sintetizovanim glasom. I ovog vikenda je iskočio novi video koji prikazuje dipfejk mene kako pričam izmišljotine o puču u Venecueli. Moji AI dvojnici drže predavanja, govore stvari koje bih možda i ja rekao, ali i ono što nikada ne bih izgovorio. Ponekad su puni gneva ili drže pompezne propovedi. Nekad su očigledno lažni, a nekad uznemirujuće ubedljivi. Poznanici me pitaju: „Janise, da li je moguće da si to rekao?“ Protivnici dele ove snimke kao dokaz da sam idiot. Najgore je kada kažu da su moji dvojnici bolje artikulisani i ubedljiviji od mene. Našao sam se u bizarnoj poziciji posmatrača sopstvene digitalne marionete, fantoma u tehnofeudalnoj mašini za koju odavno tvrdim da nije samo pokvarena, već upravo projektovana da nas porobi.

Moja prva reakcija je bila da pišem Guglu, Meti i ostalima sa zahtevom da uklone sve takve snimke. Besno sam popunjavao formulare kako bi se bar neki od tih naloga i snimaka uklonili, samo da bi se ponovo pojavili na drugom mestu. Posle nekoliko dana sam odustao: šta god činio, koliko god vremena trošio na ubeđivanje sa velikim tehnološkim kompanijama, moji AI dvojnici ponovo niču kao Hidrine odsečene glave.

Smirio sam se i počeo da analiziram. Zar nisam baš ja tvrdio da su velike tehnološke kompanije digitalizovale kapitalizam i da predvode veliku transformaciju tržišta u feude u oblaku, a profit u rentiranje oblaka? Zar moji AI dvojnici nisu savršena potvrda da je, u ovoj tehnofeudalnoj stvarnosti, liberalni pojedinac načisto mrtav?

Pomiren sa delimičnim gubitkom vlasništva nad samim sobom, potražio sam utehu u racionalizaciji dipfejka kao konačnog čina feudalnog zatvaranja, dokaza da u tehnofeudalizmu ne posedujemo ništa – ni podatke koje stvaramo svojim (digitalnim) radom, ni mreže naših društvenih veza, pa ni naš audiovizuelni identitet. Naši novi gospodari nas vide kao podstanare na svojim posedima u oblaku, androide čiji lik mogu da prisvoje po volji da bi širili konfuziju, zamućivali razgovor i gušili autentičnu kritiku namenski sintetizovanom kakofonijom.

A onda sam se setio jedne vedrije ideje iz antičke Grčke. Šta ako su moji AI dvojnici vesnici izegorije (ἰσηγορία), principa svetlog, obećavajućeg i odsutnog, baš kao i prava demokratija? Zatražio sam od raznih verzija AI čet-botova da definišu ovaj pojam i redom su ga pogrešno tumačili kao jednakost u govoru, ili pravo da se bude saslušan, ili slobodu obraćanja na skupu. Ali to nije ono što su stari Atinjani imali na umu. Za njih je izegorija bila sušta suprotnost današnjoj „slobodi govora“, koju bi odbacili kao apstraktno pravo da se viče u prazno. Za Atinjane, to je značilo pravo da se vaši stavovi ozbiljno procenjuju, na osnovu činjenica, nezavisno od toga ko ste ili kako ste ih vešto formulisali.

Mogu li AI dipfejkovi da spasu izegoriju iz kandži naše tehnofeudalne distopije? Kada shvatimo da je nemoguće proveriti snimak koji se deli po mrežama, hoćemo li biti prinuđeni da procenjujemo vrednost onoga što je rečeno, a ne onoga ko to izgovara? Dok su uništavale autentičnost, da li su velike tehnološke kompanije slučajno dale šansu izegoriji? Ova pitanja nude tračak nade.

To je nada da se bauk demokratije možda i dalje nadvija nad našim glavama, samo ako se usudimo da pogledamo gore, da se uključimo u spor, težak, demokratski posao koji je algoritamski sadržaj trebalo da uništi: kritičku procenu stavova i argumenata koji nam se upućuju. Nažalost, ova nada, mada opipljiva, nije dovoljna sve dok naši tehnofeudalni gospodari imaju dve kolosalne, asimetrične prednosti.

Prvo, oni poseduju samu agoru – servere, selekciju objava, algoritamska sredstva komunikacije. Oni svoj govor mogu da označe digitalnim pečatom autentičnosti, dok naš dave u močvari sumnje i buke. Rezultat? Ne izegorija, već digitalno božansko pravo u kom je istina patentirano svojstvo moći.

Drugo, što je mnogo lukavije, nisu im potrebni dipfejkovi da bi vladali. Njihova ideologija je ugrađena u mašinu: moć izvlačenja viška vrednosti od proletera povezanih sa oblakom preko raznih digitalnih uređaja, logika ekstrakcije rente iz oblaka od vazalskih kapitalista na njihovim platformama, tiranija vrednosti za akcionare, njihov neizbežni uspeh u privatizaciji novca.

Dakle, naš zadatak nije da moljakamo gospodare da verifikuju sadržaj. Naš zadatak je politički. Moramo socijalizovati kapital u oblaku, svemoćnu novu silu koja transformiše društvo i uništava sve što humanizam čini zamislivim.

Do tada, pustimo naše digitalne dvojnike nek pričaju. Možda će toliko zagušiti spektakl da konačno prestanemo da slušamo svoj glas i počnemo da procenjujemo argumente na osnovu njihove vrednosti. To je možda najparadoksalnija krhotina nade u dvorani ogledala. Ali na ovoj vrtešci, hvatamo se za svaku slamku.

(Peščanik/The Guardian, prevela Milica Jovanović, foto: Wikimedia)