Uđite u Media Lab čuvenog Massachusetts Institute of Technology (MIT) u Kembridžu i budućnost vam deluje na dohvat ruke. Iza staklenih vitrina izloženi su prototipi neobičnih i fascinantnih naprava: od sićušnih robota za sto do nadrealističke skulpture koju je dizajnirao AI model na osnovu zadatka da napravi set za čaj od delova ljudskog tela. U predvorju, robot Oskar – AI asistent za razvrstavanje otpada – objasniće vam u koji kontejner da bacite svoju korišćenu šolju za kafu. Pet spratova iznad, istraživačica Natalija Kosmina radi na interfejsima koji povezuju mozak i računar, zamišljenim da jednog dana omoguće osobama koje ne mogu da govore, recimo onima obolelim od amiotrofične lateralne skleroze, da komuniciraju mislima.

Kosmina proučava moždane aktivnosti ljudi i pokušava da ih razume. Jedan od njenih projekata je nosivi uređaj – jedan prototip izgleda kao naočare – koji može da otkrije kada neko gubi fokus ili postaje zbunjen. Pre oko dve godine, počela je da dobija neobične mejlove od nepoznatih ljudi: tvrdili su da su počeli da koriste veštačku inteligenciju poput ChatGPT-a i da im se – promenio mozak. „Pamćenje mi više nije kao pre“, pisali su. „Da li je to moguće?“

I sama Kosmina je primetila koliko su se ljudi brzo navikli da se oslanjaju na generativni AI. Kolege su ga koristile na poslu, a prijave kandidata koji su želeli da se priključe njenom timu postajale su sve duže, formalnije i – čudnije. Tokom Zoom intervjua, primećivala je kako kandidati zastanu, skrenu pogled, pa nastave. „Da li im AI šapuće odgovore?“ – pitala se. „I ako da, koliko uopšte razumeju to što izgovaraju?“

Zajedno sa kolegama, sprovela je eksperiment. Pomoću elektroencefalograma (EEG) pratila je moždanu aktivnost učesnika koji su pisali eseje – neki bez ikakve digitalne pomoći, neki koristeći internet pretraživač, a neki ChatGPT. Rezultat je bio zapanjujući: što je više spoljne pomoći, to je manja povezanost moždanih centara. Kod onih koji su koristili ChatGPT, aktivnost u delovima mozga zaduženim za pažnju, kognitivno procesuiranje i kreativnost bila je – drastično niža.

Drugim rečima, ma koliko korisnici ChatGPT-a mislili da im mozak radi „punom parom“, skeneri su pokazivali suprotno: u glavama im se nije dešavalo gotovo ništa.

Kad su ih istraživači pitali da odmah nakon pisanja citiraju makar jednu rečenicu iz svog teksta, gotovo niko iz grupe koja je koristila AI to nije mogao da uradi. „To je bilo zabrinjavajuće“, kaže Kosmina. „Upravo ste to napisali i ne sećate se ničega.“

Kosmina, 35, u plavoj košulji-haljini sa ogromnom šarenom ogrlicom, govori brže nego što većina ljudi može da misli. Objašnjava da pisanje eseja razvija veštine koje su ključne i van učionice: sposobnost da sintetizujemo informacije, sagledamo različite perspektive, izgradimo argument. „Koristite ih svakog dana, u razgovorima. A šta ćemo kad to izgubimo? Hoćemo li stalno govoriti: ‘Ovaaaaj… mogu li samo da proverim telefon?’“

Eksperiment je bio mali (54 učesnika) i još nije prošao naučnu recenziju. Ali kada ga je Kosmina objavila onlajn, nije ni slutila da će izazvati globalni medijsko ludilo. U danima koji su usledili, stiglo joj je više od 4.000 mejlova, najviše od nastavnika koji su očajni jer njihovi učenici više ne uče, već zadatke predaju uz pomoć ChatGPT-a. „Boje se da AI stvara generaciju koja zna da napiše pristojan tekst, ali ništa zapravo ne razume“, kaže ona.

„Naš mozak voli prečice, to je u našoj prirodi“, objašnjava Kosmina. „Ali mozgu je potreban otpor da bi učio. Potrebno mu je da se pomuči.“

I dok naši mozgovi vape za „trenjem“, tehnološka industrija već decenijama obećava suprotno – „beztrenje“, lakoću, brzinu. Frictionless experience, kako to vole da kažu. U stvarnosti, to znači da sve više posla i pamćenja prepuštamo uređajima: zato je tako lako upasti u digitalne rupe bez dna i toliko teško iz njih se izvući.

Kada se naviknemo na hiperefikasni digitalni svet, stvarni život postaje naporan. Ne zovemo telefonom – pišemo poruke. Koristimo samouslužne kase. Naručujemo sve iz aplikacija. Vadimo telefon da izračunamo jednostavan zbir, da proverimo činjenicu umesto da je se prisetimo, da ukucamo adresu na mapi umesto da je zapamtimo. Možda čak prestajemo da čitamo knjige jer nam koncentracija postaje naporna. I maštamo o samovozećem autu koji će misliti umesto nas.

Da li je ovo početak, kako kaže britanska spisateljica Dejzi Kristodulu, „glupogeničnog društva“ – analogno „gojaznom društvu“ – u kojem je lako postati glup jer mašine misle za nas?

Ljudska inteligencija je previše složena i raznolika da bi se svela na reč poput „glupost“ — ali postoje zabrinjavajući znaci da nas sva ta digitalna udobnost skupo košta. U razvijenim zemljama OECD-a, rezultati PISA testova koji mere znanja petnaestogodišnjaka iz matematike, nauke i čitanja dostigli su vrhunac oko 2012. godine, a zatim počeli da opadaju. Tokom 20. veka, prosečni IQ je rastao globalno, ali sada u mnogim državama beleži pad.

Rasprave o razlozima su žestoke, ali jedno je jasno: što više napreduje tehnologija, to smo zavisniji od nje pa sve teže pamtimo, mislimo, odlučujemo… „Samo programeri i dileri droge svoje korisnike zovu ‘userima’“, gunđa Kosmina, besna na AI kompanije koje agresivno guraju proizvode javnosti pre nego što iko razume njihove psihološke i kognitivne posledice.

U digitalnom svetu bez “trenja”, mi smo pre svega korisnici. Pasivni. Zavisni. U eri dezinformacija i deepfake-ova, kako ćemo sačuvati kritičko mišljenje i intelektualnu samostalnost? Kada shvatimo da više ne možemo jasno da mislimo bez digitalne pomoći, hoće li u nama uopšte ostati nas dovoljno da se odupremo?

Kad kažete da ste zabrinuti za to što „pametne mašine“ rade našim mozgovima, rizikujete da vam se u skoroj budućnosti svi smeju kao “tehnološkom paničaru”. I Sokrat je, u svoje vreme, brinuo da će pisanje uništiti pamćenje i stvoriti samo „privid mudrosti“. Ali pisanje, štampa, masovni mediji i internet – sve te revolucije su zapravo omogućile da više ljudi ima pristup znanju, da razvijaju i dele ideje.

Čovek može da obavi mnogo složenije zadatke kada ima svesku i olovku pri ruci nego bez njih: većina nas ne može u glavi da izračuna koliko je 53.683 podeljeno sa 7, ali bismo to verovatno mogli pokušati na papiru. Ni ovaj tekst nisam mogla da izgovorim „iz glave“, ali njegovo pisanje mi je pomoglo da misli organizujem i razbistrim. Kao ljudi, izuzetno smo vešti u onome što stručnjaci nazivaju „kognitivnim rasterećenjem“, korišćenju fizičkog okruženja da smanjimo mentalni napor. To nam, zauzvrat, omogućava da postižemo složenije misaone zadatke. Zamislite koliko bi svakodnevno funkcionisanje bilo teže bez kalendara, podsetnika na telefonu ili Gugla koji pamti sve umesto nas. U najboljem scenariju, pametni ljudi koji sarađuju s pametnim mašinama mogli bi da postignu nove intelektualne visine i reše naizgled nerešive probleme. Već sada vidimo kako AI pomaže naučnicima da brže otkrivaju nove lekove, a lekarima da ranije i preciznije dijagnostikuju rak.

Problem je, međutim, u osećaju: ako nas tehnologija zaista čini pametnijima, zašto se sve češće osećamo gluplje?

Prošle godine, „brain rot“ – „truljenje mozga” (mentalno zaglupljivanje) – proglašena je za reč godine u izboru Oxford University Pressa. Izraz opisuje onaj osećaj mentalne praznine nakon previše skrolovanja besmislenih sadržaja, ali i sam taj sadržaj: besmislene mimove, banalne video klipove i besmislene AI konstrukte. U teoriji, na dlanu, u telefonu, držimo sav akumulirani ljudski um, ali zašto toliko vremena provodimo razmišljajući o glupostima?

Našim uređajima nije cilj da nam pomognu da mislimo jasnije, već da nam otmu pažnju i unovče je. Svaki put kada uzmete telefon da „samo brzo“ proverite vesti, suočavate se sa industrijom vrednom milijarde koja će učiniti sve da vas zadrži. Da proširimo metaforu Dejzi Kristodulu: kao što je jedno od obeležja „gojaznog društva“ pojava tzv. prehrambenih pustinja, čitavih kvartova u kojima ne možete kupiti zdrav obrok, tako su veliki delovi interneta postali informacione pustinje, u kojima je jedina dostupna hrana za mozak – mentalni džank-fud.

Krajem devedesetih, tehnološka konsultantkinja Linda Stoun, koja je tada predavala na Njujorškom univerzitetu, primetila je da njeni studenti koriste tehnologiju sasvim drugačije od njenih kolega u Majkrosoftu, gde je takođe radila. Dok su kolege iz Majkrosofta disciplinovano radile na dva ekrana – na jednom mejlovi, na drugom Word ili Excel – njeni studenti su pokušavali da rade 20 stvari istovremeno.

Stoun je za taj fenomen skovala izraz „kontinuirana parcijalna pažnja“, stanje napetog, nevoljnog fokusiranja koje nastaje kada pokušavamo da se prebacujemo između više zahtevnih aktivnosti, recimo dok odgovaramo na mejlove tokom Zoom sastanka.

Kad sam prvi put čula taj izraz, shvatila sam da, kao i većina ljudi koje poznajem, živim upravo u tom stanju: krišom proveravam telefon dok se igram sa decom, stalno me ometaju poruke i mejlovi dok pokušavam da pišem, ili pokušavam da se „opustim“ gledajući Netfliks dok paralelno naručujem namirnice onlajn – i sve vreme se pitam zašto se osećam opušteno kao večera pregrejana u mikrotalasnoj.

Digitalni multitasking daje nam lažan osećaj produktivnosti, ali to je samo privid. „Imate utisak da sve držite pod kontrolom, a zapravo nikada ne stižete do suštine bilo čega“, kaže mi Stoun.

Taj osećaj stalne napetosti ima i fizičke posledice. U jednom istraživanju, otkrila je da 80 odsto  ljudi zadržava dah dok proverava mejl, fenomen koji je nazvala „screen apnea“. Toliko se unesemo u beskrajne notifikacije da zaboravimo da dišemo. „Vaš sistem ‘bori se ili beži’ stalno je u pripravnosti, jer pokušavate da ispratite sve“, objašnjava Stoun. A ta hiperbudnost ima cenu: postajemo zaboravniji, donosimo lošije odluke i sve teže održavamo pažnju.

Fenomen kontinuirane parcijalne pažnje pomaže da razumemo i „truljenje mozga (zaglupljivanje) kao mentalno stanje, jer šta je to ako ne kognitivno preopterećenje, trenutak kada prestajemo da se opiremo navali digitalnih ometanja i dopuštamo svom mozgu da se uljuljka u topli, mutni plićak interneta – ali i samu prirodu tog digitalnog otpada koji nas okružuje.

Uostalom, tehnološkim kompanijama finansijski uopšte nije važno šta čitate, slušate ili gledate, niti da li vam se to sviđa, već samo da ne možete da se odvojite od ekrana. Zato servisi poput Netfliksa neprekidno proizvode bezukusne, po šablonu rađene filmove koje eufemistički nazivaju „lako gledanje“ – zapravo sadržaje namenjene gledaocima koji i ne gledaju zaista. Isto važi i za plej-liste na Spotifaju, prepune generičke, „stock“ muzike iza koje stoje izmišljeni izvođači, dizajnirane da stvore pozadinski zvuk, „chill out“ ili „party“ atmosferu – za slušaoce koji zapravo ne slušaju.

Ukratko: savremeni internet vas ne čini nužno idiotom, ali vas svakako programira da se tako ponašate.

U takvom okruženju pojavila se generativna veštačka inteligencija, nudeći nešto sasvim novo. Donedavno smo tehnologiji mogli prepustiti samo pamćenje i deo obrade podataka, a sada možemo prepustiti i samo mišljenje.

S obzirom na to koliko smo većinu vremena preopterećeni i razdraženi, nije ni čudo što su mnogi s oduševljenjem prihvatili priliku da kompjuter obavi ono što smo nekada radili sami: da napiše izveštaj, mejl ili isplanira godišnji odmor.

Kako prelazimo iz internetske ere u eru veštačke inteligencije, ne konzumiramo više samo sve pliće, industrijski prerađene informacije, već i sadržaje koji su unapred „sažvakani“, to jest  isporučeni tako da zaobiđu ključne ljudske sposobnosti: procenjivanje, filtriranje, sažimanje informacija, i ono najvažnije – stvarno promišljanje problema, umesto da samo ulepšavamo prvi ponuđeni odgovor.

Majkl Gerlih, direktor Centra za strateško korporativno predviđanje i održivost na Švajcarskoj poslovnoj školi (SBS Swiss Business School), počeo je da proučava uticaj generativne veštačke inteligencije na kritičko mišljenje, nakon što je primetio da kvalitet diskusija na času opada.

Ponekad bi studentima dao grupni zadatak, ali umesto da razgovaraju jedni s drugima oni bi sedeli u tišini, zureći u svoje laptope. Kada je o tome razgovarao s drugim predavačima, i oni su primetili sličan obrazac.

Nedavno je Gerlih sproveo istraživanje na uzorku od 666 ispitanika različitih uzrasta i otkrio da oni koji češće koriste veštačku inteligenciju postižu niže rezultate na testovima kritičkog mišljenja. (Kako sam napominje, njegov rad za sada pokazuje samo korelaciju, a ne uzročnost – moguće je, recimo, da ljudi sa slabijim sposobnostima kritičkog mišljenja jednostavno imaju veću sklonost da veruju AI-u.)

Kao i mnogi istraživači, Gerlih veruje da veštačka inteligencija može da nas učini pametnijima i kreativnijima, ali način na koji je većina ljudi koristi rezultira bezličnim, neinventivnim i često sumnjivim sadržajem.

Jedna od njegovih glavnih briga je takozvani „efekat sidrenja“ (anchoring effect). Kada postavite pitanje generativnoj AI, odgovor koji dobijete „usidri“ vaš mozak na određenu misaonu putanju i smanjuje verovatnoću da razmotrite druge pristupe.

„Uvek koristim sledeći primer: zamislite sveću. AI vam može pomoći da je usavršite: da gori jače nego ikada, traje duže, bude jeftina i lepo izgleda, ali nikada neće od nje napraviti sijalicu“, objašnjava Gerlih.

Da biste od sveće stigli do sijalice, potreban vam je čovek sposoban za kritičko mišljenje, neko ko može da pristupi problemu nepredvidivo, izvan ustaljenih okvira.

Kada kompanije, kao što se već dešava u mnogim radnim okruženjima, uvode alate poput chatbota Copilot bez adekvatne obuke zaposlenih za rad s AI-em, one rizikuju da dobiju timove solidnih proizvođača sveća u svetu koji očajnički traži inženjere sijalica.

Tu je i širi problem: odrasli koji danas koriste veštačku inteligenciju kao prečicu ipak su prošli kroz obrazovni sistem pre nego što je bilo moguće da računar napiše domaći umesto njih.

Jedno nedavno istraživanje u Velikoj Britaniji pokazalo je da 92 odsto univerzitetskih studenata koristi AI, dok je oko 20 odsto priznalo da su veštačku inteligenciju koristili da napiše ceo ili deo njihovog seminarskog rada.

U takvim okolnostima, postavlja se pitanje koliko oni zapravo uče? Da li su škole i univerziteti još uvek sposobni da obrazuju kreativne, originalne mislioce koji će graditi pametnija društva, ili će obrazovni sistem uskoro početi da proizvodi bezvoljne, lakoverne AI-dronove za pisanje eseja?

Pre nekoliko godina, Met Majls, profesor psihologije u jednoj srednjoj školi u američkoj saveznoj državi Virdžiniji, poslat je na obuku o primeni tehnologije u obrazovanju. Tokom programa, nastavnicima je prikazan video u kojem učenica biva uhvaćena kako tokom časa gleda u telefon. U snimku, devojka podiže pogled i kaže:

„Vi mislite da sam na TikToku ili da igram igrice, a ja sam zapravo u istraživačkoj sobi i razgovaram sa stručnjakom za vodne resurse iz Bocvane zbog školskog projekta.“

„To je smešno. Pokažete to deci – i svi se smeju, zar ne?“ kaže Majls.

Zabrinut zbog ogromnog raskoraka između načina na koji donosioci odluka vide tehnologiju u obrazovanju i onoga što nastavnici svakodnevno vide u učionicama, Majls je 2017. godine, zajedno sa svojim kolegom Džoom Klementom, profesorom ekonomije i politike u istoj školi, objavio knjigu Screen Schooled, u kojoj tvrde da prekomerno korišćenje tehnologije decu zapravo čini glupljom.

Od tada su pametni telefoni zabranjeni u njihovim učionicama, ali učenici i dalje rade na laptopovima. „Jedan nam je učenik rekao, i mislim da je bio prilično iskren: ‘Ako me vidite s telefonom, šansa da radim nešto korisno je nula. Ako me vidite za laptopom – možda pedeset odsto’“, kaže Majls.

Do izbijanja pandemije, mnogi su nastavnici s pravom bili skeptični prema ideji da se još više tehnologije uvodi u učionice, primećuje Fejt Bonindžer, istraživačica sa Univerziteta Kolorado. Ali kada su karantini primorali škole da pređu na onlajn nastavu, stvoren je novi „normalni“ svet, a platforme za edukaciju poput Google Workspace for Education, Kahoot! i Zearn postale su sveprisutne.

S pojavom generativne veštačke inteligencije došla su nova obećanja da će ona uneti revoluciju u obrazovanje, otvoriti eru personalizovanog učenja i pritom smanjiti opterećenje nastavnika. Ali gotovo sva istraživanja koja tvrde da tehnologija poboljšava rezultate u učionici finansirana su upravo od strane industrije obrazovne tehnologije, dok većina nezavisnih, obimnijih istraživanja pokazuje suprotno: vreme provedeno pred ekranom ometa postignuće.

Globalna studija OECD-a, na primer, pokazala je da što više učenici koriste tehnologiju u školi – to su im slabiji rezultati. „Jednostavno ne postoji nijedan nezavisan dokaz u velikom obimu koji bi potvrdio efikasnost tih alata… U suštini, ono što radimo s tim tehnologijama jeste  eksperimentisanje na deci“, upozorava Vejn Holms, profesor kritičkih studija veštačke inteligencije i obrazovanja na Univerzitetskom koledžu u Londonu.

„Razumni ljudi ne bi otišli u bar, upoznali nekog ko im kaže: ‘Hej, imam novi lek, odličan je za tebe!’ – i samo ga popili. Od lekova očekujemo da budu temeljno testirani i da nam ih propišu stručnjaci. Ali, kada govorimo o obrazovnim tehnologijama, koje navodno blagotvorno deluju na dečji mozak, odjednom smatramo da to nije potrebno.“

Majlsa i Klementa, međutim, ne brine samo što su njihovi učenici stalno ometeni uređajima, već i to što ne razvijaju kritičko mišljenje i dublje znanje, jer su brzi odgovori uvek udaljeni samo jedan klik.

Klement je nekada pitao učenike: „Gde mislite da se SAD nalaze po BDP-u po glavi stanovnika?“ – i zatim kroz diskusiju vodio učenike do rešenja. Danas neko već izgugla odgovor pre nego što on i završi pitanje.

Oni znaju da studenti redovno koriste ChatGPT i da se ljute ako ne dobiju digitalnu verziju zadatka – jer tada moraju sami da kucaju umesto da kopiraju pitanje i nalepe ga u AI asistenta ili Google pretragu. „To što možete da izguglate odgovor i kažete tačno, to nije znanje“, kaže Klement. „A posedovati znanje je izuzetno važno, jer kada čujete nešto sumnjivo ili potencijalno lažno, možete da pomislite: ‘Čekaj malo, to se kosi sa svim što znam.’ Nije ni čudo što danas ima toliko ljudi koji veruju da je Zemlja ravna. Ako pročitate blog ravnozemljaša, možda pomislite: ‘Pa, ima smisla’ – jer nemate nikakvo predznanje ni razumevanje sveta.“

Internet je već preplavljen teorijama zavere i dezinformacijama, a to će se samo pogoršavati kako AI počne da „halucinira“ i proizvodi uverljive falsifikate. Klement se plaši da su mladi potpuno nespremni da se snađu u takvom okruženju.

Tokom pandemije, Majls kaže da je zatekao svog malog sina kako plače nad školskim tabletom. Dečak je radio onlajn zadatak iz matematike: trebalo je da napravi broj šest koristeći najmanji mogući broj žetona s vrednostima jedan, tri i pet. Upisivao je dve trojke, ali mu je računar stalno govorio da greši. Kada je Majls pokušao sa „jedan i pet“, program je to prihvatio.

„To je, u suštini, noćna mora koju dobijete sa ne-ljudskim AI-jem, zar ne?“ komentariše Majls. „Deca često pristupaju problemima na neočekivane, zanimljive načine, ali mašine ne znaju kako da se nose s takvom jedinstvenošću.“

Dok sam slušala njegovu priču, pomislila sam na drugačiju vrstu noćne more. Možda zlatno doba gluposti ne počinje onog trenutka kada se predamo superinteligentnim mašinama, već onda kada vlast prepustimo glupim.

Sophie McBain (The Guardian, prevod: Autonomija, foto: Pixabay)