Više od jedne trećine istraživača vjeruje da bi umjetna inteligencija (AI) mogla dovesti do “katastrofe na nuklearnom nivou”, navodi se u istraživanju Univerziteta Stanford, u kojem se naglašava zabrinutost u sektoru zbog rizika koje predstavlja tehnologija koja brzo napreduje.

Istraživanje je jedno od otkrića istaknutih u Izvještaju o indeksu umjetne inteligencije za 2023, koje je objavio Stanfordski institut za umjetnu inteligenciju usmjerenu na čovjeka, koje istražuje najnoviji razvoj, rizike i prilike u rastućem području umjetne inteligencije.

“Ovi sistemi pokazuju sposobnosti u odgovaranju na pitanja i generiranju teksta, slike i koda nezamislive prije deset godina, i nadmašuju stanje tehnike na mnogim mjerilima, starim i novim”, navode autori izvještaja. “Međutim, oni su skloni halucinacijama, rutinski su pristrani i mogu se prevariti da služe podlim ciljevima, naglašavajući komplicirane etičke izazove povezane s njihovim korištenjem”.

Izvještaj, koji je objavljen ovih dana, dolazi usred sve većih poziva na regulaciju umjetne inteligencije nakon kontroverzi koje sežu od samoubistva povezanog s chatbotom do deepfake snimka ukrajinskog predsjednika Volodimira Zelenskog koji se čini da se predaje ruskim snagama.

Revolucionarne promjene

Prošlog mjeseca, Elon Musk i suosnivač Applea Steve Wozniak bili su među 1.300 potpisnika otvorenog pisma u kojem se poziva na šestomjesečnu pauzu u obuci AI sistema iznad nivoa Open AI-jevog chatbota GPT-4 jer se “snažni AI sistemi trebaju razvijati samo kada budemo uvjereni da će njihovi učinci biti pozitivni i da će se njihovim rizicima moći upravljati”.

U anketi istaknutoj u Izvještaju o indeksu umjetne inteligencije za 2023, ukupno 36 posto istraživača reklo je da bi odluke donesene umjetnom inteligencijom mogle dovesti do katastrofe na nuklearnom nivou, dok je 73 posto reklo da bi uskoro mogle dovesti do “revolucionarne društvene promjene”.

U anketi je učestvovalo 327 stručnjaka za obradu prirodnog jezika, grane kompjuterske nauke koja je ključna za razvoj chatbota kao što je GPT-4, između maja i juna prošle godine, prije nego što je izdanje Open AI’s ChatGPT-a u novembru zaludilo svijet tehnologije.

U Ipsosovoj anketi opće javnosti, koja je također istaknuta u indeksu, činilo se da su Amerikanci posebno oprezni prema umjetnoj inteligenciji, sa samo 35 posto koji se slažu da “proizvodi i usluge koji koriste umjetnu inteligenciju imaju više prednosti nego nedostataka”, u usporedbi sa 78 posto kineskih ispitanika, 76 posto ispitanika iz Saudijske Arabije i 71 posto ispitanika iz Indije.

Veća regulacija

Stanfordski izvještaj također navodi da se broj “incidenata i kontroverzi” povezanih s umjetnom inteligencijom povećao 26 puta tokom prošlog desetljeća.

Vladini potezi za regulaciju i kontrolu umjetne inteligencije dobivaju na snazi.

Kineska uprava za cyber prostor ove je sedmice objavila nacrt propisa za generativnu umjetnu inteligenciju, tehnologiju koja stoji iza GPT-4 i domaćih rivala poput Alibabinog Tongyi Qianwena i Baiduovog chatbota Ernie, kako bi se osiguralo da se tehnologija pridržava “temeljne vrijednosti socijalizma” i da ne potkopava vladu.

Evropska unija predložila je “Akt o umjetnoj inteligenciji” kojim bi se reguliralo koje su vrste AI prihvatljive za korištenje, a koje bi trebale biti zabranjene.

Stajališta u SAD-u koja se odnose na umjetnu inteligenciju tek treba pretočiti u savezne propise, ali Bidenova administracija ove je sedmice najavila pokretanje javnih konsultacija o tome kako osigurati da su “sistemi umjetne inteligencije zakoniti, efikasni, etični, sigurni i na drugi način pouzdani”.

(Al Jazeera, foto: Pixabay)