U Parizu je 10. i 11. veljače održan Akcijski samit o umjetnoj inteligenciji (AI Action Summit), čiji su domaćini Francuska i Indija. Na samitu su sudjelovali predstavnici više od stotinu država, uključujući SAD i Kinu, i vodećih kompanija kao što su Alphabet (vlasnik Googlea), Microsoft i OpenAI, koja je proizvela ChatGPT.
U pitanju je treći globalni samit na ovu temu, nakon prethodna dva koji su održani u Ujedinjenom Kraljevstvu i Južnoj Koreji. No nakon njih tehnološki je napredak praktički eksplodirao, a na samitu je rečeno da je svijet od razvoja takozvane opće umjetne inteligencije – kognitivno jednake ili veće od one ljudske – udaljen otprilike pet godina. S druge strane, sama regulativa, odnosno okvir za kontrolu upotrebe AI-ja nije daleko odmakao od prethodna dva samita.
Deklarativni cilj pariškog samita bio je postizanje dogovora o "sigurnom" razvoju i upotrebi tehnologija umjetne inteligencije, no u zahuktaloj utrci u proizvodnji i nabavljanju te tehnologije, koja se može usporediti jedino s prošlostoljetnom utrkom u nuklearnom naoružanju, vodeće države na samit su došle s vlastitim agendama koje imaju malo ili nikakve veze s proklamiranim ciljem sigurnog razvoja i korištenja ove tehnologije.
Tu je prije svega američki predsjednik Donald Trump, koji je nakon preuzimanja dužnosti 20. siječnja donio nekoliko dekreta povezanih s ovom industrijom, uključujući onaj o investiranju astronomskih 500 milijardi dolara u infrastrukturu umjetne inteligencije. Trump je također poništio regulativu upotrebe umjetne inteligencije koju je donijela prethodna administracija, te je donio uredbe o carinskim kontrolama na izvoz čipova i proceduri za izlazak SAD-a iz Pariškog sporazuma o klimatskim promjenama.
Nedugo nakon te najave kineska startup kompanija DeepSeek izašla je sa svojim chatbotom (kompjutorski program koji "razgovara" s korisnikom), značajno jeftinijim od konkurentskog američkog ChatGPT-ja, a sve to događalo se u vrijeme kada je francuski predsjednik Emmanuel Macron s predstavnicima domaće tehnološke industrije dogovarao program Akcijskog samita.
Istraživanje izraelskog portala +972 Magazine o povezanosti Microsofta i IDF-a tijekom izraelske ofanzive u Pojasu Gaze pokazuje do koje je mjere tijekom te operacije izraelska vojska postala ovisna o resursima američke privatne kompanije
Samit je u utorak, 11. veljače završio deklaracijom čiji su prioriteti "osigurati da umjetna inteligencija bude otvorena, inkluzivna, transparentna, etična, sigurna i pouzdana", kao i "održiva za sve ljude na planeti", a potpisali su je predstavnici 60 država, ali ne i SAD-a i Ujedinjenog Kraljevstva. Američki potpredsjednik JD Vance prije toga je kritizirao "pretjeranu regulativu" Evropske unije koja bi mogla "uništiti tu transformativnu industriju", dok je glasnogovornik britanske vlade bio manje jasan, rekavši da deklaracija nedovoljno jasno adresira pitanja globalnog upravljanja i utjecaja tehnologije na nacionalnu sigurnost.
Američki potpredsjednik kritizirao je i dva ranije donesena evropska zakona – o umjetnoj inteligenciji i o zaštiti osobnih podataka – te je zaključio da je pristup pariške konferencije pretjerano opterećen sigurnošću. Rekao je i da države ne bi trebale ulaziti u partnerstva s "autoritarnim" režimima, aludirajući na Kinu, čiji je predstavnik potpisao deklaraciju.
Unatoč Vanceovoj kritici evropskog pristupa navodno pretjerano fokusiranog na rizike koje donosi umjetna inteligencija, evropske države zapravo su također zainteresirane da pronađu način kako implementirati evropski Zakon o umjetnoj inteligenciji, koji je stupio na snagu 1. kolovoza prošle godine, na što fleksibilniji način. Samit bi, rekao je jedan od Macronovih suradnika na ovom događaju, trebao biti "poziv na buđenje" za Evropsku uniju, koja ne smije dozvoliti da "AI revolucija prođe mimo nje" odnosno da je pregazi globalna konkurencija.
Kada je 2017. postao predsjednik države, Macron je Francusku obećao pretvoriti u "startup naciju". Jedna od rijetkih evropskih kompanija koja se uopće bavi chatbotovima francuski je Mistral, a Macron je uoči samita s Ujedinjenim Arapskim Emiratima dogovorio ulaganje od 50 milijardi dolara u izgradnju novog podatkovnog centra u svojoj zemlji. Francuska je i evropska predvodnica u proizvodnji energije iz nuklearnih izvora, što predsjedniku omogućava da svoju zemlju promovira kao predvodnicu u razvoju klimatski održive AI infrastrukture s obzirom na to da ta infrastruktura crpi enormne količine energije i time doprinosi klimatskim promjenama.
Macronove namjere ne tiču se, međutim, samo općih mjesta evropske konkurentnosti i tehnološkog razvoja već i vrlo konkretnih nacionalnih interesa, o čemu je nedavno izvijestila novinarska mreže Investigate Europe u istraživanju o njegovom lobiranju da se evropska AI regulativa razvodni. Novinari su se bavili dijelovima regulative koji su stupili na snagu početkom ovog mjeseca, a koji se odnose na rupe u Zakonu o umjetnoj inteligenciji povezane s njenom upotrebom u radu policijskih, vojnih i pograničnih službi, te korištenju tehnologije za prepoznavanje lica od strane represivnog aparata.
Sarah Chandler iz Inicijative za rasnu pravdu Equinox novinarima je rekla da je evropski AI zakon "instrument koji radi u korist industrije" i "promovira digitalizaciju javnih usluga", a Investigate Europe otkrio je da su upravo francuski dužnosnici u zakon progurali amandmane koji će omogućiti zaobilaženje zabrane upotrebe AI-ja u javnom prostoru, koju zakon u općim crtama propisuje.
Tijekom pregovora o tekstu zakona 2022. godine, navodi se u istraživanju, bilo je predviđeno da samo vojska smije nadzirati javne prostore, no predstavnici Francuske inzistirali su da se učini iznimka i dozvoli korištenje u svrhu "nacionalne sigurnosti". Na sljedećem sastanku Francusku su u tome podržale Italija, Mađarska, Rumunjska, Švedska, Češka, Litva, Finska i Bugarska, pa su iz finalne verzije uklonjene sve restrikcije na upotrebu AI nadzora u javnim prostorima. Te iznimke odnose se i na privatne kompanije koje represivne institucije opskrbljuju AI tehnologijama, a sve skupa je, prema mišljenju protivnika, u suprotnosti s evropskim pravom i ustavnim odredbama država članica.
Francuska je, inače, prošlog ljeta bila prva država EU-a koja je koristila AI video nadzor u javnom prostoru – bilo je to na Olimpijskim igrama u Parizu – a sada bi se ovakve prakse mogle proširiti i u drugim članicama. Također na inzistiranje Francuske, policijske i imigracijske službe izuzete su iz zabrane korištenja takozvanih sistema emocionalnog prepoznavanja, odnosno tehnologija koje interpretiraju raspoloženje ljudi.
Policije su izuzete i iz korištenja biometrijske identifikacije za određivanje rasne, spolne, vjerske i političke pripadnosti. Francuska je predvodila i u ovoj iznimci, uz podršku niza članica među kojima je i Grčka, čiji su predstavnici tražili i da svi represivni organi smiju koristiti biometrijske analize na javnim mjestima.
Uza sve to, navodi Investigate Europe, iz restrikcija EU Zakona o umjetnoj inteligenciji izuzet je i takozvani predviđajući policijski rad, odnosno korištenje algoritama za "predviđanje" počinjenja zločina. Na inzistiranje ovog puta Španjolske te uz podršku niza drugih članica i to je dozvoljeno, uz uvjet ljudskog nadzora rada tehnologije.
Iako zakon zahtjeva da se za upotrebu svakog AI proizvoda pribavi autorizacija nadležnog tijela, primjerice suda, u zakon je dodan članak kojim se tehnološkim kompanijama omogućava da same sebi izdaju certifikate o sigurnosti njihovih proizvoda. To bi moglo dovesti do toga da se zakon interpretira kao da u tom slučaju autorizacija neovisnog tijela nije potrebna.
Istovremeno s tim otkrićima, izraelski portal +972 Magazine objavio je svoje istraživanje koje ilustrira kako bi, nakon stupanja na snagu evropskog Zakona o umjetnoj inteligenciji, mogla izgledati neadekvatno regulirana upotreba AI-ja u vojnim aktivnostima. Izraelsko istraživanje bavi se povezanošću američke kompanije Microsoft i izraelske vojske (IDF) tijekom izraelske ofanzive u Pojasu Gaze i pokazuje do koje je mjere tijekom te operacije izraelska vojska postala ovisna o resursima američke privatne kompanije.
IDF je od Microsofta kupovao tehnologiju za nadzor, spremao podatke na oblak njegove platforme Azure i koristio različite AI usluge kao što su prevođenje i automatska analiza dokumenata. U listopadu 2023. godine, navodi ovaj portal, mjesečno korištenje AI usluga Microsofta povećalo se za sedam puta u odnosu na mjesec prije početka napada na Gazu, a do ožujka 2024. to je korištenje bilo čak 64 puta veće. S obzirom na eksplozivan rast opsega tih usluga izraelska vojska sve se više počela oslanjati na Microsoft za prostor za pohranu i obradu podataka i tehničku podršku Microsoftovih inženjera, čime je kompanija dobila uvid bez presedana u inače tajne aktivnosti izraelske vojske.
Kada su u pitanju potencijalne koristi umjetne inteligencije u borbi protiv klimatskih promjena, na samitu se govorilo o mogućnostima kao što su AI monitoring i predviđanje klimatskih uzoraka te planiranje klimatskih politika. S druge strane, dosadašnja saznanja ukazuju da bi štete od eksplozivnog rasta AI infrastrukture mogle daleko premašivati te koristi, o čemu je u rujnu prošle godine izvijestio i Program za okoliš Ujedinjenih naroda (UNEP) u svojoj analizi o utjecaju "cjeloživotnog ciklusa umjetne inteligencije na okoliš".
Naime, AI sustavi nalaze se u podatkovnim centrima u kojima su smještene tisuće servera koji troše velike količine električne energije i vode za izgradnju i rad, odnosno hlađenje elektronike. Izrada elektronike zahtjeva pak velike količine kritičnih materijala koje se crpe na izrazito destruktivne načine. Broj podatkovnih centara narastao je na globalnoj razini s pola milijuna 2012. godine na osam milijuna prošle godine, dok se u posljednjih 20 godina prodaja čipova, koji se izrađuju od kritičnih metala, učetverostručila.
UNEP navodi i da jedna pretraga putem Chat GPT-ja troši deset puta više energije nego obična Google pretraga. Rad velikih jezičnih modela (LLM), prema izračunu Međunarodne agencije za energiju, iziskuje prosječno 2,9 vatsati energije, dok je kod običnog internetskog pretraživanja ta potrošnja samo 0,3 vatsata. Prema studiji objavljenoj u časopisu Nature Machine Intelligence, treniranje samo jednog LLM-a proizvodi oko 300 tisuća kilograma ugljičnog dioksida, što je usporedivo s pet životnih ciklusa prosječnog automobila ili 125 povratnih letova od New Yorka do Pekinga.
Kada je u pitanju potrošnja vode, u lanjskoj studiji američkog Sveučilišta Cornell navodi se da će globalna potrošnja vode povezana s AI tehnologijom do 2027. narasti na oko pet milijardi kubičnih metara, što je oko polovice godišnje potrošnje vode u Ujedinjenom Kraljevstvu. O tim temama na samitu je najeksplicitnije, kao i obično, govorio glavni tajnik UN-a António Guterres, upozorivši da podatkovni centri već sada predstavljaju "neodrživi pritisak" na planetarne prirodne resurse.
