Posljednjih desetljeća procesi globalizacije, kao i promjene u globalnoj raspodjeli moći suočili su međunarodnu zajednicu s brojnim sigurnosnim izazovima – masovnim migracijama, terorizmom, demografskim disbalansima, iscrpljivanjem prirodnih resursa, klimatskim promjenama, narastajućimm siromaštvu, kao i brojnim drugim – koji budućnost čovječanstva smještaju unutar odrednica društva rizika. Osobito nezaustavljiv rast disruptivnih tehnologija i revolucija automatizacije nameću potrebu promišljanja o društvu budućnosti. Naime, iako je umjetna inteligencija već u potpunosti promijenila globalno poslovanje, činjenica je da su izostale ozbiljne rasprave o njenom utjecaju na političke i društvene odnose koji se, osobito s aspekta moći, nepovratno mijenjaju. Nezaustavljiva tehnološka revolucija, razvoj umjetne inteligencije i Big data postavili su čovječanstvo pred najveći izazov s kojim se do sada susrelo.
Umjetna inteligencija, već u masovnoj primjeni, omogućila je obrađivanje ogromnih količina podataka i informacija, zbog čega (do sada) načelno demokratski sustavi postupno postaju autoritarni. Masovno praćenje, kao i brojni oblici napada na privatnost pojedinca dodatno tehniciraju svijet. Suvremeni „nadzorni“ kapitalizam omogućio je razvoj u kojem velike privatne tehnološke kompanije prikupljaju više podataka o svakom pojedincu, daleko više nego što su tu priliku ikada imale obavještajne službe npr. totalitarnih država. Neki informacijski sustavi poznaju nas bolje od naših obitelji i prijatelja. Promjena opsega i širine dostupnih informacija i stvaranje beskonačnih mreža konkurentnih informacija, poticaj je za promjenu percepcije politike, upravljanja i stavova. Korporativne države (liberalne demokracije) nevidljivo prerastaju u tehno utopiju, zbog čega će izazov političkog upravljanja vrlo skoro postati jedan od najvećih s kojima ćemo se suočiti. Naime, sve prisutniji alati za nadgledanje uspostavljaju arhitekturu političkog sustava u kojem će nove tehnologije preoblikovati obrasce našeg socijalnog ponašanja, dok digitalni svijet rođen u slobodi i kreativnosti kao otvorena i konstruktivna platforma postupno evaluira u sustav kontrole.
Dok Europska unija uvodi nove propise o zaštiti osobnih podataka i privatnosti kako bi se ograničila količina osobnih podataka koje tvrtke ili tijela vlasti mogu prikupiti, svjetski mediji naveliko se bave temom zastrašujućeg „sustava socijalnog kredita“ kojeg je uvela kineska vlada kako bi uspostavila ogromnu mrežu nadzora nad 1,4 milijarde (mnogi kažu gotovo 3) svojih državljana. Program će u potpunosti biti operativan vrlo skoro, već do 2020. godine, međutim već sada je u provedbi. Naime, sustav prati ponašanje građana putem mreže od 200 milijuna nadzornih kamera (Kina ih u ovom trenutku ima četiri puta više od SAD-a), nakon čega svaki pojedinac biva bodovno rangiran. Ovisno o svojem ponašanju, građani dobivaju ili gube bodove, dakle bivaju nagrađeni ili kažnjeni, a sve zahvaljujući naglom razvoju tehnologija za prepoznavanje lica, skeniranje tijela ili lociranje pojedinca pomoću GPS-a. Podaci koji se na taj način prikupljaju kombiniraju se s drugim važnim „uobičajenim“ podacima – poput medicinskih, učeničkih ili studentskih dosjea. Na osobnu digitalnu, virtualnu karticu pohranjuju se i podaci o financijama građana, te povijest pretraživanja weba.
Eksperimentalni pilot projekt programa pokazao se vrlo učinkovitim. Najmanje 16 gradova i pokrajina diljem Kine koristi se sustavom prepoznavanja lica koji skenira građane s 99,8% točnosti. AI naočale, izum tvrtke LLVision, mogu identificirati lice iz baze od 10 000 podataka za svega 0,1 sekundu, a koriste se od početka 2018. godne. Tako policajci i ostali „službenici za provedbu zakona“ razmješteni na ulicama, trgovima i ostalim javnim mjestima svakodnevno nose ove čudesne naočale kako bi identificirali osumnjičene. Naočale, povezane s bazom podataka o sumnjivim osobama, već su pomogle vlastima da identificiraju ljude za koje se sumnja da su počinili ozbiljna kaznena djela, ali i najjednostavnije prometne prekršaje (pretrčavanje ulice). Kineska je država s ciljem održavanja socijalne stabilnosti društva, odlučila poduprijeti razvoj umjetne inteligencije kojem su u potpunosti posvećene vodeće kineske (i svjetske) kompanije – BATHX (Baidu, Alibaba, Tencent, Huawei, Xiaomi)
Dakle, dok je Zapad vrlo zabrinut, čak i zgrožen „digitalnom diktaturom“ koja je uz pomoć tehnologije uspostavljena u Kini, istovremeno nije spreman priznati da je sustav nadzora već odavno institucionaliziran u „slobodnom“, liberalnom i demokratskom svijetu u kojem se nova totalitaristička stvarnost postupno oblikuje prema vizijama privatnih tehnoloških kompanija GAFAM (Google, Apple, Facebook, Amazon) i državnih elita koje sve češće posežu za vrlo autoritarnim metodama.
Naime, Patriot Act kao zakon koji su Sjedinjene Države usvojile nakon terorističkih napada 2001. g. s ciljem jačanja nacionalne sigurnosti i sprječavanja terorističkih napada, bitno je proširio državni nadzor i ovlasti američkih saveznih vlasti u provedbi tajnih istraga, prisluškivanja i masovnog prikupljanja privatnih podataka građana bez sudskog naloga, sužavajući time prostor ljudskih prava i građanskih sloboda. Ovaj Zakon nije posebna novost, budući da Sjedinjene Države još iz vremena Hladnog rata koriste satelitski sustav prisluškivanja komunikacija.
Ipak, Zakon je omogućio da američke sigurnosne službe razviju zastrašujući elektronički nadzor nad vlastitim građanima, ali postupno i cijelu mrežu telekomunikacijskog nadzora koji širom svijeta presreće svu našu komunikaciju bilo pisanu (e-mail, društvene mreže) bilo telefonsku, odnosno mobilnu. Dakle, svi naši osobni podaci, razmišljanja i namjere koje putem Facebooka, Twitera, Skypea, Googla, Yahooa ili Youtubea razmjenjujemo, zapravo se nadziru, jer su IT kompanije (pod utjecajem Patriot Acta) bile prisiljene dopustiti NSA izravan uvid u svoje servere i podatke o svojim korisnicima. Tehnički, podaci se prikupljaju nasumce, filtriraju prema ključnim riječima i slažu u baze podataka, a mogu se aktivirati u slučaju da neka osoba ili organizacija postane predmet istraživanja.
Ono što je manje poznato hrvatskoj javnosti jest činjenica da je Patriot Act dao sporne ovlasti predsjedniku SAD-a da uhiti bilo koju stranu osobu za koju se vjeruje da priprema teroristički napad na SAD, ne samo na teritoriju SAD-a već i na teritoriju bilo koje druge zemlje. Ovako široko shvaćen, Patriot Act je iskorišten za rušenje talibanske vlade u Afganistanu 2001., za rušenje Sadama Huseina u Iraku 2003. (temeljem lažnih optužbi za posjedovanje oružja za masovno uništenje), pod optužbama za podršku teroristima neslavno je završio i libijski predsjednik Gadafi, a posebno je kontraverzno ubojstvo Osame Bin Ladena na teritoriju Pakistana kojeg su u tajnoj operaciji likvidirali američki komandosi.
O razmjerima prisluškivanja na globalnoj razini i posljedicama zloupotrebe ovlasti NSA-e progovorio je 2013. Edward Snowden bivši zaposlenik NSA-e. Naime, prema Snowdonu podaci se masovno prikupljaju bez svrhe, nadzora i „roka upotrebe“, ali ono što plaši jest mogućnost da ih netko, a to su američke tajne službe, manipulativno i zlonamjerno u nekom trenutku upotrijebi protiv vas. Doista, stvar je zabrinjavajuća! Zakon o stranim sigurnosnim službama i nadzoru (FISA) usvojen 2008. dodatno je narušio zaštitu privatnosti neameričkih građana i uopće suverenitet zemalja EU, jer je stvorio okolnosti za masovni nadzor građana koji ne žive na teritoriju SAD-a, ali se koriste sustavom claud computing. Tako npr. svaka američka kompanija koja posluje u Europi obvezna je dati sve podatke o svojim korisnicima pa bili oni Hrvati, Francuzi, Rumunji… a ne Amerikanci, a da istovremeno oni o tome nisu obaviješteni. Zahvaljujući internetskim providerima – Microsoftu, Googlu, Apple-u, Skype-u, ….uglavnom smještenim u SAD-u, NSA doznaje sve: osobne podatke, podatke o bankovnim računima i kreditnim karticama koje koristite, vaše kontakte, ali i lokacije na kojima ste se nalazili ili se nalazite. Prije nekoliko godina, Gemalto – najveća svjetski proizvođač SIM kartica za mobitele, bio je predmet napada NSA-e koja je korporaciji protupravno oduzela kodirane podatke koji im omogućuju prisluškivanje razgovora i presretanje tekstualnih poruka i elektroničke pošte na mobilnim smart uređajima širom svijeta. Velika korporacija nije se ni pobunila smatrajući da ni sudskim postupkom, ali ni političkim pritiskom svoje vlade ne može utjecati na postupke američkih sigurnosnih službi.
Ono što je problematično kod ovih zakona jesu ovlasti za nadzor komunikacija u realnom vremenu koje su se s mogućih terorista ili terorističkih organizacija (bad gays) proširile i prema svima drugima koji na neki način mogu ugroziti američku nacionalnu sigurnost ili dovesti u pitanje temeljne postulate američke vanjske politike poput novinara, političara i aktivista good gays-a), političkih stranaka čije pohranjene podatke na famoznom cloudu proučavaju i procjenjuju američke sigurnosne službe. Prate se i inače zakonite političke aktivnosti u Europi poput organizacije protestnih skupova, ali i kompletne diplomatske aktivnosti, recimo skupovi G8(7) ili G20… Od 2002 špijuniraju se i državnici, sjetimo se skandala oko prisluškivanja A. Merkel ili izraelskog premijera, ali i „mali“akteri – svaki građanin može dospjeti pod nadzor NSA-e.
Građani ovo mogu percipirati tek kao dio visoke politike s kojom nemaju nikakve veze, međutim cijela situacija je puno kompleksnija. Naime, svatko od nas može potpasti pod jurisdikciju američkog pravosuđa bez mogućnosti da ga vlastita država, pa i EU zaštiti. SAD ima bilateralne sporazume s europskim državama o suradnji tajnih službi na prikupljanju obavještajnih podataka, a posebno sporan je Sporazum o unaprjeđenju ispunjavanja poreznih obveza na međunarodnoj razini čime je de facto Hrvatska obuhvaćena primjenom američkog Zakona o dostavljanju podataka o nerezidentnim računima. Dakle, svaki novac koji građani imaju na računu, a za koji ne mogu objasniti porijeklo postaje suspektan, te time predmet interesa američkih vlasti. To naravno ima dobre strane poput sprječavanja porezne utaje, međutim, istovremeno otvara i brojne mogućnosti zlouborabe. Kao što su prije nekoliko godina FIFI-ni čelnici postali predmet istrage američkih tajnih službi, to mogu postati i obični građani. Npr. idete prodati stan mimo agencije i banke, dobili ste novac za koji trebate objasniti porijeklo, dok novopečeni vlasnik treba učiniti isto. Građani Hrvatske sve češće u bankama ispunjavaju vrlo čudne upitnike u kojima im se postavljaju do sada nezamisliva pitanja poput pripadnosti političkim opcijama ili organizacijama, štoviše pita ih se jesu li teroristi.
U knjizi Digital Disconnect: How Capitalism is Turning the Internet Against Democracy, američki autor, Robert McChesney, navodi da su još sredinom devedesetih godina kao rezultat političkog dogovora “svi aspekti javne usluge interneta zapravo privatizirani i preobraženi u slobodno tržište, naravno, uz nelagodu znanstvenika (pa i čuvenog Tima Bernersa Lea) koji su internet i moderne komunikacijske tehnologije stvorili javnim novcem. Nakon institucionalizirane privatizacije, alati i prostor za oglašavanje postali su glavna pokretačka snaga razvoja internet tehnologije. Stoga je temeljna funkcija digitalnog komunikacijskog sustava praćenje korisničkih podataka, a online oglašavanje je nezaustavljivo otvorilo prostor za globalno masovno nadgledanje građana od strane komercijalnih korporacija i obvještajnih službi. Monopolske su korporacije, usko vezane uz zapadne korporativne (strateške) interese učinkovito kolonizirale mrežno okruženje, zbog čega je sasvim izvjesno da će nova regulacija na kojoj užurbano rade europske vlade smanjiti prostor slobode, te povećati kontrolu i nadzor.
Milijarde dolara potrošeno je na alate za masovni nadzor tajnih službi kako bi se hakirala privatna računala, pametni telefoni, pametni televizori i pametni automobili. Procijenjena količina podataka prikupljenih o pojedincima svaki dan mjeri se gigabajtima. Digitalni alati imali su za cilj tzv. “dobronamjernu” diktaturu utemeljenu na podacima, u kojoj velike tvrtke i država određuju “što je najbolje za nas”. Od Arapskog proljeća takve se tehnologije sve više koriste za destabilizaciju država, ali i za stabilizaciju autokratskih režima. Suvremene tehnologije u značajnoj mjeri ugrožavaju demokraciju i mir, a obilježja digitalnih društava kao što su masovni nadzor, neetički eksperimenti s ljudima i dr., kreiraju i novu digitalno osnaženu vrstu totalitarizma koji je dosegnuo globalne razmjere. U pogrešnim rukama zlouporaba osobnih podataka temeljenih na nadzoru imat će katastrofalne posljedice za građane kao pojedince, te društvo u cjelini. U eksplicitno ili implicitno totalitarnoj državi, ova vrsta informacija mogla bi se koristiti za predviđanje i identifikaciju onih ljudi koji se ne slažu s određenim vladinim politikama, unaprijed definirajući raspon sankcije. Činjenica je da će „novo doba“ u kojem već živimo radikalno promijeniti postojeći politički sustav koji je očito zastario i koji se zasigurno neće moći nositi s novim izazovima i potrebama.
I za kraj upozorenje, Stephena Hawkinga, jednog od najvećih umova 21. stoljeća koje je izrekao pred svoju smrt: “Umjetna inteligencija mogla bi postati najgori događaj u povijesti naše civilizacije osim ako se ne pronađe način kako kontrolirati njen razvoj. AI donosi brojne opasnosti, poput stvaranja moćnog autonomnog oružja koje bi manjina koristila za ugnjetavanje većine. Nekontrolirani razvoj AI može dovesti do dubokih raslojavanja i rascjepa u svjetskoj ekonomiji.” Stoga, europska društva (pa I hrvatsko) zahtijevaju raspravu o političkom sustavu budućnosti!
