Baruni razbojnici digitalnog doba

Način na koji je kompanija Cambridge Analytica iskoristila Facebook da prikupi podatke o desetinama miliona korisnika samo je jedan od problema vezanih za ovu društvenu mrežu i njen uticaj na društveni i politički život. Na izvestan način ovaj skandal je skrenuo pažnju sa važnijih pitanja koja proističu iz modela poslovanja giganata interneta: Google, Facebook, Amazon i druge velike tehnološke kompanije izgradile su najobuhvatniji i najbezobzirniji aparat nadzora i praćenja koji je svet ikada video. Svi smo pod njihovom prismotrom.

Poslovni model internet kompanija može se opisati kao kapitalizam nadziranja – što je prva učinila harvardska profesorka Shoshana Zuboff 2015. godine. Izgrađen na tehnologijama prikupljanja informacija i manipulisanja ponašanjem korisnika, kapitalizam nadziranja nastao je onog trenutka kada su inženjeri iz Googla shvatili da prateći šta korisnici unose u pretraživač mogu anticipirati njihove želje. Razvijanje tehnika za predviđanje želja korisnika omogućilo im je da plasiraju prilagođene oglase koji će uvećati prihode kompanije.

Danas praktično svaki aspekt svakodnevnog života ostavlja trag u korporativnim bazama podataka koji se koriste za predviđanje i oblikovanje svih oblika ponašanja. Ali korporacije koje se bave biznisom nadziranja ne zadovoljavaju se samo praćenjem želja korisnika; one aktivno oblikuju i usmeravaju te želje u skladu sa svojim ciljevima. To obično znači da se od nas očekuje da kliknemo na reklamu, posetimo veb-stranicu ili konačno nešto kupimo. Da bi to postigli, koriste se sve poznate prečice i predubeđenja koja utiču na ljude prilikom donošenja odluka, čime se bavi disciplina poznata kao „heuristika“. To često podrazumeva da se linkovi i drugi sadržaji moraju prikazati na način koji ih čini atraktivnijim, a u nekim slučajevima kao što su takozvani „mračni šabloni“ – trikovi za privlačenje pažnje i prodaju ili prikupljanje ličnih podataka koji uključuju element prevare – koriste se arhitekture izbora koje korisnike proračunato dovode u zabludu.

Opsežni eksperimenti omogućuju dalje usavršavanje oglasa i poziva na interakciju. Google je na primer do 2014. godišnje izvodio oko 10.000 eksperimenata u oblasti pretrage i plasiranja oglasa, a u bilo kom trenutku u toku je bar 1.000 eksperimenata. Eksperimentima se testiraju korisnički interfejsi, algoritmi i drugi elementi servisa da bi se ustanovilo koje kombinacije su najefikasnije za angažovanje korisnika. Oglasi vas prate sa jedne veb-stranice na drugu, svaki put suptilno izmenjeni, jer kompanija pokušava da na osnovu vašeg ponašanja i reakcija otkrije koja varijacija će vas naterati da konačno kliknete na oglas.

Otuda, ako koristite Chrome pretraživač ili Google aplikacije gotovo je sigurno da ste deo uzorka u desetinama psiholoških eksperimenata koji treba da ustanove profil vaših navika i slabe tačke koje kompanijama mogu doneti korist. Taj personalizovani i dinamički oblik podsticanja određenih oblika ponašanja pruža kompanijama mnoštvo prilika da manipulišu korisnicima na načine nezamislive pre nastanka interneta. A budući da se saznanja o vašim slabim tačkama dalje primenjuju za što efikasniji uticaj na ostale korisnike, vi ste praktično saučesnik, ne samo u sopstvenoj već i u manipulaciji vaših prijatelja i članova porodice, suseda i kolega, praktično svakog korisnika ovih usluga.

Većina ljudi ne shvata koliko inače nedostupnih informacija možete otkriti samo analizom relativno depersonalizovanih podataka o ponašanju neke osobe. Istraživanje iz 2013. koje je sproveo Centar za psihometriju Univerziteta u Kembridžu pokazalo je da i bez činjeničnih podataka o nekoj osobi analiza „lajkova“ na Facebooku može precizno pokazati njenu seksualnu orijentaciju, etničku pripadnost, nivo zadovoljstva životom, politička i verska ubeđenja, da li su joj roditelji razvedeni i da li koristi droge. U nastavku istraživanja 2015. pokazalo se da kroz analizu „lajkova“ kompjuter može proceniti karakteristike vaše ličnosti – koliko ste naklonjeni umetnostima, koliko ste stidljivi ili kooperativni – bolje nego članovi vaše porodice i prijatelji. Zamislite sad koliko se podataka, čak i onih koje smatrate ličnim i poverljivim, može izvući iz mora drugih informacija koje korporacije prikupljaju o vama i svakom drugom korisniku. Onda zamislite eksponencijalni rast količine takvih podataka koji će uslediti sa širenjem takozvanog interneta stvari (Internet of Things, IoT) – što je praktično mreža senzora, kamera i mikrofona koji će se kriti u vašim domovima, kancelarijama i na javnim mestima i vredno prikupljati i slati podatke u baze podataka kapitalizma nadziranja.

Oni koji su pratili saslušanje Marka Zuckerberga pred Kongresom prošle nedelje su u zabludi ako misle da ne treba da se brinu jer ne koriste Facebook. Tehnike praćenja koje kompanija koristi – uključujući alat Facebook Pixel namenjen oglašivačima i dugmad „like“ i „share“ – utkane su u sam internet i mnoštvo veb stranica. Na taj način se prate korisnici širom interneta, stiču predstavu o njihovim interesovanjima i upućuju im se prilagođeni oglasi. Zeynep Tufekci, profesor sociologije na Univerzitetu Severne Karoline, napisao je nedavno u New York Timesu da čak i ako nemate otvoren nalog, Facebook može dedukovati informacije o vama na osnovu onoga što zna o vašim prijateljima koji ga imaju. Čak i ako niste registrovani korisnik, Facebook verovatno sastavlja „skriveni dosije“ o vama, isto kao za svoje korisnike. U Americi nema načina da to sprečite. Koristili Facebook ili ne, on vas posmatra.

Često se tvrdi da su lični podaci cena koju plaćamo da bismo besplatno koristili ponuđene usluge. Ali to nije sasvim tačno. Prava cena koju plaćamo da bismo koristili Google i Facebook jeste naša privatnost. Odustajanje od prava na privatnost omogućuje kompanijama da istražuju vaše psihološke slabe tačke i naplaćuju oglašivačima mogućnost da ih koriste. Da bi to prikrile, ove kompanije se skrivaju iza dokumenata o politici privatnosti koji su često dugački, komplikovani i pisani nerazumljivim pravnim jezikom. Pre desetak godina jedno istraživanje je pokazalo da bi prosečnom korisniku godišnje trebalo oko 25 dana (i noći) da pročita sve politike privatnosti koje je primoran da prihvati. Ko ima vremena i volje da to čita? Pozivanje na privatnost da bi se opravdale takve prakse liči na prevaru – Federalna komisija za trgovinu je osudila politiku privatnosti koju nudi Google jer korisnike dovodi u zabludu – naročito kada se ima u vidu da korporacije u biznisu nadziranja koriste heurističke metode da otkriju najbolji način prezentacije politika privatnosti tako da navedu korisnike da ih prihvate.

Možda vam se čini da je to razumna cena za održavanje kontakta sa prijateljima i rođacima. Ali ono što dobijate zauzvrat nije verna slika vašeg socijalnog kruga, već prilagođena verzija kojom upravljaju algoritmi inženjera iz Facebooka. To što vidite nije stvarnost, već slika stvarnosti koju je za vas filtrirao Facebook. U tu prilagođenu sliku enkodirani su različiti sudovi o tome šta je po mišljenju Facebooka vredno vaše pažnje. Na primer, algoritam za prikazivanje novih objava smanjuje vidljivost onih korisnika koji prema kriterijumima kompanije nisu dovoljno aktivni – to jest, prikazuje manji broj njihovih objava drugim korisnicima – i uvećava vidljivost onih koji su aktivniji. To je nov oblik kontrole: radite ono što Facebook od vas želi i bićete nagrađeni; ako ne ispunite kvotu, bićete kažnjeni socijalnom nevidljivošću. To može proizvesti teške posledice. Zamislite, na primer, da ste se u trenutku teške bolesti okrenuli Facebooku u pokušaju da doprete do prijatelja koji će vas podržati i utešiti, ali niko od vaših prijatelja ne reaguje i vi umirete u uverenju da nikome nije stalo do vas – samo zato što niste bili dovoljno aktivni da bi Facebook smatrao da je vaša bolest vredna pažnje vaših prijatelja. To nije distopija iz budućnosti – to se navodno dogodilo prošle godine.

Kada Mark Zuckerberg govori o povezivanju ljudi, kao što često čini, on uvek zaboravlja da naglasi da je to povezivanje ljudi sa Facebookom. Koliko god da Zuckerberg priča o zajednici i povezanosti, Facebook ne postoji da bi doprineo održavanju društvenih veza i istinskih prijateljstava. On zarađuje od oglašavanja i zato želi da što više surfujete, skrolujete i klikćete i tako ustupate detalje o svom životu za dalju obradu. Da bi to postigao, Facebook se mora pozicionirati kao centar vašeg društvenog života i posrednik vaše stvarnosti.

Tako posredovana stvarnost daje kompaniji kao što je Zuckerbergova značajan uticaj na globalni protok informacija. Sa tim uticajem ide i odgovornost. Ipak, zahvaljujući nedavno procurelim internim dokumentima znamo da Facebook ne razmišlja mnogo o posledicama svog delanja i da toleriše globalni procvat lažnih vesti i dezinformacija. U Mjanmaru na primer, gde je Facebook toliko dominantan da mnogi veruju da su Facebook i internet jedna ista stvar, brisani su sadržaji kojima se skreće pažnja na etničko čišćenje Rohinja muslimana i zabranjivani sadržaji njihovih grupa, dok pozive na nasilje protiv njih niko nije cenzurisao. Uticaj Facebooka u Mjanmaru je tako veliki da ga Ujedinjene nacije i grupe za zaštitu ljudskih prava optužuju za pomaganje u genocidu.

Da ne bude zabune, takvo ponašanje nije ograničeno samo na Facebook; to je endemski oblik ponašanja u kapitalizmu nadziranja. Poznato je da je Google preporučivao linkove koji vode do stranica o teorijama zavere; u članku u Timesu objavljeno je da je Google čak postavljao oglase za lažne vesti na stranice posvećene proveri činjenica u vestima. U pokušaju da uveća broj klikova i prihod, YouTube, jedan od servisa pod kontrolom Googla, usmerava korisnike na sve ekstremnije video snimke i postaje vodeći generator radikalizacije u 21. veku.

Svet upravo otkriva da stvarnost posredovana Facebookom olakšava nadziranje glasača od strane političkih partija i kampanja. Facebook alati „prilagođena publika“ i „slična publika“ omogućuju oglašivačima, uključujući i političke organizacije, da dostave spiskove ljudi na koje ciljaju i povežu ih sa njihovim profilima. Oglašivači onda mogu izabrati slične ljude koji nisu bili na njihovim spiskovima i usmeriti političke poruke na sve njih, što znatno pojačava efekte kampanje. Pomoću takvih alata za mikrociljanje organizatori kampanja mogu precizno plasirati različite poruke različitim grupama glasača. Prema članku iz magazina Wired, tokom američkih predsedničkih izbora 2016. Trumpova kampanja je svakog dana koristila oglase u 40-50 hiljada različitih varijacija pažljivo osmišljenih da deluju na ciljane grupe i prethodno testiranih eksperimentima. Na dan treće predsedničke debate, takvih prilagođenih varijacija bilo je 175.000. Menadžer Trumpove digitalne kampanje tvrdi da je Trump pobedio zahvaljujući Facebooku i Twitteru.

Za vreme izbora za Kongres 2010. godine Facebook je organizovao sopstveno istraživanje efekata političkih poruka upućenih preko onlajn platformi. Istraživanje je pokazalo da je moguće uvećati verovatnoću izlaska birača na glasanje za oko 0,4 odsto plasiranjem obaveštenja da su njihovi prijatelji već glasali i ohrabrivanjem da učine isto (nešto drugačiji eksperiment izveden 2012. dao je sličan rezultat). To ne zvuči kao mnogo, ali na nivou zemlje to je oko 340.000 glasova. George W. Bush je pobedio sa razlikom od nekoliko stotina glasova u Floridi; Donald Trump je 2016. pobedio zahvaljujući tome što je uspeo da privuče oko 80.000 glasova više u samo tri države. Pažljivo dizajnirane mikro-kampanje pod parolom „izađi i glasaj“ imaju veliki značaj u slučajevima kada je trka izjednačena. Takođe, u kampanji 2016. Trump je koristio alatku „prilagođena publika“ za vođenje tri kampanje za odvraćanje onih grupa birača koji bi mogli glasati za Hillary: ciljali su na demokrate koji podržavaju Sandersa porukama o njenim vezama sa finansijskom elitom; na mlade žene porukama o njenoj podršci suprugu uprkos optužbama za seksualno neprimereno ponašanje; i na Afroamerikance porukama o njenim komentarima o „supergrabljivcima“ iz 1996. Negativne kampanje nisu ništa novo, ali precizno ciljanje mikro-kampanjama danas ih čini efikasnijim nego ikada – po cenu potkopavanja poverenja u političare i vere u demokratski proces.

Kao što primećuje profesor Tufekci: „Ako su inženjeri konsenzusa 20. veka imali na raspolaganju lupe i bejzbol palice, njihove kolege u 21. veku imaju teleskope, mikroskope i skalpele u obliku algoritama i analitike“. Moguće je da ne postoji dvoje ljudi koji su videli isti skup oglasa, jer se u svakom sukobljavanju argumenata i dezinformacija vrše precizna prilagođavanja za različite grupe, pa glasači i ne znaju šta je servirano drugima. Dok su se političke kampanje u prošlosti odvijale pred očima javnosti, a tvrdnje i argumenti kandidata su stavljani pod lupu, mikro-ciljanje znači da se izborni proces danas pomerio ka privatnoj i personalnoj sferi, bez mnogo prilika za unakrsno ispitivanje i osporavanje dezinformacija. Po mišljenju stručnjaka za digitalne medije Justina Hendrixa i Davida Carolla, to je „noćna mora za demokratiju“.

Kao društvo polako dolazimo sebi i uočavamo probleme koje stvara Facebook. Poštovanje privatnosti nikada nije bilo deo njihove misije. Zuckerberg je više puta podsećao senatore da je Facebook izrastao iz ideje grupe studenata za veb-stranicu – ali nije pomenuo da su na toj stranici birali najzgodnije studentkinje bez njihove saglasnosti. U prvoj deceniji razvoja ovog sajta, njegov moto je bio „kreći se brzo i ruši sve što ti se nađe na putu“. Sa takvim poslovnim etosom nije neobično što nas skandali povezani sa Facebookom više ne iznenađuju.

Ponekad neko primeti sumnjive postupke ove kompanije i digne prašinu. Kao i poslednjih dana, onda se obično pojavi Zuckerberg, izjavi da mu je veoma žao i da nije mogao da predvidi problem (uprkos upozorenjima stručnjaka i grupa za zaštitu privatnosti), izgovori nekoliko rečenica o „zajednici“ i planiranim „poboljšanjima“ i obeća da će se Facebook promeniti. Ali posle svih izvinjenja i obećanja da će biti pažljiviji i da će korisnicima osigurati više privatnosti – a bilo ih je dosta – neke stvari ostaju iste: nadziranje je ugrađeno u gene Facebooka, a svrha njegovog postojanja je kapitalizam nadziranja. Rešenje koje se nudi je predvidivo i pogrešno: dajte Facebooku još veću moć.

Zuckerbergovo saslušanje pred Kongresom jasno je pokazalo nekoliko stvari. Facebook i dalje odbija da prizna koliko malo korisnici znaju o onome što Facebook radi. Zuckerberg tvrdi da je većina korisnika upoznata sa aktivnostima praćenja koje se sprovode i da im to ne smeta, ali istraživanja pokazuju da se većina korisnika ne bi saglasila sa takvim praksama. Takođe, da bi opravdao svoj poslovni model, Facebook insistira na tvrdnji da korisnici preferiraju ciljano oglašavanje, uprkos tome što istraživanja pokazuju da 41 odsto njihovih korisnika više voli tradicionalno oglašavanje, dok se svega 21 odsto opredeljuje za ciljane oglase (63 odsto bi volelo da vidi manje oglasa bilo koje vrste). Sada se zna da desetine hiljada aplikacija imaju pristup velikim količinama podataka o korisnicima prikupljenim do 2015, baš kao i Cambridge Analytica. Tek sada, kad se našao pod reflektorima javnosti, Facebook pokušava da revidira odobrenja za korišćenje podataka.

Konačno, ni Facebook ni Google niti bilo koja od kompanija za nadziranje i praćenje ne mogu se same od sebe reformisati na iole smislen način, jer su zavisne od naših podataka. Poslednji patenti koje je Facebook zaštitio ne obećavaju ništa dobro. Kapitalizam nadziranja se često prikazuje kao prirodan poredak stvari u digitalnom svetu, ali to je rezultat izbora koje su pravili ljudi u trci za profitom. Kao poslovni model on nije ni neizbežan ni nepromenjiv.

Korak u dobrom smeru bi bio prelazak na kontekstualno oglašavanje. To znači da biste oglase dobijali na osnovu sadržaja stranice koju posećujete, a ne na osnovu analize podataka prikupljenih praćenjem ponašanja korisnika. Najavljena Opšta uredba o zaštiti podataka o ličnosti (GDPR) u Evropskoj uniji, kojom se štite prava korisnika, zahteva nove pristupe. I Facebook i Google su imali teškoća da ispune zahteve već postojećih zakona o zaštiti podataka koji su u Evropi stroži. Sudovi u Belgiji i Nemačkoj nedavno su objavili da su neke od praksi koje primenjuje Facebook (uključujući praćenje ljudi koji nemaju Facebook nalog) protivzakonite, a Google je već bio kritikovan i plaćao velike kazne zbog prikupljanja podataka bez saglasnosti i obaveštavanja korisnika o tome šta radi sa njima.

Ispunjavanje uslova koje postavlja GDPR verovatno će biti veliki izazov za kompanije koje se bave biznisom nadziranja. Ali uz zaprećene kazne i do 4 odsto globalnog prometa za ozbiljna kršenja pravila EU, tehnološke kompanije će morati ozbiljnije da shvate svoju odgovornost i sprovedu reforme. Pošto će već morati da primene nova pravila da bi nastavile da rade u Evropi, mogle bi – relativno lako – da primene ista pravila na korisnike u Severnoj Americi i ostatku sveta. I zaista, Facebook je pod sve većim pritiskom da tako i postupi – a i Zuckerberg je natuknuo da bi kompanija mogla poći u tom smeru. To bi bio veliki korak napred; zaštitnica prava potrošača Jessica Rich u članku objavljenom u magazinu Wired primećuje da bi bilo još bolje kad bi i Sjedinjene Države usvojile zakone slične onima u Evropi.

Problematična praksa kompanija za nadziranje i njihovo uporno odbijanje da odgovorno postupaju doveli su nas do prekretnice. Možemo se usprotiviti visokom nivou korporativnog nadziranja, kakvo pre dolaska interneta svakako ne bismo prihvatili, tako što ćemo izvršiti pritisak na Facebook i zakonodavce da nešto promene i tako što ćemo koristiti alternativne servise sa drugačijim poslovnim modelima. Takođe možemo zahtevati pozivanje na odgovornost čitavog digitalnog oligopola i bolju zaštitu naše privatnosti i podataka. Ovo je trenutak odluke: da li će internet pripasti njima ili nama?

 

peščanik