Kako je Nikita Bier tijekom zadnjeg desetljeća usavršavao psihološku kontrolu nad tinejdžerima - a sada ju primjenjuje na sve na X-u
"Ponovno promisli demokraciju."
To je bio slogan za Politify-a 2011. godine. Projekt studenta s Berkeleyja koji je postao viralan tijekom izbora. Četiri milijuna korisnika u jednom mjesecu. Nacionalna medijska pokrivenost. Topla priča o korištenju tehnologije kako bi se biračima pomoglo da shvate kako će na njih utjecati politike.
Nikita Bier imao je 22 godine kada je otkrio nešto dubokoumno: Amerikanci glasaju protiv svog financijskog interesa više od bilo koje druge nacije u zapadnom svijetu.
Većina ljudi bi to vidjela kao problem koji treba riješiti. Jaz koji treba premostiti boljim informiranjem i obrazovanjem.
Bier je to vidio kao priliku koju treba iskoristiti.
Jer ono što je zapravo naučio od Politify-a nije bilo samo to da su birači iracionalni. Ono što je naučio jest da "retorika nadilazi logiku kada su sustavi dovoljno složeni da obični građani nemaju na raspolaganju sate kako bi ih razumijeli."
Ta rečenica, skrivena u njegovoj TED talk emisiji i nekim istraživačkim radovima s Berkeleyja, sve je što trebate razumjeti o onome što slijedi. To nije bilo upozorenje o ranjivostima u samoupravi. To je bio njegov priručnik za uporabu.
Bier je napustio Politify nakon što je dokazao da koncept funkcionira. Studija Sveučilišta Berkeley pokazala je da je 6% korisnika promijenilo svoj prijašnji izbor nakon korištenja aplikacije. To je dovoljno da se preokrenu američki izbori. Zaklada Knight dala mu je novac. Vlade su htjele licencirati tehnologiju.
Ali on je odustao od svega toga. Ne zato što je misija bila ispunjena. Već zato što je naučio da je manipuliranje ponašanjem u velikim razmjerima moguće i da vladini ugovori nisu najunosniji način primjene tog znanja.
Stoga je krenuo u potragu za boljim laboratorijem. Populacijom koja je psihološki ranjivija. Očajnija za validacijom. Spremnija odreći se svojih podataka u zamjenu za dozu dopamina.
Krenuo je u lov na tinejdžere.
Laboratorij: tbh i znanost o ovisnosti.
Bier je 2017. godine pokrenuo aplikaciju tbh (od eng. "to be honest"; "iskreno"; op.prev.) koja je srednjoškolcima omogućila slanje anonimnih komplimenata jedni drugima putem anketa. Prezentacija je bila čista i pozitivna: "Učinite ovu generaciju sretnijom." Zaustavite maltretiranje koje je mučilo druge anonimne aplikacije. Stvorite prostor za ljubaznost.
Stvarnost je bila zlokobnija.
Da biste koristili tbh aplikaciju, morali ste joj dati pristup svojim kontaktima. Vašu lokaciju. Vašu školu. Vaš društveni graf. Svaki glas koji ste dali u anketi. Svaku obavijest na koju ste odgovorili. Svaki udar dopamina koji je stigao do aplikacije. Aplikacija nije mjerila sreću. Mjerila je ovisnost.
Koji su poticaji stvorili najveći angažman? Koje su nagrade potaknule korisnike da se vraćaju? Koliko brzo su tinejdžeri reagirali kada su "pobijedili" u anketi? Što ih je činilo tjeskobnima kada nisu bili izabrani? Svaka podatkovna točka bila je lekcija o manipulaciji ponašanjem.
A strategija rasta? Čisti psihološki rat. Bier bi stvorio privatni Instagram račun za određenu srednju školu. Pratio je učenike koji su imali tu školu u svojoj biografiji. Zatim, u unaprijed određeno vrijeme, učinio bi račun javnim s poveznicom za preuzimanje aplikacije.
Kreirao bi bi oskudicu. Izradio bi FOMO (strah od propuštanja). Naoružao je socijalnu anksioznos. Nazvao je to "psihološkim trikom". To nije marketinški jezik. To je priznanje.
Facebook je preuzeo tbh u roku od nekoliko mjeseci. Ne zbog samog proizvoda. Ugasili su ga manje od godinu dana kasnije. Preuzeli su ga zbog onoga što je Bier naučio. Zbog podataka o ponašanju. Tehnika manipulacije. Dokaz da se može stvoriti psihološka ovisnost u tinejdžerskoj populaciji u velikim razmjerima.
Božji način rada: Kad se tihi dio izgovori naglas
Tada je Bier učinio nešto što je trebalo sve uzbuniti: stvorio je Gas, gotovo identičan klon tbh-a. Iste anonimne ankete. Isti dopaminski inženjering. Iste taktike rasta. Isti obvezni pristup kontaktima i podacima o lokaciji.
Ali ovaj put je dodao nešto mračnije: "Božji način rada". Uz naknadu, neki su korisnici mogli dobiti naznake o tome tko je glasao za njih u anketama. Psihološka arhitektura sada je bila eksplicitna, monetizirajući nesigurnost stvaranjem informacijske asimetrije. Neka su djeca mogla vidjeti tko ih voli. Druga su ostala u mraku. Platite kako biste se riješili tjeskobe koju smo ugradili u iskustvo.
Gas je eksplodirao na 5 milijuna preuzimanja. Tada su počele glasine. Roditelji na TikToku i Snapchatu počeli su širiti teoriju: Gas je bio paravan za trgovinu ljudima. Prijevara je postala viralna. Policijske uprave izdavale su upozorenja. Škole su slale upozorenja. Aplikacija je doživjela stopu deinstalacije od 3% u jednom danu. Bierov tim primao je prijetnje smrću.
Tvrdnje o trgovini ljudima bile su neutemeljene. Aplikacija nije imala poruke, praćenje lokacije, značajke koje bi mogle omogućiti trgovinu ljudima.
Ali evo što je otkrivajuće: prijevara je funkcionirala jer se aplikacija već činila predatorskom. Roditelji nisu mogli objasniti zašto, ali su osjetili da nešto nije u redu. Tinejdžeri to nisu mogli objasniti, ali su se osjećali izmanipulirano. Aplikacija je dizajnirana da iskoristi strah od društvenog odbacivanja, unovči nesigurnost adolescenata i izvuče podatke o ponašanju pod krinkom "pozitivnosti".
Kad su roditelji čuli frazu "trgovina ljudima", nisu im trebali dokazi. Cijeli dizajn se već činio kao iskorištavanje. Discord je preuzeo Gas 2023. Opet, ne zbog proizvoda. Zbog dokaza da se Bierove tehnike mogu reproducirati.
Zapošljavanje: Kada se sloboda govora susrela s kontrolom ponašanja.
Sada je on voditelj proizvoda u X-u.
Elon Musk je kupio Twitter obećavajući da će vratiti slobodu govora. Da ga učini digitalnim gradskim trgom. Da okonča shadowbanning i algoritamsku manipulaciju. Da unese transparentnost u moderiranje sadržaja.
Zatim, krajem 2024., dok su Bluesky i Threads dobivali na zamahu, a X je iscrpljivao korisnike, Elonu je trebao netko tko bi mogao učiniti platformu ljepšom. Netko tko je razumio kako stvoriti psihološku ovisnost. Netko tko je već cijelo desetljeće učio kako zadržati ljude da skrolaju čak i kada znaju da bi trebali otići.
Zaposlio je Nikitu Biera.
Čovjeka čija je cijela karijera izgrađena na upravo suprotnom od svega što je Elon obećao: neprozirnost umjesto transparentnosti, manipulaciji ponašanjem umjesto autentičnog angažmana, sustavi psihološke kontrole prikriveni kao izgradnja zajednice.
Bierova stručnost nije bila u izgradnji zajednice. Radilo se o izgradnji kaveza u kojem se osjećate kao u zajednici.
I odjednom, misteriozno, predvidljivo, korisnici izvještavaju upravo ono što biste očekivali od nekoga čija je cijela karijera izgrađena na manipulaciji ponašanjem prikrivenoj kao inovacija.
Doseg objava nestaje bez objašnjenja. Računi su blokirani zbog "neautentične aktivnosti". Kritičari su blokirani kada postavljaju pitanja. Složenost koja sprječava razumijevanje. Neprozirnost koja sprječava izazove.
Arhitekt ne voli pitanja
Kad su korisnici počeli primjećivati ove obrasce, da su verificirani računi s velikim brojem pratitelja bili suspendirani iz nejasnih razloga, izravno su se obratili Bieru. On je voditelj proizvoda. Sigurno bi mogao pomoći.
Blokirao ih je.
Kad je netko prijavio da je njihova kućna adresa objavljena na internetu i pitao je li to prekršilo pravila platforme, Bier je odgovorio: "Hvala na prijavi. Poslao sam objavu našem timu za pravila i taj je korisnik suspendiran." Zatim, kad ga je isti korisnik pritisnuo zašto je sustav prijavljivanja pokvaren i zašto korisnici koji organiziraju doxxing kampanje nisu automatski suspendirani, Bier ih je također blokirao.
Bihevioralni arhitekt ne voli da ga se ispituje o njegovoj arhitekturi.
Ali obrazac koji sve razotkriva je upravo ono što algoritam trenuto promovira.
Selfie s umjereno poznatog računa? 129 milijuna pregleda.
Supstantivno istraživanje i istraživačko novinarstvo? Potisnuto.
Meme sadržaji? 6,2 milijuna pregleda.
Vanjske poveznice na akademske radove ili primarne izvore? Zakopano.
Bier je to izričito najavio: "Počevši od sljedećeg tjedna testirat ćemo novi način dijeljenja i interakcije s web poveznicama na X-u. Cilj će biti osigurati da sav sadržaj na platformi ima jednaku vidljivost na Timelineu."
Prijevod: zakopat ćemo vanjske poveznice, one koje pružaju provjeru, kontekst, primarne izvore i potiču angažman nativnih korisnika. Selfiji. Memovi. Bijesni sadržaj. Sve što vas drži na platformi, da skrolate, da se angažirate, da hranite algoritam.
Poslovni model je očit. Angažman je jednak prihodu od oglasa. Vanjske poveznice odvraćaju korisnike. Korisnici koji odlaze znače manje podataka za prikupljanje, manje vremena na platformi, manje prihoda. Bier je angažiran da riješi problem prihoda tako što je X učinio psihološki neizbježnim.
Sve ono što je naučio od tinejdžera sada primjenjuje na sve.
Društveni kredit pod drugim imenom
Zatim je došla "provjera autentičnosti". Bier je najavio da će profili uskoro prikazivati nove informacije, poput zemlje u kojoj se račun nalazi, kako bi pomogao korisnicima da "provjere autentičnost".
Bodovanje društvenog kredita pod drugim imenom. Geografija kao pokazatelj povjerenja. Obrasci ponašanja kao markeri autentičnosti.
Evo što nitko ne kaže dovoljno jasno: Bier nije proveo posljednje desetljeće gradeći aplikacije za pomoć ljudima. Proveo ga je gradeći najsofisticiraniju operaciju prikupljanja podataka o ponašanju u povijesti.
Politify ga je naučio da se ljudskim ponašanjem može manipulirati putem složenosti informacija i psiholoških okidača. tbh i Gas su ga naučili što točno pokreće rad, kako stvoriti ovisnost, kako monetizirati nesigurnost i kako izvući podatke o ponašanju u velikim razmjerima, nazivajući to "izgradnjom zajednice".
A sada primjenjuje sve što je naučio u X-u.Na platformi koja kontrolira javni diskurs.
Razmislite o tome što on zna: Kako natjerati ljude da djeluju protiv vlastitog interesa. Kako stvoriti psihološku ovisnost. Kako mapirati društvene mreže. Kako izazvati emocionalne reakcije. Kako stvoriti konsenzus. Kako potisnuti neslaganje, a istovremeno održati iluziju otvorenosti. Kako držati ljude zarobljene u sustavima za koje znaju da im štete.
A sada on kontrolira tko vidi što objavljujete. Koga vi vidite. Što da se proširi. Što da se zakopa.
Zašto je ovo važno?
Evo zašto. Ne zato što je ovaj obrazac nov. Već zato što prikupljanje podataka o ponašanju plus kontrola infrastrukture jednako je proizvedenoj stvarnosti. A proizvedena stvarnost je nespojiva s informiranim pristankom.
Slobodni ljudi trebaju informirani pristanak. Ali informirani pristanak zahtijeva pristup informacijama, mogućnost provjere informacija, razumijevanje kako odluke utječu na vas i transparentnost u sustavima moći. Cijela Bierova karijera bila je usmjerena na uništavanje sve četiri.
Složenost sprječava razumijevanje. Neprozirnost sprječava provjeru. Psihološki okidači nadjačavaju racionalnu analizu. Arhitektonski inženjeri stvaraju usklađenost, a istovremeno održavaju iluziju izbora.
Mislite da sudjelujete. Upravljani ste.
Mislite da ste saslušani. Potisnuti ste.
Mislite da razumijete sustav. Namjerno je nerazumljiv.
Mislite da donosite slobodne odluke. Reagirate na konstruirane okidače.
Korisnici sada otvoreno propituju je li Bier ravnodušan prema njihovoj sigurnosti. Omogućuje li uznemiravanje koje bi moglo dovesti do stvarne štete. Treba li netko tko voli objave o političkom atentatu koje su "slobodne i legalne" kontrolirati tko se čuje na platformi koja oblikuje javni diskurs.
To nije hiperbola. To je stvarno pitanje koje korisnici postavljaju na snimkama zaslona. Jer kada netko s takvom prošlošću stekne kontrolu nad time čiji se glas čuje, a zatim blokira žrtve doxxinga, izbriše dokaze o zapaljivim izjavama i "neautentičnost" iskoristi kao oružje protiv kritičara, ljudi prestanu vjerovati da je cenzura vezana uz zdravu platformu.
Počinju vjerovati da se radi o kontroli.
I u pravu su.
Kavez
Kavez koji gradite za druge postaje vaš vlastiti zatvor.
Bier je mislio da gradi alate za upravljanje ponašanjem drugih ljudi. Otkriva da je izgradio vlastiti kavez. Provjera autentičnosti ga prati. Algoritamsko potiskivanje stvara okruženje u kojem svi sumnjaju u njegove motive. Složenost i neprozirnost čine da čak i njegovi vlastiti postupci izgledaju zlokobno.
Ne možete izgraditi sustave kontrole, a da na kraju ne budete pod njihovom kontrolom.
"Ponovno promisli demokraciju" nije se odnosio na njezino poboljšanje. Radilo se o zamjeni autentičnog javnog diskursa bihevioralno konstruiranom usaglašavanjem. Naučiti kako manipulirati ponašanjem birača. Usavršite tehnike na psihički ranjivim tinejdžerima. Primijeniti ih na globalnoj razini na infrastrukturu samog javnog diskursa.
Prikupljanje podataka je završeno. Kontrolni sustavi su raspoređeni.
Elon vam je obećao gradski trg. Zaposlio je nekoga tko je specijaliziran za izgradnju prekrasnih zatvora.
Jedino je pitanje hoćete li vi nastaviti sudjelovati.
