Otvoreno pismo Instituta za budućnost života kojim se iz mera predostrožnosti zahteva šestomesečna pauza u razvoju veštačke inteligencije (AI) već je potpisalo hiljade uticajnih ličnosti, među njima i Elona Maska.
Potpisnici se brinu da su laboratorije veštačke inteligencije „zaključane u trci van kontrole“ da bi razvile i primenile sve moćnije sisteme koje niko – uključujući njihove kreatore – ne može da razume, predvidi ili kontroliše.
Šta objašnjava ovaj izliv panike među određenom kohortom elita? Kontrola i regulacija su očigledno u centru priče, ali čija? Tokom predložene polugodišnje pauze kada čovečanstvo može da sagleda rizike, ko će se zalagati za čovečanstvo? Pošto će laboratorije veštačke inteligencije u Kini, Indiji i Rusiji nastaviti svoj rad (možda u tajnosti), globalna javna debata o ovom pitanju je nezamisliva.
Ipak, treba da razmotrimo šta je u pitanju.
U svojoj knjizi Homo Deus iz 2015. istoričar Juval Harari je predvideo da će najverovatniji ishod AI biti radikalna podela – mnogo jača od klasne podele – unutar ljudskog društva.
Uskoro će biotehnologija i kompjuterski algoritmi udružiti svoje moći u proizvodnji „tela, mozgova i umova“, što će rezultirati sve većim jazom „između onih koji znaju kako da konstruišu tela i mozak i onih koji ne znaju“.
U takvom svetu, „oni koji se voze vozom napretka steći će božanske sposobnosti stvaranja i uništenja, dok će se oni koji su ostali suočiti sa izumiranjem“.
Panika koja se ogleda u pismu proizilazi iz straha da čak i oni koji su u „vozu napretka“ neće moći njime da upravljaju. Naši sadašnji digitalni feudalni gospodari su uplašeni. Ono što oni žele, međutim, nije javna debata, već dogovor između vlada i tehnoloških korporacija da zadrže vlast tamo gde joj je mesto.
Ogromno širenje AI sposobnosti predstavlja ozbiljnu pretnju onima na vlasti – uključujući one koji razvijaju, poseduju i kontrolišu AI.
To ukazuje na ništa manje nego na kraj kapitalizma kakvog ga poznajemo, koji se manifestuje u perspektivi sistema veštačke inteligencije koji se samo-reprodukuje, kome će biti potrebno sve manje i manje doprinosa od ljudskih agenata (algoritamsko tržišno trgovanje je samo prvi korak u ovom pravcu).
Izbor koji nam ostaje biće između novog oblika komunizma i nekontrolisanog haosa.
Novi chat botovi će mnogim usamljenim (ili ne tako usamljenim) ljudima ponuditi beskrajne večeri prijateljskog dijaloga o filmovima, knjigama, kuvanju ili politici.
Da ponovo upotrebim moju staru metaforu, ono što će ljudi dobiti je AI verzija kafe bez kofeina ili sode bez šećera: prijateljski sused bez kostura u svom ormanu, Drugi koji će se jednostavno prilagoditi vašim potrebama.
Ovde postoji struktura fetišističkog odricanja: „Ja dobro znam da ne razgovaram sa stvarnom osobom, ali osećam se kao da razgovaram i to bez ikakvih pratećih rizika!“
U svakom slučaju, pomno ispitivanje pisma pokazuje da je to još jedan pokušaj zabrane nemogućeg. Ovo je stari paradoks: nama kao ljudima nemoguće je da učestvujemo u post-ljudskoj budućnosti, pa moramo zabraniti njen razvoj.
Da bismo se orijentisali oko ovih tehnologija, trebalo bi da postavimo Lenjinovo staro pitanje: Sloboda, za koga? U kom smislu smo ranije bili slobodni? Zar nismo već bili kontrolisani mnogo više nego što smo shvatali? Umesto da se žalimo na ugrožavanje naše slobode i dostojanstva u budućnosti, možda bi prvo trebalo da razmislimo šta sloboda znači sada.
Dok to ne uradimo, ponašaćemo se kao histeričari koji, prema francuskom psihoanalitičaru Žaku Lakanu, očajnički traže majstora, ali samo onog kojim možemo da dominiramo.
Futurista Rej Kurcvajl predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog napretka, uskoro imati posla sa „duhovnim“ mašinama koje ne samo da će pokazivati sve znake samosvesti već će i daleko nadmašiti ljudsku inteligenciju.
Ali ne treba mešati ovaj „post-ljudski“ stav sa paradigmatično modernom preokupacijom postizanjem potpune tehnološke dominacije nad prirodom.
Umesto toga, svedoci smo dijalektičkog preokreta ovog procesa.
Današnje „post-humane“ nauke više se ne bave dominacijom. Njihov kredo je iznenađenje: kakvu vrstu kontingentnih, neplaniranih emergentnih svojstava mogu sami sebi da steknu modeli „crne kutije“? Niko ne zna, i u tome leži uzbuđenje – ili, zaista, banalnost – čitavog poduhvata.
Otuda je, nešto ranije u ovom veku, francuski filozof-inženjer Žan-Pjer Dipuj uočio u novoj robotici, genetici, nanotehnologiji, veštačkom životu i veštačkoj inteligenciji čudnu inverziju tradicionalne antropocentrične arogancije koju tehnologija omogućava:
„Kako da objasnimo da je nauka postala toliko ‘rizična’ aktivnost da, prema nekim vrhunskim naučnicima, danas predstavlja glavnu pretnju za opstanak čovečanstva? Neki filozofi odgovaraju na ovo pitanje govoreći da je Dekartov san – „da postanete gospodar i posednik prirode“ – pogrešio i da se hitno treba vratiti „majstorstvu majstorstva“.
Otvoreno pismo Instituta za budućnost života kojim se iz mera predostrožnosti zahteva šestomesečna pauza u razvoju veštačke inteligencije (AI) već je potpisalo hiljade uticajnih ličnosti, među njima i Elona Maska.
Potpisnici se brinu da su laboratorije veštačke inteligencije „zaključane u trci van kontrole“ da bi razvile i primenile sve moćnije sisteme koje niko – uključujući njihove kreatore – ne može da razume, predvidi ili kontroliše.
Šta objašnjava ovaj izliv panike među određenom kohortom elita? Kontrola i regulacija su očigledno u centru priče, ali čija? Tokom predložene polugodišnje pauze kada čovečanstvo može da sagleda rizike, ko će se zalagati za čovečanstvo? Pošto će laboratorije veštačke inteligencije u Kini, Indiji i Rusiji nastaviti svoj rad (možda u tajnosti), globalna javna debata o ovom pitanju je nezamisliva.
Ipak, treba da razmotrimo šta je u pitanju.
U svojoj knjizi Homo Deus iz 2015. istoričar Juval Harari je predvideo da će najverovatniji ishod AI biti radikalna podela – mnogo jača od klasne podele – unutar ljudskog društva.
Uskoro će biotehnologija i kompjuterski algoritmi udružiti svoje moći u proizvodnji „tela, mozgova i umova“, što će rezultirati sve većim jazom „između onih koji znaju kako da konstruišu tela i mozak i onih koji ne znaju“.
U takvom svetu, „oni koji se voze vozom napretka steći će božanske sposobnosti stvaranja i uništenja, dok će se oni koji su ostali suočiti sa izumiranjem“.
Panika koja se ogleda u pismu proizilazi iz straha da čak i oni koji su u „vozu napretka“ neće moći njime da upravljaju. Naši sadašnji digitalni feudalni gospodari su uplašeni. Ono što oni žele, međutim, nije javna debata, već dogovor između vlada i tehnoloških korporacija da zadrže vlast tamo gde joj je mesto.
Ogromno širenje AI sposobnosti predstavlja ozbiljnu pretnju onima na vlasti – uključujući one koji razvijaju, poseduju i kontrolišu AI.
To ukazuje na ništa manje nego na kraj kapitalizma kakvog ga poznajemo, koji se manifestuje u perspektivi sistema veštačke inteligencije koji se samo-reprodukuje, kome će biti potrebno sve manje i manje doprinosa od ljudskih agenata (algoritamsko tržišno trgovanje je samo prvi korak u ovom pravcu).
Izbor koji nam ostaje biće između novog oblika komunizma i nekontrolisanog haosa.
Novi chat botovi će mnogim usamljenim (ili ne tako usamljenim) ljudima ponuditi beskrajne večeri prijateljskog dijaloga o filmovima, knjigama, kuvanju ili politici.
Da ponovo upotrebim moju staru metaforu, ono što će ljudi dobiti je AI verzija kafe bez kofeina ili sode bez šećera: prijateljski sused bez kostura u svom ormanu, Drugi koji će se jednostavno prilagoditi vašim potrebama.
Ovde postoji struktura fetišističkog odricanja: „Ja dobro znam da ne razgovaram sa stvarnom osobom, ali osećam se kao da razgovaram i to bez ikakvih pratećih rizika!“
U svakom slučaju, pomno ispitivanje pisma pokazuje da je to još jedan pokušaj zabrane nemogućeg. Ovo je stari paradoks: nama kao ljudima nemoguće je da učestvujemo u post-ljudskoj budućnosti, pa moramo zabraniti njen razvoj.
Da bismo se orijentisali oko ovih tehnologija, trebalo bi da postavimo Lenjinovo staro pitanje: Sloboda, za koga? U kom smislu smo ranije bili slobodni? Zar nismo već bili kontrolisani mnogo više nego što smo shvatali? Umesto da se žalimo na ugrožavanje naše slobode i dostojanstva u budućnosti, možda bi prvo trebalo da razmislimo šta sloboda znači sada.
Dok to ne uradimo, ponašaćemo se kao histeričari koji, prema francuskom psihoanalitičaru Žaku Lakanu, očajnički traže majstora, ali samo onog kojim možemo da dominiramo.
Futurista Rej Kurcvajl predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog napretka, uskoro imati posla sa „duhovnim“ mašinama koje ne samo da će pokazivati sve znake samosvesti već će i daleko nadmašiti ljudsku inteligenciju.
Ali ne treba mešati ovaj „post-ljudski“ stav sa paradigmatično modernom preokupacijom postizanjem potpune tehnološke dominacije nad prirodom.
Umesto toga, svedoci smo dijalektičkog preokreta ovog procesa.
Današnje „post-humane“ nauke više se ne bave dominacijom. Njihov kredo je iznenađenje: kakvu vrstu kontingentnih, neplaniranih emergentnih svojstava mogu sami sebi da steknu modeli „crne kutije“? Niko ne zna, i u tome leži uzbuđenje – ili, zaista, banalnost – čitavog poduhvata.
Otuda je, nešto ranije u ovom veku, francuski filozof-inženjer Žan-Pjer Dipuj uočio u novoj robotici, genetici, nanotehnologiji, veštačkom životu i veštačkoj inteligenciji čudnu inverziju tradicionalne antropocentrične arogancije koju tehnologija omogućava:
„Kako da objasnimo da je nauka postala toliko ‘rizična’ aktivnost da, prema nekim vrhunskim naučnicima, danas predstavlja glavnu pretnju za opstanak čovečanstva? Neki filozofi odgovaraju na ovo pitanje govoreći da je Dekartov san – „da postanete gospodar i posednik prirode“ – pogrešio i da se hitno treba vratiti „majstorstvu majstorstva“.
Oni ništa nisu razumeli. Oni ne vide da tehnologija koja se profiliše na našem horizontu kroz „konvergenciju“ svih disciplina ima za cilj upravo neovladavanje. Inženjer sutrašnjice neće biti šegrt čarobnjaka zbog svog nemara ili neznanja, već po izboru.”
Čovečanstvo stvara sopstvenog boga ili đavola. Iako se ishod ne može predvideti, jedno je sigurno. Ako se nešto što liči na „posthumanost“ pojavi kao kolektivna činjenica, naš pogled na svet će izgubiti sva tri svoja definišuća subjekta koji se preklapaju: čovečanstvo, prirodu i božanstvo.
Naš ljudski identitet može postojati samo u pozadini neprobojne prirode, ali ako život postane nešto čime se tehnologija može u potpunosti manipulisati, izgubiće svoj „prirodni“ karakter. Potpuno kontrolisana egzistencija je lišena smisla, da ne spominjemo slučajnost i čuđenje.
Isto, naravno, važi i za svaki osećaj božanskog. Ljudsko iskustvo „boga“ ima značenje samo sa stanovišta ljudske konačnosti i smrtnosti.
Jednom kada postanemo homo deus i stvorimo svojstva koja izgledaju „natprirodna“ sa našeg starog ljudskog stanovišta, „bogovi“ kakve smo poznavali će nestati. Pitanje je šta će, ako išta, ostati. Hoćemo li obožavati AI koje smo stvorili?
Postoji svaki razlog za zabrinutost da su tehno-gnostičke vizije post-ljudskog sveta ideološke fantazije koje zamagljuju ponor koji nas čeka.
Nepotrebno je reći da bi bilo potrebno više od šest meseci pauze da se osigura da ljudi ne postanu nebitni, a njihovi životi besmisleni u ne tako dalekoj budućnosti.
