20. jan 2020.

Lajkujmo građane!: Kineski Veliki Brat na steroidima

Maštarija je svake autokratije da proizvede pristojne i moralne građane koji uredno plaćaju porez, ne švrljaju u braku, nikada ne gaze travu i uredno čekaju zeleno na pešačkom... i nikad ne kritikuju vlast. Kinezi su otišli korak dalje uz pomoć veštačke inteligencije, koristeći logiku Fejsbuka. Jer, ako već toliko lajkujemo jedni druge, zašto to ne bi činile država i partija?

Ilustracija: Milan Dog

Ko se još seća Skajneta? Podsetimo današnju omladinu i sve koji se tako osećaju: Skajnet je bio sistem ili mreža veštačke inteligencije iz popularne filmske franšize „Terminator“ (1984). Prvobitno osmišljen u odbrambene svrhe, dotični sistem beše priključen svuda i upotrebljavan za obavljanje mnogih svakodnevnih aktivnosti država, kompanija i građana. (Zvuči poznato? Da, baš kao i internet.)

Međutim, Skajnet je u jednom trenutku postao preterano „pametan“, odnosno svestan samoga sebe. I, tada je skapirao ljudsku vrstu kao svojevrsnu pretnju, ili samo dosadnu smetnju, te je odlučio da ljude naprosto – istrebi. U tu genocidnu svrhu je i bio stvorio armiju kiborga, odnosno „terminatora“.

Da li je to budućnost iz „Terminatora“ u međuvremenu – stigla? Jer, upravo je Skajnet zvanično ime kineskog nacionalnog sistema za video-nadzor, prepoznavanje lica i skladištenje podataka, i koji čini preko 200 miliona „pametnih“ kamera. Stvoren u, naravno, bezbednosne svrhe odbrane i zaštite, kineski državni mediji ga nazivaju „očima koje štite Kinu“, uz komotni plan za postavljanje još 400 miliona kamera do kraja 2020. godine.

Šta je onda sve ovo ako ne tek najnovija inkarnacija iste seoske ili palanačke logike na globalnom planu, uz ispomoć veštačke inteligencije i ostalih softvera?

Možda je neki programerski aparatčik previše gledao američke filmove, ili je u pitanju bizarna slučajnost, ali Skajnet ili „nebeska mreža“ zaista jeste bukvalni prevod kineske reči za ovaj sistem (Tianwang), a koja je usput i deo izvesne fraze o „pravdi koja uvek pobeđuje“.

I sad, da bi zapadnjacima i njihovoj mitologiji o nekakvim ljudskim slobodama i pravima demonstrirali nadmoć ovog veštački inteligentnog sistema, kineski policajci su uradili sledeće. U kontrolnoj sobi su fotografisali jednog novinara BBC-ja i zatim ga pustili da „pobegne“ na ulicu. Skajnet ga je locirao, a policajci „uhapsili“ – za samo 7 minuta! Zvuči zastrašujuće? Možda zato što jeste.

Podrazumeva se i da meta ovog pametnog sistema nisu samo sitni džeparoši ili pljačkaši trafika, već i politički disidenti i nezavisni novinari, odnosno svi koji bogorade protiv države, partije i vlasti. Zvuči seksi? Za autokrate svih boja svakako. A hoće li i ovaj odistinski Skajnet vremenom postati svestan samoga sebe i okrenuti se protiv ljudi? Ili to možda već radi, samo nam niko nije javio?

Kao da ovo nije dovoljno, marljivi Kinezi odlaze i naučno-fantastični korak dalje. Od 2014. godine Kina razvija i digitalizuje tzv. sistem društvenih kredita, odnosno sistem za nadzor društvenog ugleda, poverenja, reputacije ili zasluga kineskih građana. Program je centralizovan pod okriljem kineske Narodne banke, a namera je da od 2020. godine standardizuje procenu društvenog položaja i ponašanja svih građana Kine.

Šta to praktično znači? Pa, baš kao što privatne banke ili osiguravajuća društva odvajkada procenjuju naš lični „kreditni rejting“ – koliko novca zarađujemo i kapitala posedujemo, koliko smo zdravi ili jok, imamo li supružnike i sitnu decu, da li smo osuđivani i ostalo – kineska država je, upotrebom spomenutog sistema za nadzor, odlučila da uradi nešto slično za samu sebe i svoje potrebe. Kao i da zatim nagrađuje poslušne, ugledne i zaslužne, a kažnjava one neposlušne, neugledne i nezaslužne individue.

A šta su „motivaciono pismo“ i CV ako ne samo još jedan ropski, mučenički pokušaj slobodnog građanina da se pred budućim gazdom predstavi kao – šta? Jedna nadasve poslušna, ugledna, pristojna i zaslužna individua od vaskolikog poverenja. I na sve to smo već pristali i oguglali. Mi, na modernom Zapadu, a ne samo „Oni“ u savremenoj Kini

Nije naučna fantastika, niti ona sjajna „Black Mirror“ epizoda. Ova stvar zaista postoji, pilotira se i implementira po najvećim kineskim gradovima. Prema izuzetno zanimljivom i zvaničnom vladinom dokumentu koji zakuvava ceo program „društvenih kredita“, sistem se ideološki zasniva na „kulturi iskrenosti“ i „tradicionalnim vrlinama“. Jer, vele partijski zvaničnici, „biti osoba od poverenja je časno, a prekršiti poverenje sramotno“.

Dakle, država putem pametnog Skajneta mudro prikuplja podatke o svojim građanima i rangira ljude u skladu sa tim kako se tačno društveno ponašaju u realnom vremenu. To jest, dodeljuje im ili oduzima „društvene“ kreditne poene. Mnogi Kinezi su, upadljivo i neverovatno, sasvim okej sa tim. A i ako nisu, dobiće negativne poene.

Šta je onda, moliću, prikladno i moralno ponašanje u tom vrlom, novom svetu Dalekog istoka?

Na primer, bodove donose plaćanje računa i rata za kredit na vreme, dobrovoljno davanje krvi, humanitarni rad, kao i bivanje u bračnoj zajednici umesto samotnjaštva itd. Lista neprikladnosti i društvenih prekršaja mnogo je duža: prelazak na crveno svetlo na pešačkom prelazu, švercovanje u javnom prevozu, nesortiranje smeća ili otpada, nedovoljno česte posete starijim roditeljima, otkazivanje hotelskih rezervacija, ostavljanje izmeta za kućnim ljubimcima i koješta nedruštveno slično. Kao i, baš neobično, kritikovanje države, predsednika ili partije na društvenim mrežama.

Heštegovi #moralnigrađanin, #osobaodpoverenja, #plaćamračune, #dajemkrv, #kupimizmet i #pristojnity verovatno se generišu sami.

Jednostavno rečeno, u pitanju jeste jedan razvijeni, napredni i nadasve digitalizovani, a onda opet posve banalni, dobro poznati i istorijski već viđeni – sistem društvene kontrole. Oni ljudi čiji „društveni bodovi“ u toj nakaradnoj i posve realnoj video-igrici padnu ispod određenog praga, suočavaju se sa brojnim sankcijama. Na primer, zabranjuje im se da putuju vozom ili avionom, usporava im se internet, zabranjuje upis u najbolje škole ili fakultete, sve sa pratećim stubovima srama (spiskom imena mrskih neposlušnika na digitalnim tablama za obaveštenja po kineskim ultrabrzim vozovima).

Naravno, najistaknutiji među neposlušnima i nedruštvenima kojima kolektivno ne treba verovati su – novinari. Među njima je bio Liu Hu koji je na svom popularnom blogu pisao o korupciji unutar Komunističke partije Kine. Optužen je i osuđen za „proizvodnju i širenje glasina“, zbog čega je novčano kažnjen. Međutim, uhvaćen u novoformirani sistem društvenih kredita, dramatično mu je srezan „društveni rejting“, zbog čega mu je zabranjeno da putuje brzim vozom, kupuje nekretnine i uzme kredit od banke. Slično se dešava i brojnim istraživačkim novinarima poput Žang Venmin i mnogih drugih.

Najistaknutiji među neposlušnima i nedruštvenima kojima kolektivno ne treba verovati jesu – novinari. Među njima je bio Liu Hu koji je na svom popularnom blogu pisao o korupciji unutar Komunističke partije Kine. Optužen je i osuđen za „proizvodnju i širenje glasina“, zbog čega je novčano kažnjen… zabranjeno mu je da putuje brzim vozom, kupuje nekretnine i uzme kredit od banke. Slično se dešava i brojnim istraživačkim novinarima

Dakle, umesto starog-dobrog hapšenja i zatvaranja novinara po gulazima, na delu je jedan mnogo suptilniji pritisak i kontrola u svakodnevnom životu. Novinari se procenjuju i rangiraju kao društveno (a ne politički) nepodobni, nemoralni i sebični građani u svojim zajednicama. A kritičko izveštavanje ili pisanje protiv vlasti vešto se izjednačava sa izbegavanjem plaćanja poreza ili neskupljanjem fekalija iza kučića i mačića.

Iako jeste moguće da postoje određene zablude, pojednostavljivanja, preterivanja, kao i pogrešni prevodi oko celog kineskog sistema društvenih kredita po medijima Zapada, sve ovo fakat deluje kao „Veliki Brat na steroidima“. I Džordž Orvel se verovatno prevrće u grobu poput propelera.

Istovremeno, cela ta logika gotovo da je direktno pozajmljena od – Fejsbuka. Ili Tvitera, Jutjuba, Instagrama i sličnih društvenih medija. Samo priupitajmo bilo koju tinejdžerku, ali i tradicionalne medije koji su poput insekata uhvaćeni u belosvetsku mrežu ili www. Jer, na društvenim mrežama, merilo nečijeg uspeha, podobnosti i uticaja u društvu upravo je broj „lajkova“, „pregleda“, odnosno fejvova i ritvitova, zar ne? Za građane Republike Internet, društveni status, rejting ili ugled krajnje su relacione i oštro konkurentne stvari. Koje onda i umobolno i izdašno reklamiramo drugima.

Otuda društveno podobne slike porodice sa decom, pristojna čestitanja rođendana i praznika, fotografije hrane u trendu i stopala po plažama, sva ta samohvalisanja i mudrovanja po globalnim mrežama, u potrazi za lajkovima, vjuovima i fejvovima. Ili za društvenim poenima.

Uostalom, ne zovu li se već naša digitalna prisustva naši – profili? Za koje tada dobijamo procene, rejtinge i ocene od prijatelja, srodnika, kolega i poslodavaca? Kina je „samo“ napravila sledeći logičan korak onog autokratskog i birokratizovanog uma usred digitalne revolucije. Hej, a šta ako bismo procenjivali ili lajkovali – građane? Ali u onom njihovom realnom i oflajn, a ne samo virtuelnom životu i onlajn svetu?

Međutim, pre nego što krenemo da cokćemo, kršimo prste i cipelarimo ovu „orvelovsku“ sadašnjost, ili da pak odmahujemo rukom zbog dalekih, „ludih“ i totalitarizmu sklonih Kineza, razmislimo dvaput. Jer, društvena kontrola postoji od kada postoje društva. Građane već uveliko i oduvek procenjuju, podatke o njima prikupljaju, kao i kontrolišu i disciplinuju, mnoge društvene institucije i procedure: prijemni ispiti na fakultete, prijave za posao, medicinski kartoni, vojne knjižice, vozačke dozvole, profili klijenata po spomenutim bankama i osiguravajućim društvima.

Lista neprikladnosti i društvenih prekršaja mnogo je duža: prelazak na crveno svetlo na pešačkom prelazu, švercovanje u javnom prevozu, nesortiranje smeća ili otpada, nedovoljno česte posete starijim roditeljima, otkazivanje hotelskih rezervacija, ostavljanje izmeta za kućnim ljubimcima i koješta nedruštveno slično. Kao i, baš neobično, kritikovanje države, predsednika ili partije na društvenim mrežama

Dođavola, registar i sistem dodele negativnih bodova za saobraćajne prekršaje postoji i u Srbiji. A šta su „motivaciono pismo“ i CV ako ne samo još jedan ropski, mučenički pokušaj slobodnog građanina da se pred budućim gazdom predstavi kao – šta? Jedna nadasve poslušna, ugledna, pristojna i zaslužna individua od vaskolikog poverenja. I na sve to smo već pristali i oguglali. Mi, na modernom Zapadu, a ne samo „Oni“ u savremenoj Kini.

O ovome je ponajbolje pisao još društveni teoretičar Mišel Fuko u kultnom klasiku Nadzirati i kažnjavati (1975). Za njega nema razlike između moderne bolnice, škole i zatvora, pošto svi oni imaju identičnu arhitekturu moći. Dok nauka i nove tehnologije omogućuju disciplinovanje građana i njihovih tela i umova upravo putem složenih sistema nadzora.

Zato u modernom društvu više nije potrebno javno kažnjavati i mučiti kriminalca za opomenu ostalima kao u srednjem veku. Ovo će spontano učiniti sama „pristojna“ javnost. Jedno nevidljivo oko društvene kontrole od strane zajednice: susedi i kolege, te stvarni ili oni Fejsbuk prijatelji.

Pročačkajmo društvenom teorijom iz 19. i dobrog dela 20. veka i svaka prokleta vlast vlažno je sanjala o prosečnom, poslušnom i uglednom građaninu, kao i o „moralnom (pre)vaspitanju“ istog. A društveni naučnici bili su tu da ovakav poželjni „društveni profil“ i nacrtaju. Kina je za isto to samo (zlo)upotrebila najnoviju tehnologiju. Međutim, maštarija je svake autokratije da proizvede pristojne i moralne građane koji uredno plaćaju porez, ne švrljaju u braku, nikada ne gaze travu i uredno čekaju zeleno na pešačkom.

Najzad, možda i nema ničeg novog na kugli zemaljskoj, bili mi tradicionalni ili moderni. Kineski Skajnet kao pametni sistem video-nadzora su i one poslovične babe po selu, što posle podneva sede i čavrljaju na klupama ispred svojih kuća. Dok zapravo budno osmatraju prolaznike, komentarišu ko se (ne)prikladno ponaša, ko se kako obukao, odakle dolazi i kuda to uopšte ide u ovo doba. Dakle, koje takođe kontrolišu, nadziru i društveno sankcionišu tuđe živote i reputacije.

U kontrolnoj sobi su fotografisali jednog novinara BBC-ja i zatim ga pustili da „pobegne“ na ulicu. Skajnet ga je locirao, a policajci „uhapsili“ – za samo 7 minuta! Zvuči zastrašujuće? Možda zato što jeste

Nije li teoretičar medija Maršal Makluan još poodavno (1962) i čuveno ustvrdio da živimo u „Globalnom selu“? Šta je onda sve ovo ako ne tek najnovija inkarnacija iste seoske ili palanačke logike na globalnom planu, uz ispomoć veštačke inteligencije i ostalih softvera?

Savremena Kina, kolektivistička kakvom su je Konfučije i Mao dali, samo je instalirala svojevrsno Nadziranje i kažnjavanje 2.0. I, poput naprednih baba u globalnom selu, zahvaljujući „pametnoj“ tehnologiji, ceo postupak skratila i učinila objektivnijim. I dramatično opasnijim i neslobodnijim, naravno.

Do sada su različite institucije Zapada o ponašanju i društvenom statusu svojih građana bile zaključivale tako što su – ispitivale same građane, mahom u veštačkim situacijama. Upitnicima, formularima, testovima, prijemnim ispitima, dosijeima, kartonima, motivacionim pismima, sistematskim pregledima, profilima na društvenim mrežama. Kina je zato napravila novi Veliki korak unapred, i na partijskom kongresu odlučila da podatke o ponašanju svojih građana prikupi sama, umesto da mrske i lažljive ljude o tome nešto priupita. Kao i da ih tim povodom rangira, pa da onda zaista vidimo ko će da nosi vodu, a ko malter. A građani će se tada (samo)kontrolisati sami. Jer, kao što to srednjoškolske i kompanijske klike dobro znaju, kontrola ogovaranjem ili tračem jeste ponajbolja društvena kontrola.

Zato u pitanju jeste specifična refleksija društvenih mreža koje su podivljale iliti gone wild u svojoj društvenoj kontroli. Pa, ukoliko već toliko lajkujemo jedni druge, a zašto isto to ne bi radila i partija? Nama onda preostaje samo da sačekamo onog dobrog Terminatora iz budućnosti, da spasi svet u zloslutnoj sadašnjosti. Ili da i sami ustanemo protiv pametnih mašina koje nas kontrolišu i čine sve manje i manje slobodnim ljudima.

2 komentara za: “Lajkujmo građane!: Kineski Veliki Brat na steroidima

  1. Drz ga, ne daj ga

    Nase nacionalno iskustvo svedoci da je vise manje-potpuna drustvena kontrola moguca i u rezimu potpune proizvoljnosti i samovolje, a pri tom krajnje birokratski neefikasnom i tehnoloski zaostalom. Stavise iz ove perspektive vladavine najgorih neki sistem objektivnog drustvenog rangiranja izgleda kao nedostizni ideal….

    21. jan 2020. at 14:27
  2. Ma

    Potrazite nesto o tome, kako je sledeci stepen kontrole da gradjani treba svakodnevno da citaju onlajn tekstove koji velicaju komunisticku partiju, te kako treba da odgovaraju na pitanja takodje onlajn. Tom metodom se sakuplaju podaci o tome ko je ispunio svoj score privatno a i u firmi. Firma moze da vrši pritisak na pojedinca jer celo odeljne nije spunilo upitnik i moze tacno da se identifikuje, ko je ta crna ovca. U jednom takvom tekstu se govori o coveku (mislim da je neki inzenjer) koji u zeleznici na putu do radnog mesta cita te tekstove i odgovara na pitanaj. Isti taj covek u povratku kuci cita i odgovara na pitanja u ime svoj zene, koja je uciteljica, jer ona nema kada to da odradi, pospana zena kod kuće kuva veceru i doji bebu i gleda da nadoknadi san. Pronadjite nesto o tome na engleskom jeziku. lep pozdrav

    22. jan 2020. at 18:29

Ostavite komentar

Vaša adresa e-pošte neće biti objavljena. Neophodna polja su označena *

*

Na našem sajtu biće objavljeni svi pristigli komentari, osim komentara koji sadrže govor mržnje, psovke i uvrede ili nisu u vezi sa temom članka koji se komentariše. Govor mržnje definisan je Zakonom o javnom informisanju, koji u članu 38. kaže: „Zabranjeno je objavljivanje ideja, informacija i mišljenja kojima se podstiče diskriminacija, mržnja ili nasilje protiv lica ili grupe lica zbog njihovog pripadanja ili nepripadanja nekoj rasi, veri, naciji, etničkoj grupi, polu ili zbog njihove seksualne opredeljenosti, bez obzira na to da li je objavljivanjem učinjeno krivično delo“. Pre nego što budu objavljeni, komentari moraju biti odobreni od strane naših moderatora, pa vas molimo za malo strpljenja.

Send this to a friend