Fejsbuk zabranio profile zbog govora mržnje, ali nije objasnio kako prepoznaje ekstremiste

Sa obrazloženjem da se bori protiv „opasnih pojedinaca i organizacija“, Fejsbuk je nedavno objavio da je na svojim platformama ukinuo šest individualnih profila i jedan nalog koji pripada veb-sajtu poznatom po tome što objavljuje lažne vesti i teorije zavere.

Algoritmi koje Fejsbuk razvija još uvek ne mogu da sa velikom sigurnošću prepoznaju govor mržnje. Na primer, rečenica „Nisi kučka, dakle – gotovo je“, u zavisnosti od konteksta, može biti protumačena kao pretnja, poruka inspiracije ili kao stihovi iz pesme Cardi B.

Tako je bez mogućnosti da se obrate milionskoj publici ostalo pet muškaraca i jedna žena, među kojima su Luis Farkan, vođa grupe „Nacija islama“, koji je označen kao crnački nacionalista, Pol Nelen, poznat po zagovaranju ideje da su belci superiorna rasa, kao i sam Aleks Džons, kreator takođe upravo zabranjenog veb-sajta InfoWars, koji je širu popularnost stekao promovišući teorije zavere koje uključuju tvrdnje da su 11. septembra Amerikanci izvršili napad sami na sebe, i da je masovna pucnjava u školi Sendi Huk 2012. godine, u kojoj je život izgubilo dvadesetoro dece i šestoro odraslih, zapravo – laž inscenirana da bi se ljudima zabranilo da poseduju oružje. (Nakon što su ga roditelji neke od poginule dece tužili, Džons je izjavio da je bio žrtva kratkotrajne psihoze.)

Ovo najnovije deplatformisanje, što je reč koja se u Sjedinjenim Državama sve više koristi u kontekstu zabrane naloga na socijalnim mrežama, predstavlja pokušaj Fejsbuka da na neki način uvede red u ono što se objavljuje na njihovim platformama – pored najveće društvene mreže na svetu, tu su i Instagram i WhatsApp.

Algoritmi odgovorni za radikalizaciju?

Možda nam o pristupu temi nešto više govori i podatak da je Fejsbuk vest o zabrani plasirao na isti način na koji objavljuje puštanje u prodaju novih proizvoda – određeni broj medija je unapred dobio ekskluzivnu informaciju o zabrani koja je pre objavljivanja bila pod embargom.

Zamoljen da za Cenzolovku prokomentariše ovu odluku, Baktijor Avezdjanov iz Centra za slobodu izražavanja na Univerzitetu Kolumbija u Njujorku rekao je da lično podržava ovaj potez Fejsbuka, koji je „trebalo da se desi mnogo ranije“.

Prema njegovom mišljenju, „u Americi je mnogo onih koji veruju da je rešenje za lažne vesti i govor mržnje – još više slobode govora“.

„Svedoci smo da, nažalost, ovaj pristup nije dao rezultate. Ono što me zabrinjava jeste činjenica da Fejsbuk do sada nije objasnio na osnovu kojih parametara je doneo odluku o zabrani“, kaže za Cenzolovku Avezdjanov.

Jakob Makanagma, direktor danskog tinktanka Justicia, koji je o ovoj temi govorio na upravo održanoj tribini na Njujorškom univerzitetu, podsetio je kako se u Evropi svojevremeno žučno diskutovalo o tome  da li će Gutenbergov pronalazak štamparije unazaditi društvo i da li je uopšte potreban, kao i na to da su društvene mreže, uključujući i Fejsbuk, pre Bregzita i Trampa bile gotovo unisono hvaljene kao sredstvo demokratizacije društava.

Na istoj tribini iznet je i podatak da su istraživanja pokazala da su u izvesnoj meri algoritmi koje koriste društvene mreže odgovorni za radikalizaciju konzumenata. Nakon što, naime, dovoljan broj puta kliknete na sadržaj koji je algoritam ocenio kao politički „desno od centra“, sva je prilika da će vam platforme u budućnosti preporučivati sličan sadržaj koji je sve više i više radikalan.

Fejsbuk ima više moderatora nego SAD novinara

Fejsbuk do sada nije javno objavio šta kompanija podrazumeva pod pojmovima „radikalni sadržaj“ ili „govor mržnje“, niti da li je i kako moguće žaliti se na odluku o zabrani, što su neke od glavnih zamerki stručne javnosti.

Interna dokumenta ipak postoje. U upravo objavljenoj analizi časopisa Vajerd, koja je 15 meseci pratila rada Fejsbuka, može se pročitati da je ova kompanija krajem prošle godine koristila usluge blizu 30.000 zaposlenih moderatora u centrima širom sveta – što je, otprilike, jednako broju zaposlenih novinara u svim novinama u Americi.

Nakon što dovoljan broj puta kliknete na sadržaj koji je algoritam ocenio kao politički „desno od centra“, sva je prilika da će vam platforme u budućnosti preporučivati sličan sadržaj koji je sve više i više radikalan

Vajerd objavljuje i da interni pravilnik sa instrukcijama o tome kako moderirati govor mržnje sadrži oko 200 strana, kao i to da algoritmi koje razvija još uvek ne mogu da sa velikom sigurnošću prepoznaju ovu vrstu govora. Kao primer je navedena rečenica „Nisi kučka, dakle – gotovo je“, koja, u zavisnosti od konteksta, može biti protumačena kao pretnja, poruka inspiracije ili kao stihovi iz pesme Cardi B.

Za razliku od nekih drugih evropskih zemalja, u Srbiji zasad ne postoji regulativa govora na društvenim mrežama. Odgovarajući na pitanje ko je nadležan da reguliše govor na internetu, uključujući i Fejsbuk, Baktijor Avezdjanov je rekao kako zakoni u SAD ostavljaju društvenim mrežama da blokiraju sadržaj, dok je, na primer, sud u Nemačkoj nedavno zatražio od Fejsbuka da se pridržava lokalnih zakona pri donošenju odluka o tome šta ostaviti, a šta ukloniti sa platforme.

Avezdjanov kaže da ne treba zaboraviti snagu koju imaju korisnici društvenih mreža. Fejsbuk dozvoljava prijavljivanje uznemirujućeg sadržaja, a ima i opciju kojom se takav sadržaj blokira – što su sve stvari koje algoritmi registruju.

Prema njegovom mišljenju, činjenica da je Fejsbuk zabranio šestoro ljudi i veb-sajt koji širi lažne vesti i govor mržnje možda je posledica pada potražnje za takvim sadržajem, a ne duboko etička ili pravna odluka.