Large zukerberg people first

U svom nedavnom svjedočenju pred američkim kongresom, Frances Haugen optužila je Facebook da svjesno „škodi djeci, raspiruje podjele i slabi demokraciju“. O tome zašto je to digitalnim platformama u interesu piše naš Nikola Kožul.


Živimo u svijetu u kojem moćne elite kreiraju opasnosti kako bi zarad vlastitih interesa kontrolirale obične ljude. Ovako otrcana misao iz prethodne rečenice može se činiti kao početak nekog manifesta uoči masovnog prosvjeda protiv korona mjera ili barem viralno dijeljen kolaž ukrašen likom Nelsona Mandele. Današnji virtualni svijet prepun je takvih pojava. Ako posjedujete pristup internetu i određeni osobni šarm, jednim trampovskim „to nije istina“ moći ćete spektakularno „razotkriti“ sve mukotrpne znanstvene studije i zaraditi gomilu lajkova. Štoviše, ako pritom blokirate sve one koji vam proturječe, isključite komentare prije spavanja i uključite ih ujutro, promišljeno selektirate podatke koje ćete objaviti, a znanstvenike uporno degradirate klaunovskim nadimcima, broj stečenih sljedbenika i simpatija sigurno će vam nahraniti osjećaj vlastite važnosti. Tako ćete oko vlastitih teorija opasati snažan obrambeni bedem otporan na sve napade neprijateljskih protuinformacija, unutar kojeg će one neometano rasti okrunjene statusom istine. Kada u takvom okruženju pustite glas, virtualnom će dolinom, poput eha, odjekivati samo identične frekvencije (lajkovi, podupirući komentari). Tako je činjenična istina zamijenjena plitkim intersubjektivnim dojmom po načelu „ako mi nitko ne proturječi, znači da sam u pravu“. Takvo virtualno okruženje danas nazivamo
komorom jeke i znanstvenici ga smatraju jednim od razloga rastuće društvene polarizacije.

Zviždačica Frances Haugen

Pitanje koje se ovdje nameće jest koliko je tehnološki napredak zapravo praćen onim društvenim tj. kako smo zaboga, umjesto do zdravog dijaloga baziranog na činjenicama, uspjeli doći do  „društvenog monologa“ u komorama jeke? Bivša zaposlenica Facebooka, zviždačica Frances Haugen, ponudila je odgovor vrijedan pozornosti. 

U svom nedavnom svjedočenju pred američkim kongresom, Haugen je optužila Facebook da „škodi djeci, raspiruje podjele i slabi demokraciju“. Iznijela je čvrste dokaze prema kojima Facebook uveliko tolerira štetne sadržaje kako bi na njima zaradio. To se posebno odnosi na pojave poput govora mržnje, teorija zavjere i nezdravog odnosa prema tijelu. Direktno je optužila Marka Zuckerberga da unatoč tome što on ima moć Facebook učiniti sigurnijim i boljim mjestom svjesno ignorira problem. „Uvijek je bio svjestan svega stavljajući astronomski profit ispred dobrobiti ljudi“, rekla je pred Kongresom.

Izvor fotografije: ukhouseoflords


Iako je Facebook investirao 13 milijardi dolara u sigurnost na mreži, Haugen ističe da Zuckerberg izrazite napore ulaže u to da mreža u SAD-u izgleda „lijepo“, dok se u ostalim dijelovima svijeta, posebice manje razvijenim, dopušta problematičan sadržaj koji prolazi ispod radara. Ozbiljni problemi nastaju u društvima u razvoju bez jakih institucija i slobodnih medija, regulatornih okvira te zajamčenih sloboda, gdje je korištenje Facebooka prepušteno, maltene, zakonu jačeg. Primjer takvog virtualnog svijeta može se pronaći u Mjanmaru gdje je vojska kao glavnu propagandnu mašinu koristila upravo Facebook kako bi poticala i opravdavala nasilje (mogući genocid) nad Rohingya narodom. Zbog svjesnog toleriranja štetnog sadržaja, UN-ovi eksperti za ljudska prava
istražuju ulogu Facebooka u navedenom zločinu, a predstavnici Rohingya podnijeli su tužbe zbog izostanka Facebookove reakcije na pozive na nasilje..

Zašto Facebook ne rješava probleme? 

Današnja digitalna ekonomija natječe se za našu pozornost. Mreže poput Twittera, YouTubea ili Facebooka bilježe izmaklu dobit ako korisnik svoje vrijeme provodi na nekoj drugoj mreži ili naprosto čita knjigu jer ogroman dio njihovih prihoda dolazi od oglašivača. Izvor problema za društvo, a većeg profita za Facebook, potječe iz 2018. kada je tvrtka promijenila algoritam. Cilj novog algoritma baziranog na umjetnoj inteligenciji bio je učiniti mrežu popularnijom odnosno potaknuti veću korisničku aktivnost. Facebookova interna istraživanja pokazala su da kontroverzan sadržaj, sadržaj koji širi mržnju i dijeli ljude puno efikasnije privlači našu pozornost. Stoga su, sukladno tome, kreirali takav krajnje manipulativan mehanizam generiranja sadržaja. Logika je jednostavna. Prema riječima same Haugen, više korisničke aktivnosti donosi i više profita od oglašivača. Takav model funkcioniranja postaje business as usual jer slične algoritme koriste i druge mreže, primjerice YouTube. Istraživanje koje je Mozzila Foundation proveo na 37.000 korisnika pokazalo je da YouTubeov algoritam generira sadržaj na identičan način. 

Što radi EU?

U tijeku su javne rasprave o više direktiva koje bi regulirale digitalni svijet, među kojima se najviše ističu Direktiva o digitalnim uslugama (Digital Services Act) i Direktiva o digitalnim tržištima (Digital Markets Act). Prema trenutnom nacrtu, Direktiva o digitalnim uslugama zahtijevat će od velikih tehnoloških kompanija sljedeće: bolju transparentnost prilikom online oglašavanja, uspostavljanje efikasnijih mehanizama za djelovanje protiv nezakonitog sadržaja, praćenje poslovnih korisnika na internetskim tržištima u borbi protiv prodaje ilegalne robe, omogućavanje korisnicima da osporavaju odluke platforme o moderiranju sadržaja, postavljanje okvira za podatke ključnih platformi koji ih treba učiniti dostupnima istraživačima za potrebe revizije i procjene rizika. Sve to danas ne postoji, zbog čega je Haugen usporedila Facebook  s „konzervom bez etikete o sadržaju“ jer su svi ključni podaci o načinu na koji tvrtka funkcionira obavijeni velom poslovne tajne. 

Nema više smisla gledati South Park budući da ga, otkad je pandemije, ozbiljno živimo. Frances Haugen sanja o Facebooku iz 2008. kada smo glazbu i slike bezbrižno dijelili s prijateljima te bockali simpatije. No, stvari su se jako promijenile. Jedno Zuckerbergovo „We are sorry!“ neće riješiti ovaj veliki problem, već je potrebno zakonski zaštititi javni interes od partikularnih interesa Facebooka i sličnih platformi. Algoritmi moraju biti transparentniji, a privatnost korisnika veća - oni moraju moći upravljati vlastitim podacima. Na potezu su EU, SAD i ostale zajednice s dovoljno moći i znanja da takvo što nametnu. Stoga, ako osvijestimo da sebični dioničarski interesi za ogromnim profitom mogu drastično produbiti društvene podjele i ugroziti opću dobrobit, možemo se ponovno zapitati jesu li rečenice poput one s početka teksta uistinu samo otrcane fraze ili pak legitimno mišljenje običnih ljudi upereno protiv pogrešnih subjekata.  To je sada društvena dilema.

 

Autor naslovne fotografije: Maurizio Pesce
Autorica teksta

Nikola Kožul


    Preporučite članak: