Piše: Jennifer Cobbe

[Nedavno] je komisija Donjeg doma britanskog parlamenta – Komisija za kulturu, medije, digitalne medije i sport (Digital, Culture, Media and Sport Select Committee) objavila dugo očekivani finalni izvještaj o dezinformacijama i „lažnim vijestima“. Izvještaj – kojem je prethodilo dugotrajno i povremeno dramatično istraživanje – pun je zanimljivih i pronicljivih detalja o političkom mikrociljanju (ciljanje političkih poruka na relativno male grupe ljudi) i širenju dezinformacija.

Ali kratkovidni fokus izvještaja na samo jednu kompaniju, Facebook, znači da izvještaj propušta širu sliku – a ona uključuje i specifičnu vrstu kapitalizma koja dominira Internetom.

Naravno, valja pozdraviti činjenicu da se ovim problemima posvećuje pažnja, a u izvještaju Komisije ima mnogo toga dobrog. Nesumnjivo je tačna tvrdnja da britanski izborni zakoni ne odgovaraju dobu algoritma i da ih treba reformisati. Očito je veoma razumna i preporuka da se kao lični podatci jasnije formulišu i zaključci izvedeni iz analize drugih podataka o ljudima.

U redu je ljudima manipulisati da bi im se izvukao novac, sve dok to nije u političke svrhe?
 

Ali Izvještaj ima i jasne nedostatke. To što se prijedlog pravne regulacije fokusira na samu dezinformaciju očigledno predstavlja problem. Pozivajući na intervencije zasnovane na „štetnom“ sadržaju, Izvještaj od vlade traži da uđe na opasan teritorij regulisanja zakonitih političkih razgovora među ljudima. Jesu li privatne kompanije ovlaštene da u ime vlade nadgledaju te komunikacije? Postoje brojni itekako dobri razlozi nepoželjnosti ovakvog rješenja (a nespojivost sa zakonima o ljudskim pravima da se i ne spominje).

Najveći je propust, međutim, u tome što su dezinformacije dijagnosticirane kao problem koji u suštini ima veze s Facebookom, a ne kao sistemski problem koji se dijelom javlja i zato što je internetski prostor zagađen poslovnim modelom koji ne koristi samo Facebook: modelom koji radi profita nadzire i preinačava ljudsko ponašanje.

Takozvani „nadzorni kapitalizam“ uključuje prikupljanje što više podataka o što više ljudi, iz što više izvora i radi što više stvari. Ovi ogromni skupovi podataka potom se algoritamski analiziraju radi uočavanja obrazaca i korelacija na osnovu kojih se predviđa buduće ponašanje. Onda se personalizovanim, izuzetno dinamičnim i receptivnim bihevioralnim gurkanjem to buduće ponašanje inicira i usmjerava na ostvarenje profita za platforme i oglašivače. Ovi ciljani alati za modifikaciju ponašanja oslanjaju se na poticanje kognitivnih predrasuda i poznatih prečica koje ljudi koriste pri donošenju odluka. Platforme i oglašivači naveliko eksperimentišu da bi iznašli najefikasniji način uticanja na ponašanje.

Bez razumijevanja nadzornog kapitalizma nije moguće razumjeti širi kontekst mikrociljanja. Nije moguće razumjeti želju za profitom i tržišnom pozicijom koja upravlja ovim praksama. I nije moguće shvatiti da se isti alati za promjenu ponašanja prodaju oglašivačima, političkim strankama i svim ostalim koji su voljni da plate. Budući da ne razmatra ove prakse unutar nadzornog kapitalizma generalno, Izvještaj kao da implicitno prihvata da je u redu ljudima manipulisati kroz psihološku ranjivost ako se to radi da im se izvuče novac, ali nije ako se to radi iz političkih razloga.

Primjetno je da su iz Izvještaja uglavnom izostavljeni i Google i njegova podružnica YouTube. Tu i tamo se spominju, ali je jasno da im je Komisija posvetila nedovoljno pažnje budući previše fiksirana na Facebook. Google je izmislio nadzorni kapitalizam i nesumnjivo ostaje njegov najistaknutiji praktičar, sa značajnim uticajem na svjetski pristup informacijama. A YouTube (koji, naravno, takođe počiva na poslovnom modelu nadzora) ima vlastite ozbiljne probleme u smislu promocije nasilnog ekstremizma, dezinformacija i teorija zavjere. Zbog čega je naučnica Zeynep Tufekci, pišući prošle godine u New York Timesu, opisala YouTube i njegov sistem preporuka kao „[moguće] jedan od najmoćnijih instrumenata radikalizacije 21. stoljeća“.

Nije problem u „lažnim vijestima“, nego u algoritmima koji ih šire
 

Što nas dovodi do drugog aspekta koji je Komitet propustio: sve nadmoćnija algoritamska konstrukcija stvarnosti. Uzmimo za primjer dezinformaciju. Kako je već navedeno, Izvještaj se fokusira na sam lažni sadržaj. Tako očito zanemaruje jedan od ključnih puteva kojima neki sadržaj postaje sistemski problem vrijedan pažnje. U principu, video o kakvoj neutemeljenoj teoriji zavjere nije bitan ako ga na YouTubeu vidi samo 10 ljudi, ali postaje bitan kad YouTubeov sistem preporuka dovede do njega ljude koji gledaju relativno neškodljiv sadržaj. Postaje bitan tek kad YouTube, po nekom algoritmu, izvrši promociju tog videa, nakon čega ga pregleda 10 miliona ljudi.

Platforme mogu tvrditi da one ne mogu biti odgovorne za sadržaj koji smještaju, a ni za postupke svojih korisnika (osim u slučaju očitih nezakonitosti). Ali preporučivanje sadržaja daleko je od pružanja „smještaja“ i ni slučajno nije neutralan čin. Platforme kroz svoje sisteme preporuke selektivno ciljaju i pokazuju nam sadržaj (uključujući i reklame) za koji misle da će nas natjerati da i dalje koristimo njihove usluge, donoseći im prihod i pomažući im da povećaju udio na tržištu. Ali u jedno možete biti sigurni – kroz ove platforme ni slučajno ne dobijamo pravu sliku onoga što se događa u svijetu. Prostori u kojima živimo na Internetu prikazani su kroz objektiv korporativnih želja. Svemu što tu susrećemo posreduju algoritmi – onako kako to odgovara interesima platformi. Mikrociljanje se sve više prepoznaje kao oblik manipulacije, ali ovo je tzv. mekša, možda i podmuklija forma korporativnog algoritamskog uticaja.

Ne čudi što su razni akteri, uključujući teoretičare zavjera i ekstremiste, naučili kako da ove sisteme iskoriste za povećanje publike za svoj sadržaj. Botovi i drugi lažni nalozi često služe da bi se algoritamska konstrukcija internetskog prostora iskoristila za manipulaciju rangiranja sadržaja, što im omogućuje da manipulišu temama u trendu i da, oblikujući svoj diskurs uopštenije, uvedu ekstremne ideje u glavne tokove (uvriježena je zabluda da botovi služe za promjenu mišljenja stvarnih korisnika s kojima dođu u kontakt).

Uticaj stečen personalizacijom pruža nadzornim platformama značajna sredstva za oblikovanje internetske javne sfere. Platforme su, naravno, motivisane profitom i dužnošću prema dioničarima, a ne javnim dobrom i dužnošću prema širem društvu. Možda mislite da je to u redu – radi se, na kraju krajeva, o privatnim korporacijama. Ali dok televizija, masovni mediji i reklamna industrija već odavno oblikuju naš svijet, privatne kompanije nikad dosad nisu imale takav uticaj na konstrukciju naše svakodnevne stvarnosti. Nikad dosad nisu vršile takav uticaj na privatnu aktivnost osoba koje s drugim osobama razgovaraju o svom životu. A te kompanije sad to čine bez ikakvog demokratskog legitimiteta i s minimalnom transparentnošću procesa, ili odgovornosti za svoje postupke.

Da bi se adekvatno riješili problemi manipulacije, dezinformacija i nasilnog ekstremizma koji fermentiraju na interentskim platformama, buduća regulativa mora valjano uvrditi ulogu koju nadzorni kapitalizam vrši ne samo kroz alate za ciljanje, već i u algoritamskoj konstrukciji internetskog prostora. Buduća regulativa treba imati na umu da problem nije neminovno u samom sadržaju. Buduća regulativa mora uzeti u obzir aktivnu ulogu platformi u promociji tog sadržaja, te platformama uspostaviti bar minimalne standarde (u obliku plaćenog oglašavanja ili na drugi način). Pravna regulativa načina na koji korporacije koriste tehničke sisteme – umjesto intervencija u komunikaciji između pojedinaca – značila bi da su ljudi i dalje slobodni da na Internetu postavljaju, gledaju ili dijele sve što nije nezakonito. Sloboda izražavanja zahtijeva barem toliko.

Kompanije koje nas nadziru ostvaruju ogroman profit i utiču na izgradnju naše stvarnosti zahvaljujući, u znatnoj mjeri, upravo sistemima preporuka. Za ono što algoritamski šire moraju snositi nekakvu odgovornost. Kompanije će tvrditi da bi im opreznije korištenje sistema preporuke smanjilo prihode. Google je 2018. godine uzeo 136 milijardi dolara, a Facebook 56 milijardi dolara. Niže prihode si definitivno mogu priuštiti. Možda bi to trebali shvatiti kao trošak poslovanja u budućnosti. Ne bi bili prva industrija čije su praksa i profit regulisani radi dobrobiti društva.

Korisnost mnogih rješenja predloženih u Izvještaju donekle je ograničena zbog ograničenog fokusa. To jest razočarenje, ali daleko od toga da je sve izgubljeno; napredovati se može i u drugim pravcima. Da bismo uspjeli, ambicije ne smijemo svesti na Facebook. Vrijeme je da u tim sistemskim pitanjima uvažimo ulogu nadzornog kapitalizma. Vrijeme je da priznamo da problem nije samo u sadržaju – nego i u tome što se sadržaj širi i umnožava algoritmom čiji je jedini cilj maksimiziranje profita – po svaku cijenu.

Prenijeto sa: openDemocracyUK
Datum objavljivanja: 19/02/2019.