Rascjep u mreži | kulturpunkt

Kulturoskop Tekst

<

Rascjep u mreži

Kroz niz primjera o potencijalima i opasnostima novih tehnologija, Novo mračno doba Jamesa Bridlea pokazuje kako smo izgradili svijet koji više nismo u stanju razumjeti.

Piše: Matko Vlahović

FOTO: Drugo more

Kada je 2015. godine hakirana Ashley Madison, kanadska društvena mreža namijenjena povezivanju osoba u vezama koje traže ljubavnu aferu, korisnici stranice zatekli su se u ponešto neugodnoj situaciji. Naknadno istraživanje njihovih profila dalo je očekivane rezultate: većina korisnika bili su muškarci, a manjina žena koje su otvorile profil od mreže su uglavnom odmah odustale. Jedini značajan podatak koji je istraživanje donijelo je taj da su, unatoč tomu, muškarci masovno posjećivali stranicu i provodili sate i sate u komunikaciji s "korisnicama" – automatiziranim profilima ili, popularno, botovima. Muškarci željni ljubavne avanture vodili su, dakle, razgovore sa softwareom.

Iako se može činiti kao zabavna anegdota, što zasigurno i jest, ovaj je slučaj simptom duboke netransparentnosti u odnosu čovjeka i tehnologije, odnosu zahvaćenom u pojmu mreže. U tom ga smislu kao primjer koristi i britanski publicist i umjetnik James Bridle u knjizi Novo mračno doba – Tehnologija i kraj budućnosti koju su u hrvatskom prijevodu krajem 2019. u sklopu biblioteke Rad i misao objavili Drugo more i Jesenski i Turk. Knjiga dokumentira proturječja "komputacijskog mišljenja", a kombinacija Bridleovog znanja i volje da tehnologiju ne promatra isključivo iz tehničke perspektive otvara prostor njenoj materijalističkoj analizi. U isto je vrijeme izuzetno nezahvalna za sažimanje u preglednom prikazu, jer je koncipirana kao niz aktualnih primjera o potencijalima i opasnostima novih tehnologija te povijesnih anegdota o nastanku ideja koje su utjecale na njihov razvoj. Kontrastiranjem pionirskih dana računarstva i njegove sadašnjosti, Bridle želi predstaviti alternativnu sliku tog razvoja, povijest prepunu pogreški kojoj u temelju leži "kroničan neuspjeh da se uvidi pojmovni rascjep u srži komputacijskog mišljenja, u srži naše konstrukcije svijeta".

Komputacijsko mišljenje za Bridlea nije nešto čime se isključivo bave programeri ili informatičari, ono je prije svega logika prikupljanja i proizvodnje informacija u umreženom društvu. Spomenuti rascjep u srži tog mišljenja posljedica je ideje da se svaki problem može riješiti sakupljanjem dovoljne količine podataka putem kojih se proizvode sve točniji modeli stvarnosti. No izgradnja apsolutno preciznog modela nailazi na problem analogan dilemama kartografa koji bi imao zadaću dati egzaktnu mjeru, primjerice, jadranske obale. Što konkretnije kartograf pokuša izmjeriti krivulju to ona postaje dulja, dolazi u situaciju gdje u obzir mora uzeti svaki kamenčić ili zrno pijeska i duljina se unedogled povećava. Možda je to i najvažniji uvid koji Bridleova knjiga pruža – količina dostupnih informacija ne povećava "količinu" znanja, već, upravo suprotno, uvećava kompleksnost stvarnosti o kojoj nešto želimo znati. 

Međutim, kompleksnost po sebi nije nužno problem; kompliciranost zbilje je, takoreći, trivijalna činjenica koja ne predstavlja prepreku znanju. Problematičan je naš pristup kompleksnosti kao i način na koji je reproduciramo. Zato je važno proučavati isprepletenost čovječanstva i tehnologije, načina na koji uopće tehnologiju razumijemo. Shvaćanje kompleksnih situacija za Bridlea nije ništa drugo doli pitanje boljih metafora – metajezika za opisivanje svijeta. "Potrebna nam je", kaže, "nova stenografija, koja istodobno priznaje i razmatra stvarnost svijeta u kojem su ljudi, politika, kultura i tehnologija isprepleteni do krajnjih granica". Tehnologiju stoga ne treba isključivo shvaćati kao stvar proizvodnje sve sofisticiranijih strojeva, već njenom razumijevanju treba dodati i proizvodnju samih metafora, odnosno metajezika koji definira interakciju s nastajućom mrežom. Tehnološka proizvodnja metafora može biti namjerna ili nesvjesna, ali je uvijek dubinski isprepletena s kulturom. 

Mreža kao odraz kompleksnosti svijeta

Kao središnju metaforu računalnog doba, onu koja definira suvremeno poimanje mreže, Bridle predlaže oblak. Tekst koji upravo pišem, fotografije koje korisnici društvenih medija objavljuju, sadržaj portala kojeg trenutno čitate, sve je to negdje spremljeno, svako slovo i svaki piksel se fizički nalaze u svijetu kao fizičke veličine koje troše energiju.

Računarstvo je nužno krcato raznim slojevima apstrakcija. Da bi bilo moguće raditi s kompliciranom podležećom infrastrukturom potrebno je izgraditi funkcionalno sučelje. Najobičniji procesor danas sadrži milijarde tranzistora, dok ih je prvi mikroprocesor iz 1970. imao nešto više od 2000. Nitko ne može ručno dizajnirati sve veze među sklopovljem pa je mikroprocesor, kolokvijalno mozak računala, i sam metafora za vlastitu unutarnju kompleksnost. Često se mogu čuti kritike i na račun današnjih programera da više niti ne znaju kako računalo funkcionira jer to jednostavno nije potrebno, dovoljno je raditi s apstrakcijama ili metaforama. Metaforičnost tako gotovo u potpunosti briše fizičku stranu mreže, korisnicima daje osjećaj da se zbilja radi o nečemu efemernom i amorfnom poput oblaka.  

Međutim, jednom kad smo se navikli na odsustvo infrastrukture, počinjemo odvajati stvarno od virtualnog kao da su suštinski dva različita svijeta. Bridle u tome vidi veliki problem. Nevidljiva infrastruktura oblaka i interneta glavno je područje i njegova umjetničkog rada. Ogromni podatkovni centri u kojima su pohranjeni naši digitalni otisci umjesto nečeg neopipljivog na Bridleovim fotografijama postaju stvarni objekti u svijetu. No taj postupak nema svrhu obične vizualizacije nevidljivog niti pukog podizanja svijesti. Za ilustraciju, pohranjivanje eksabajta podataka na globalnoj razini odgovorno je za emisiju dva posto CO2, količina otprilike jednaka onoj avioindustrije. Činjenica da nešto tako banalno i lako poput objavljivanja selfija na društvenoj mreži u visokoj rezoluciji umjesto nešto lošije kvalitete ima zbiljske materijalne posljedice, govori mnogo o nedostatnosti dostupnih metafora.

Povezivanje materijalnog i virtualnog ima još jednu važnu ulogu. Kako je spomenuto, kompleksnost tehnoloških alata postaje dio stvarnosti koja nam postaje sve više nepronična. No upravo ta kompleksnost sačinjava efektivnost mreže – "mreža najbolje predstavlja stvarnost koju smo izgradili, upravo zato što je i nju teško promišljati", piše Bridle. "Nosimo je u džepovima, gradimo tornjeve koji je prenose i palače podataka koje je obrađuju, ali ona nije svediva na diskretne jedinice; nelokalna je i u srži proturječna – a takvo je i stanje samoga svijeta". Tehnologiju, dakle, više ne razumijemo upravo zato što smo pronašli načine da reflektira kontradikcije stvarnosti, a upravo zbog toga nam je toliko korisna.

Moderna vremena na steroidima

Većina nas se sjeća da je do prije nekoliko godina Googleova usluga prevođenja bila predmet ismijavanja, postojao je cijeli žanr memeova koji su isticali neuspješne ishode prevođenja. No u 2016. godini Google je uslugu prebacio sa statističkog modela prevođenja na razini riječi i zamijenio ga neuralnom mrežom, onim što se obično u medijima naziva umjetnom inteligencijom. Neuralna mreža ne koristi jednostavno komparaciju dviju riječi iz različitih jezika, već stvara vlastiti "sustav značenja" i asocijacija, "umjesto da jednostavno uspoređuje hrpe tekstova, mreža gradi vlastiti model svijeta, a rezultat nije skup dvodimenzionalnih veza između riječi, nego karta cijelog teritorija. U toj novoj arhitekturi riječi su kodirane međusobnom udaljenošću u mreži značenja – mreži koju može shvatiti samo kompjutor", objašnjava Bridle. Neuralna mreža stvara svoj unutarnji metajezik temeljen na podacima, zbiljskim instancama jezika, koji su provučeni kroz nju. Jezik koji stvara ovisi o onome što je uneseno.

Logistički sustav koji Amazon koristi kako bi osigurao dostavu u što kraćem roku primjer je posljedica koju automatizirani modeli imaju na radne procese. Roba u njihovim skladištima nije sortirana po abecedi ili vrsti proizvoda, nije sortirana ni na koji način shvatljiv čovjeku. Radnici koji slažu pakete ne znaju gdje se što nalazi, već njima upravlja posebni računalni sustav koji ih poput GPS-a navodi do određenog proizvoda. Njihov rad je u potpunosti mehaničan, njihove kretnje su kalkulirane kako bi se maksimizirala efikasnost, sve se mjeri i koristi kao dodatan izvor sirovih podataka za daljnje optimiziranje algoritma. Ukratko, Chaplinova Moderna vremena na steroidima.

Unatoč tome, Bridle čitatelju napominje da dehumanizacija rada nije tek rezultat zle tehnologije koja nužno proizvodi otuđenje. Tehnologija je oduvijek isprepletena s društvenim i političkim: "Postoji konkretan i uzročan odnos između kompleksnosti sustavâ koje svakodnevno koristimo, neprozirnosti s kojom je većina tih sustava izgrađena i s kojom se opisuje, i fundamentalnih, globalnih pitanja nejednakosti, nasilja, populizma i fundamentalizma." Tehnologija nije neutralna ili objektivna, nastaje u određenom historijsko-materijalnom kontekstu te u povratnoj petlji utječe na taj kontekst. Stoga nikoga neće začuditi da, primjerice, tehnologije prepoznavanja lica najbolje rade na bijelim muškarcima, kao što je to u prošlosti bio slučaj i s fotografijom. Ne samo da smo uspješno digitalizirali socijalne probleme poput rasizma ili nejednakosti, već smo ih i automatizirali, a da nitko nije imao eksplicitnu namjeru to učiniti.

Mrežu ne čini samo infrastruktura strojeva, sastavljena je i od ljudi. Kako je to Bridle formulirao, računala se nisu smanjila od doba ENIAC-a kada su zauzimala cijele sobe i katove, već od pojave mobitela ona zauzimaju cijeli planet. Svi se nalazimo u globalnom računalu, tako da više ne može biti govora o razlikovanju virtualnog i zbiljskog – virtualno je zbiljsko, a zbiljsko virtualno. Masovno prikupljanje podataka kojem smo izloženi od strane tehnoloških kompanija, ali i država, ekstrakcija je sirovina potrebnih da bi se algoritmi istrenirali. Sustav preporuka na YouTubeu ili društvenim mrežama pogonjen je onim što sami proizvodimo – podatcima iz naših života, što nužno uključuje zrcaljenje sistemskih nejednakosti. I opet, jednom kad je digitalni model naših ponašanja formiran, on povratno utječe na njihovu reprodukciju, kao što su to mogli saznati igrači mobilne igre Pokemon Go. Kreatori igre jednostavno su ih mogli usmjeriti na poželjne lokacije. Primjerice, ako se lanac brze hrane odlučio reklamirati, vredniji Pokemoni su se počeli pojavljivati na njihovim lokacijama, a igrači/mušterije su došli za njima.

Svijet je prekompliciran za jednostavne priče

Mišljenje je skupo, mozak je najveći potrošač energije u ljudskom tijelu. Radi uštede energije mozak preferira liniju manjeg otpora. Ako su kognitivni zadaci automatizirani, postajemo skloni izvršavanju onoga što algoritam preporučuje, "komputacija zamjenjuje svjesno razmišljanje", reći će Bridle. Ne treba tu tvrdnju uzeti kao poziv za povratkom na neko vrijeme kad smo navodno razmišljali, na “filozofsko” fetišiziranje misli. Ako možemo automatizirati rutinske procese onda se rješavamo robovanja nepotrebnom radu. Emancipacijski potencijal tehnologija nikad ne treba ispustiti iz vida. Upravo zato postaje važno istraživanje tko i kako dizajnira sustave automatizacije, u čijem su vlasništvu, čiji podatci u iskorišteni u svrhu njihove gradnje, tko je izostavljen? Sȃmo mišljenje ovisi o tome. Količina CO2 u atmosferi, kojoj mreža, kako je već spomenuto, itekako pridonosi, utječe na globalnu kognitivnu sposobnost čovječanstva, klimatske promjene doslovno smanjuju našu sposobnost da se s njima nosimo. Nedostaje nam čak i osnovna orijentacija u kompleksnim sustavima koje smo izgradili, a istovremeno gubimo sposobnost samog razumijevanja – gubimo sposobnost da znamo što uopće radimo.

Bridle prepričava slučaj Jamesa Matthewsa koji je 1796. uletio u britanski parlament uzvikujući "Izdaja!". Nakon toga smješten je u umobolnicu Bedlam i ostao upamćen kao prvi dokumentirani slučaj paranoidne shizofrenije. Matthews je opisivao stroj kojim je, prema njegovim tvrdnjama, Joseph Priestley magnetskim valovima rastavljao zrak na komponentne plinove i kontrolirao umove. Sraz tehnologije, politike i paranoidnih urota nije suvremen izum, prisutan je takoreći od početka, a recentni primjer straha od 5G mreže tek je dio bogate tradicije. "Narativi su po samoj svojoj prirodi simplifikacije jer nijedna pojedinačna priča ne može objasniti sve što se događa – svijet je previše kompliciran za jednostavne priče. Umjesto da tu činjenicu prihvatimo, priče postaju sve raskošnije i razgranatije, sve zamršenije i nedovršenije", piše Bridle. 

Teorije urota nisu jednostavno pokušaj mistifikacije svijeta, baš suprotno, one su pokušaj zahvaćanja kompleksne mreže odnosa koji su odavno premašili naše individualne kognitivne kapacitete. Bridle ponovno ističe paradoksalnost situacije – znamo da nas prate, nadziru i prisluškuju, ali unatoč tome živimo u dobu neopravdane paranoje. Teorija zavjere pokušava kognitivno mapirati svijet tražeći nekoga tko djeluje iza zavjese, ali trik je upravo u tome da se moramo suočiti s mnogo više zabrinjavajućom činjenicom da globalna mreža nema nikoga tko njome upravlja. Mrežu Bridle zato shvaća kao hiperobjekt, pojam kojeg posuđuje od filozofa Timothyja Mortona koji se njime služi kako bi naznačio nemogućnost totalnog shvaćanja klimatskih promjena i uopće sistema koji prelaze granice našeg razumijevanja. Takve sustave promatramo samo kroz lokalne efekte, ne u njihovoj cijelosti. 

Jednom kad i dobijemo ograničen uvid u unutarnje funkcioniranje mreža, kao što su to omogućili Assange, Snowden, Manning i drugi zviždači/ce, kompleksnost informacija i sustava nadziranja potiče isključivo nedjelovanje jer "nikada nismo doista željeli znati što se nalazi u tim tajnim sobama, u tim zgradama bez prozora u središtu grada, jer je bilo jasno da odgovor mora biti loš. Slično klimatskim promjenama, masovno nadziranje pokazalo se pregolemom i previše destabilizirajućom idejom da bi je društvo shvatilo". Ideja i cilj Wikileaksa u sadašnjem sustavu postaju samoponištavajući, prema Bridleu čak i komplementarni ciljevima obavještajnih agencija. Wikileaks i američka Nacionalna sigurnosna agencija (NSA) dijele istu polaznu točku – da više informacija znači i bolje poznavanje svijeta, da u svijetu postoji točan odgovor. 

Referirajući se na Hellerov roman Kvaka 22, Bridle piše da "sama mogućnost racionalnog djelovanja postaje nemoguća u iracionalnom svijetu". Čak i kad je akter u potpunosti svjestan iracionalnosti sustava i kad bi se želio ponašati na racionalan način da bi zadovoljio svoje ciljeve, on je u tome jednostavno onemogućen. Da bi djelovao u svojem interesu on to mora činiti u skladu s normama iracionalne mreže, dakle protivno svojem interesu. Što nam je onda činiti?

Bijeg od smrtonosnog svjetla

Novo mračno doba pokazuje kako smo izgradili svijet proliferirajućih informacija i kompleksnosti. Svakodnevno, htjeli to ili ne, pristali na to ili ne, našim podatcima hranimo algoritme u vlasništvu velikih tehnoloških kompanija, a odnedavno i njihove automatizirane sustave. Nemamo konkretan uvid u funkcionalnost tih sistema jer su u vlasništvu korporacija, ali i zato što po sebi postaju sve više nepronične. Podatci koji hrane najnoviji val automatizacije, tzv. "nova nafta" istovremeno odražavaju naše najgore impulse, strukturne nejednakosti iz stvarnog svijeta, seksizam, rasizam, transfobiju... 

Naše mračno doba nije mračno zbog neznanja, štoviše, dijelom je izgrađeno na uspjehu prosvjetiteljskog optimizma i pozitivističkog shvaćanja znanosti. Nada da će prikupljanje dovoljne količine informacija biti dostatna da bi se promijenio svijet nije dovela do obećane emancipacije, već do straha i nihilizma kozmičkog horora. Naslov knjige Bridle tako upravo duguje komentaru H. P. Lovecrafta da će nam "jednoga dana slaganje nepovezanog znanja otvoriti tako strašne vidike na stvarnost, i na naš užasan položaj u njoj, da ćemo ili poludjeti od tog otkrivenja ili pobjeći od smrtonosna svjetla u mir i sigurnost novoga mračnog doba".

Bridle u konačnici ne nudi način izlaska iz novog mračnog doba; njegova je želja da situaciju prihvatimo kao fundamentalno nesigurnu i nespoznatljivu, da se usredotočimo na probleme koji već postoje i djelujemo tu i sada. Drugo nam uostalom i ne preostaje, budući da smo ograničeni materijalnim granicama ekološke katastrofe. Bridle ukazuje i na potencijalna nova područja imaginacije i kreativnosti koja proizlazi iz suradnje čovjeka i tehnologije, npr. napredni šah Garyja Kasparova ili pak olakšavanje samog procesa pisanja. Međutim, istovremeno olako odbacuje ono što naziva tradicionalnim strategijama ljevice i zalaže se za hermeneutički stav što vjerojatno predstavlja najslabiji aspekt knjige koju vrijedi čitati:

"Mreža je samo najnovije, ali svakako najnaprednije introspekcijsko oruđe civilizacijskih razmjera koje je ljudska vrsta do sada imala. Baviti se mrežom znači baviti se borgesovskom beskrajnom knjižnicom i svim inherentnim kontradikcijama koje sadrži – knjižnicom koja ne želi konvergentnost i neprestano odbija koherentnost. Naše kategorije, tablice i ovlasti nisu više samo nedovoljne; one su doslovno nekoherentne."

Mreža je svakako fascinantna, posebno zato što na nove načine zrcali naše "kolektivno nesvjesno", automatski izgrađuje pojmove i kategorije potpuno različite od ljudskih, otvara nevjerojatne mogućnosti čak i za humanističke znanosti, ali zadovoljavanje interpretacijom nije ništa novo, ništa drugo doli klasične transcendentalne kritike. To je točno pad u nedjelovanje koje Bridle želi izbjeći. Nada da će hermeneutička analiza polučiti rješenje za materijalne političke probleme nije dostatan temelj za djelovanje tu i sada, što sažima i pomalo klišejizirana Marxova teza o Feuerbachu: "Filozofi su svijet samo različito interpretirali, radi se o tome da ga se izmijeni." 

Objavio/la ivana [at] kulturpunkt.hr 27.07.2020

VEZANE VIJESTI

Digitalna kontrarevolucija i moralna ljevica

Piše: Matko Vlahović
Političko djelovanje zamijenjuju sukobi oko identiteta, kulturnih označitelja i proizvoda. Kako bi izašla iz diskurzivne paralize, ljevica mora kritički pristupiti sferi kulturnih ratova.

Nevidljivo roblje automatizacije

Piše: Jelena Uher

Ovogodišnji festival Moje, tvoje, naše stavio je naglasak na ljude koji stoje skriveni iza rada strojeva, doslovno i metaforički, i bez kojih strojevi ne mogu – raditi.

Što ne valja s velikim podacima?

Piše: James Bridle

Ususret predavanju koje će održati u sklopu Human Rights Film Festivala, objavljujemo tekst umjetnika i publicista Jamesa Bridlea o stranputicama "velikih podataka".