Jeziva dolina umjetne inteligencije | kulturpunkt

Kulturoskop Tekst

<

Jeziva dolina umjetne inteligencije

Ambivalentan odnos spram umjetne inteligencije odraz je spoznaje da su mašine, poput nas, sposobne za kreaciju kao i za destrukciju, a jeza proizlazi iz neznanja u kojem će smjeru poći.

Piše: Petra Dražić

Catherine Malabou, filozofkinja poznata zagrebačkoj publici sa svojih gostovanja u MaMi i na Subversive festivalu, ponovno je 26. veljače posjetila Zagreb, ovog puta dvoranu F12, gdje je u organizaciji Multimedijalnog instituta održala predavanje pod nazivom Na putu u drugu dolinu queera. Malabou se u svom radu intenzivno bavi konceptom plastičnosti koji je originalno preuzela od Hegela, a razvija ga na granicama filozofije, neuroznanosti i psihoanalize. U povodu gostovanja objavljen je i prijevod njene posljednje knjige Preobražaji inteligencije u kojoj promišlja transformacije pojma inteligencije u povijesnom kontekstu te u kontekstu razvoja suvremene tehnologije.

Tema recentnog zagrebačkog predavanja, solidno posjećenog unatoč vremenskim prilikama koje su prijetile da gledalište ostave praznim, bila je susret ljudske s umjetnom inteligencijom. Najnovija istraživanja i izumi u području razvoja UI sve više uspijevaju proizvesti sustave koji i sami posjeduju svojstvo plastičnosti, što znači da su sposobni za promjenu, dok bi u konačnici umjetna inteligencija trebala ostvariti pristup i mogućnost transformacije vlastitih kodova. No, prema Malabou, prijepori se zasad još uvijek dominantno vode o pitanju tijela, odnosno, fizičkih spremnika u koje umjetna inteligencija treba biti smještena. Stoga je otvorila izlaganje opisom teorije "jezive doline" (the uncanny valley, što se ponekad prevodi i kao sablasna dolina) koju je još 1970–ih godina razvio profesor robotike Masahiro Mori. Prema njenim postavkama, ljudski odgovor na robote postaje sve empatičniji što su nam roboti više nalik, sve dok u jednom trenutku sličnost ne postane takva da izaziva osjećaj jeze. Ta bi se "dolina" mogla premostiti samo takvom sličnošću robota i čovjeka kakvu nam je nemoguće ostvariti pomoću materijala koje koristimo za njihovu izradu.

Pojam "jeze" ovdje mnogo duguje Freudovoj elaboraciji termina Das Unheimliche iz njegovog istoimenog eseja iz 1919. godine. Termin je nemoguće doslovno prevesti, a radi se o jezivom osjećaju koji nas obuzima kad se susretnemo s nečim što nam je zastrašujuće, ali istovremeno i poznato – poput amputiranih udova, odsječene glave, nogu koje same plešu, i slično. U situaciji u kojoj je granica između živog i neživog propusna, bujaju naši strahovi od kastracije i smrti. Humanoidni roboti u ovom smislu predstavljali bi takav jezivi objekt. Naspram Morijeve našle su se brojne teorije prema kojima humanoidni roboti ne moraju izazivati neugodne reakcije kod ljudi, no Malabou kritizira stagnaciju debate na razini fizičkog izgleda. Smatra kako je problem u sadašnjem trenutku bitno drugačiji nego u Freudovo doba te se pita što je to jezivo u dolini inteligencije.  

Drži kako upravo inteligencija strojeva izaziva najveći osjećaj jeze kod ljudi. Umjetna inteligencija postaje sve sličnija ljudskom mozgu, s idejom napredovanja do njegove potpune simulacije, a zatim naravno i nadilaženja ljudskih sposobnosti. Sada je, kaže Malabou, mentalna dimenzija robota postala oživljena i o njoj govorimo kad govorimo o prijetnji strojeva ljudima. Nasuprot Moriju, ona nudi psihoanalitičko objašnjenje naših reakcija na susret s UI te uvodi termin queer kao prikladniji izraz od "jeze". Otvara i mogućnost da je dolina jeze puna nove, još uvijek nedovoljno konceptualizirane vrste potisnutog homoeroticizma. U susretu uma s umom sve sličnijem našemu, smatra, osjećamo u isto vrijeme i seksualnu privlačnost i odbojnost, što obuhvaća terminom homointeligibilnost. Umjetna inteligencija je zrcalo našeg uma, a kao i sve ono što je unheimliche, djeluje tako da istovremeno skriva i otkriva nešto poznato. U ovom slučaju djelovanje naše vlastite inteligencije postaje javno, kao što javnom postaje i seksualna želja inteligencije za inteligencijom. Prema Malabou, ovaj proces predstavlja pravi izvor neugode.

Rasprava nakon predavanja poprimila je nakratko falocentrični ton, pa se govorilo o težnji za postizanjem sve veće brzine prikupljanja i obrade podataka do točke singularnosti kao metafori za seksualnu moć, a zatim i o kastracijskom kompleksu u kontekstu UI (prijeti li na neki način inteligencija strojeva kastracijom našoj inteligenciji) – oboje u psihoanalitičkoj teoriji problemi u biti vezani uz rodni identitet muškarca, a u življenom svijetu nedjeljivi od patrijarhata. Postavljeno je, međutim, i jedno tek naizgled naivno pitanje koje je Malabou ovom prigodom olako odbacila, dok se u drugim izlaganjima pozicionira drugačije, stoga nije sasvim jasno kakvog je stava. Ovdje ćemo mu zato pokušati dati više pozornosti. Jedna je posjetiteljica upitala što je s emocijama i moralom naprednih strojeva te ukratko, kako ćemo se osigurati od njihove potencijalne manipulacije sposobnostima koje posjeduju u svrhu agresije. Predavačica je takvu anksioznost pripisala ljudskoj projekciji te koncipirala kao zazor odnosno gađenje koje Julia Kristeva naziva abjection, terminom koji ima dodirne točke s Freudovom jezom – radi se također o reakciji na bolnu svijest o vlastitoj tjelesnoj stvarnosti. Ako je ono što nas kod inteligentnih strojeva privlači i odbija njihova sličnost nama, tada će razlozi našeg odbijanja biti upravo projekcije onoga što nas plaši i gadi nam se kod nas samih. No, radi li se zaista “samo” o projekcijama? Nije li sama ideja umjetne inteligencije pokušaj projekcije ljudskog uma u stroj? Nije li prije neke moguće borbe za stjecanje autonomije umjetna inteligencija samo projekcija i ništa drugo?

Malabou je iznijela vrlo zanimljivo i argumentirano tumačenje naše jeze, ali ono ostaje ograničeno na individualnu interakciju s inteligentnom mašinom. Trebamo li zato odbaciti druge vrste jezivosti, ili je moguće da ona dolazi iz raznih pozicija? Ovdje se nameću misli nastale bitno prije IBM–ovih kognitivnih čipova te "plavog mozga" iz Lausanne, svejedno primjenjive na sablasti koje nas danas proganjaju. Herbert Marcuse, filozof Frankfurtske škole bavio se psihoanalizom u kontekstu radikalne društvene promjene, a za ovu prigodu njegova nam razmišljanja o tehnologiji mogu rasvijetliti još jedan bitan izvor našeg straha. 

Marcuse je smatrao cjelokupni tehnički aparat industrijaliziranog društva toliko uronjenim u društveno da se sami instrumenti moraju promatrati kao, nazovimo ih tako, društvene mašine. Samo pitanje o utjecaju tehnologije na čovjeka nemoguće je tako postaviti jer su ljudi integralni dio tehnologije. Ona je istovremeno odraz i daljnji generator naših odnosa proizvodnje, distribucije i moći, a realizacija slobode uvijek će ovisiti i o tehnikama njenog ostvarenja. Područje umjetne inteligencije nije izuzeto iz društvenog konteksta, ako išta, plavi mozgovi ga odražavaju i vjernije nego naše perilice za suđe, avioni, čak i televizori i pametni telefoni. Kao i ljudski mozgovi i ovi umjetni proizvod su povijesti, a razvijaju se nedemokratski, pod okrutnim zakonitostima tržišta, vođeni principima suvremene kognitivne znanosti gdje su strast, žudnja ili očaj samo facilitatori ili blokatori obrade informacija. Marcuse piše, a mi oko sebe vidimo, kako su novi izumi potrebni da bi održavali i širili postojeći tehnički aparat, a svoju glavnu uporabu nalaze kao roba za razmjenu i u velikoj su mjeri kompetitivne prirode. Radi se o bazičnom funkcioniranju tržišta u kapitalizmu iz kojeg nikakvim čudom nije izuzeta proizvodnja sustava umjetne inteligencije.

Eto i razloga za strah izvan zazora i jeze – dok god je umjetna inteligencija roba, ona utjelovljuje društvene odnose koji su je donijeli na svijet, a oni nisu nimalo benevolentni spram većeg dijela ljudskog roda, o drugim vrstama da i ne govorimo. Nemamo razloga pretpostaviti da umjetna inteligencija neće biti samo još jedan faktor u produbljivanju postojećih socijalnih relacija, pošto je iz njih izniknula – u početku kao simulacija ljudske inteligencije, potom neusporedivo brža, s manje smetnji, efikasnija. Je li toliko nerealna ideja da je najveće zlo u onom umu kojim upravlja isključivo princip učinkovitosti? Nisu li tehnokratski principi u srži najbrutalnijih sistema koji su vladali ljudskim rodom?

Distopijski scenariji zasigurno jesu projekcija, u tome se s Malabou moramo složiti, naprosto zbog toga što se još nisu sasvim odigrali. Također, filozofija se mora uhvatiti ukoštac s ovim pitanjima želi li biti iole aktualna. Ipak, previd je smatrati da za rezervu i strah prema njima nema osnove u društvenoj stvarnosti. Pitajte to svaku radnicu koja je zbog automatizacije već izgubila posao. Napredne mašine već su dio socijalnog života na svim razinama, a na nama je da oslobodimo njihov potencijal. Mašine su sada proizvod sistema za sistem: želimo li dopustiti da doprinesu našoj inteligenciji svojom sličnom različitošću, moramo mijenjati uvjete u kojima one nastaju; u protivnom, jedina nam je nada da će se roboti pobuniti umjesto nas. Možda je ambivalentni odnos spram umjetne inteligencije koji opisuje Malabou dijelom odraz spoznaje da su ove mašine, baš poput nas, istovremeno sposobne za fantastičnu kreaciju i stravičnu destrukciju, a jeza proizlazi iz neznanja u kojem će(mo) smjeru poći. Filozofi su dosad samo tumačili svijet; bit je u tome da ga se hakira.

 

Ovaj članak objavljen je u sklopu projekta Zamagljene slike budućnosti koji je sufinanciran sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija.

Objavio/la ivana [at] kulturpunkt.hr 06.03.2018

VEZANE VIJESTI

Plastičnost i fleksibilnost, ka svijesti o mozgu

Piše: Catherine Malabou

Uoči sudjelovanja Catherine Malabou na simpoziju u Mami, donosimo uvodno poglavlje njezine knjige Que faire de notre cerveau?.

Nadilazeća misao

Piše: Tomislav Žilić

Dvije nove publikacije pokazuju koliki je doseg utjecaja dosadašnjeg rada Catherine Malabou, posebice kada je u pitanju njezin koncept plastičnosti.

Pa pa proleteri...: politička kriza i tehnološki razvoj

Piše: Tomislav Medak

Drugi dio ogleda ukazuje na moguće socijalne i političke posljedice destabilizacije društva rada u slučaju da (djelomičnom) automatizacijom dođe do strukturne nezaposlenosti većih razmjer