S politiko in vojskovanjem se moram ukvarjati zato, da se bodo lahko moji sinovi posvečali matematiki in filozofiji. Moji sinovi pa se bodo morali učiti matematike in filozofije, da se bodo lahko njihovi sinovi posvečali slikanju in pesništvu, glasbi in kiparstvu. Tako je John Adams, eden od ameriških ustanovnih očetov, v pismu ženi Abigail leta 1780 upravičeval svoje zanemarjanje umetnosti. Adamsu se na premcu razsvetljenstva ni sanjalo, kaj čaka za vogalom. Da bodo po stoletju brezsramne kolonizacije, zasužnjevanja in izčrpavanja, ki je sledilo ameriški revoluciji, vojne postale še hujše in da bodo naposled zajele ves svet. Da bosta filozofiranje in intelektualnost tudi med elito postala samo še zmerljivka. In da bo matematika ustvarjanje umetnin, v katerem naj bi uživali njegovi vnuki, napravila brezpredmetno.
Zamisel, da bomo s tehnološkim napredkom opravili z delom, seže vsaj do Aristotela, ki v Politiki razmišlja, da »ko bi namreč moglo vsako orodje bodisi na ukaz ali pa po vnaprejšnjem predvidevanju opravljati svoje delo, kakor pravijo za Dajdalove kipe […], ko bi tkalski čolnički sami tkali in bi trzalice udarjale na kitaro, potem bi stavbarji ne potrebovali pomočnikov in gospodarji ne sužnjev«. Napovedi tehnoloških zanesenjakov so bile še do nedavnega v glavnem optimistične, češ da bomo opravili predvsem s težaškim in rutinskim delom. Isaac Asimov je predvideval, da bodo že leta 2019 roboti prevzeli vso našo tlako, medtem ko se bo družba utopično urejala sama od sebe. John Maynard Keynes je napovedal zgolj petnajsturni delavnik. Ljudem naj bi ostala obilica prostega časa za uživanje finih reči in lepot življenja, za klekljanje, potovanja in poezijo, za znanost in filozofijo in za vse ostale umetnosti, ki jih je Cicero kot artes liberales nekoč imenoval vredne svobodnega človeka.
A nedavni preskok v razvoju umetne inteligence je scenarij obrnil na glavo. Tisto, kar bo umetna inteligenca najprej nadomestila, so prav duhovne, ustvarjalne, svobodne umetnosti. Nam bodo ostala mehanična, rutinska fizična dela, ki jih roboti – zaenkrat – ne obvladajo. Ker vse bolj delamo tisto, kar smo doslej mislili, da bodo delali avtomatoni, se nenadoma upravičeno sprašujemo: kdo je tu pravzaprav avtomaton in kdo misli?
Rastne bolečine
Skoraj kot da bi si lajšali vest zaradi pošasti, ki so jo spustili v svet, nas nekateri računalničarji mirijo, da ni razloga za skrbi. Orodja, kot je ChatGPT, naj bi bila omejeni jezikovni modeli, ki iz zbirk besedil, razgrajenih na koščke, delajo le nove kombinacije. Zato je strah, da bi nas kmalu kot v Matrici (1999) vtaknili v komore in začeli molsti za gorivo, odveč, celo nevreden razmišljujočega. Konec koncev ChatGPT še preklinjati ne more, kako neki bi potem mogel zavladati svetu? A medtem ko nas ti tehnološki mirovniki kljub vseprisotnemu rožljanju orožja skušajo pomiriti, se je med njimi vendarle našlo nekaj antijunakov, recimo Elon Musk, ki javno pozivajo k ustavitvi razvoja umetne inteligence – hkrati pa vanj investirajo vse, da jih ne bi drugi prehiteli. Kot po navadi velika večina s plašnicami na očeh o posledicah tega razvoja sploh ne razmišlja oziroma, natančneje, je nanje ob preobilici informacij in interpretacij postala neobčutljiva.
Tolažijo nas tudi ekonomisti, češ da bodo, tako kot se je menda zgodilo še z vsako tehnološko pridobitvijo, nekatera delovna mesta res izginila, da pa bo umetna inteligenca, ki bo kmalu vredna »petnajstih trilijonov« (kar koli že ta številka pomeni), porajala kup novih. Ko Svetovni ekonomski forum objavi članek, ki nam izrecno pove: »Ne bojte se umetne inteligence. Ustvarila bo nova delovna mesta,« nas mora najbrž vendarle začeti skrbeti. Davoški modreci ugotavljajo, da bo do konca desetletja dobrih štirideset odstotkov nizkokvalificiranih delavcev zamenjala umetna inteligenca, medtem ko v drugih napovedih berem, da ta bridka usoda čaka ravno beloovratniške in visokokvalificirane, vključno s pravniki, zdravniki in finančniki. Morda je to tista panaceja, ki bo naposled odpravila slovenske čakalne vrste?
V Ameriki bo po gobe šlo vsaj štirideset milijonov služb, štirinajst odstotkov delavcev je že bilo izpodrinjenih. Slaba polovica podjetij poroča, da so delavce z umetno inteligenco že zamenjali, dobra polovica pa, da jih zagotovo še bodo. Britanski telekom, denimo, jih bo v naslednjih letih z umetno inteligenco zamenjal deset tisoč. Medtem ko se davoščani trudijo ustaviti konje, IMF razglaša, da bo porast umetne inteligence povečal družbene neenakosti. A konec koncev so vse to le »rastne bolečine«, kot je to imenoval John Maynard Keynes v začetku prejšnjega stoletja.
Da bi jih omehčali, bi se morala v naslednjih letih prekvalificirati kar polovica delavcev. V kaj točno, no, odgovor na to je malce skrivnosten, če ne že kar ciničen. Med desetimi novimi vrstami delovnih mest, ki jim spričo umetne inteligence napovedujejo največjo rast, so »strokovnjak za internet reči«, »strokovnjak za digitalno transformacijo« ali »strokovnjak za avtomatizacijo procesov«. Skratka, praktično vsa so neposredno povezana z implementacijo umetne inteligence v vse pore in delovišča sveta. V kaj se bomo morali prekvalificirati, ko bo proces digitalne transformacije končan?
Musk pravi, da bomo prej ali slej prišli do točke, ko več ne bo potrebna nobena služba. Modreci voditeljem svetujejo, da bo pri delavcih medtem treba gojiti predvsem »ustvarjalnost, vodstvene sposobnosti in čustveno inteligenco«. Kot da bi nalašč spregledali, da je ravno ustvarjalnost tista, ki jo je umetna inteligenca začela najprej načenjati; kot da bo kdo kupil, da bomo v svetu, ki ga bodo upravljali algoritmi, vsi samo še »voditelji«, in kot da je pri življenju v robotskem svetu sploh še potrebna čustvena inteligenca! A vendar – ne bojte se, zakaj »stvarnost je taka, da bo pozitivni družbeni učinek umetne inteligence najverjetneje odtehtal posledice.« Poudarek moj. Sardonična intonacija tudi.
Ves ta optimizem sloni na samozavestni domnevi, da tehnološki napredek zmeraj prinese nove službe, kot da bi šlo za dokazano naravno zakonitost, malodane fizikalno nujnost. Sloni pa tudi na predpostavki, da gre pri pojavu umetne inteligence zgolj za inkrementalni, postopni napredek, primerljiv s preteklimi izumi. A kaj ko gre za nekaj kategorično povsem drugačnega, za nekaj, kar kane spremeniti pravila igre?
Ne glejte gor
Medtem ko v avtokracijah nova tehnologija že služili utrjevanju obstoječe vladavine, se politiki v liberalnih demokracijah kot ponavadi odzivajo ležerno. Politični razred, ki mu izziv predstavlja že tvorba slovnično pravilnih povedi, najbrž težko zapopade, kaj neki je jezikovni model. Strašljiva prihodnost je vendarle še vedno v prihodnosti, v sedanjosti pa so tu rejtingi, volitve, gospodarske krize in vojne. Taisti razred nima dovolj razsodnosti niti za to, da bi se zavedal, kako s to svojo brezumnostjo in grabežljivostjo umetni inteligenci le utirajo pot, da bo zamenjala še njih.
Scenarij me spominja na film Ne glej gor (2021), v katerem Leonardo DiCaprio zaman prepričuje svet, da se Zemlji približuje komet: nihče ga ne vzame ali noče vzeti resno, tisti, ki ga, pa priložnost izkoristijo za svoje okoriščenje. S to razliko, da je naš komet že tu, da ga vidimo na nebu in da se tolažba že zdaj zdi kot metanje peska v oči. Dokazov, da umetna inteligenca že prevzema svet, je namreč več kot dovolj.
Ekonomske vidike smo preleteli. Poglejmo, kaj se godi v politiki. Na najpreprostejši ravni umetna inteligenca olajša cenzuro, saj hitreje prepoznava in utiša kritične glasove, recimo na Kitajskem vprašanja o dogodkih na Trgu nebeškega miru ali v Indiji o Modiju. Učinkovito in poceni je širjenje besedilne propagande. Ruska operacija Doppelgänger proizvaja stotine objav na dan, ki nasprotujejo kritikom Putina in ruske operacije v Ukrajini. Izraelsko podjetje Team Jorge naj bi dezinformacijske kampanje pripravljalo za stranke od Mehike do Angole. Na tviterjih ali blogih, ki jih navrže povprečna poizvedba na Googlu, je skoraj nemogoče razločiti resnične zapise od algoritemskih. Število strani, ki širijo dezinformacije, se je v nekaj mesecih postoterilo, pri čemer dezinformatorji vestno upoštevajo, da je lažna novica še prepričljivejša, če jo daš v sendvič resničnih. Strokovnjaki nam sicer dajejo nasvete, kako lažnost prepoznati na osnovi nenavadnih slovničnih zgradb, a vsem je jasno, da bodo kmalu zabrisane tudi te. Še ko sem pred nekaj leti končeval študij, je bil Turingov test alfa in omega strojne inteligence. Danes je za jezikovne modele mala malica.
Še resnejši učinek imajo orodja, ki lahko umetno generirajo vizualne podobe, t. i. deepfakei. Začne se s papežem Frančiškom v bundi. Nadaljuje se z Venezuelci, ki provladno propagando širijo s posnetki izmišljenih tujih novinarjev, ki hvalijo njihovo državo. V Ameriki je Joeja Bidna nekdo »ujel« med rafalom transfobičnih izjav. Trumpa nasprotniki upodabljajo v objemu z neslavnim Anthonyjem Faucijem, ki je skrbel za med republikanci neljub odziv na koronakrizo. Podporniki po drugi strani razpečujejo fotografije Trumpa v družbi neobstoječih temnopoltih prebivalcev, da bi okrepili podporo v tej demografski skupini. V Nigeriji so enega od lanskih predsedniških kandidatov na podoben način obdolžili volilne prevare.
Vseprisotnost lažnive propagande pa prinaša tudi »lažnivčeve dividende«: obilje neresničnih informacij poglobi dvom o resničnih. Še več: odgovorneže absolvirajo odgovornosti, kajti kadar jih zdaj ujamemo v kočljivem položaju, recimo ko klevetajo politične kolege, lahko vreščijo, da gre za fejk njus.
Za posledicami umetne inteligence ne trpijo samo veljaki, ampak tudi navadnejši smrtniki. O nadobudnih lepoticah in strokovnjakih za bitcoine, katerih prošnje za prijateljstvo dežujejo po naših facebookih, ni treba izgubljati besed. Lažne in ponarejene identitete rastejo kot gobe po dežju. Neko hongkonško banko je eden od zaposlenih prikrajšal za petindvajset milijonov, potem ko so mu v video konferenci ponarejeni nadrejeni naročili, naj jih prenese na tatinski račun. Od mrtvih je vstal George Carlin, s srhljivo natančno poustvarjenim glasom in humorjem. »Moj oče je celo življenje delal na svoji obrti, izhajajoč iz svojega življenja, možganov in domišljije. Noben stroj ne more zamenjati njegove genialnosti,« se je odzvala njegova hči Kelly Carlin. »Ti izdelki, generirani z umetno inteligenco, so le prekanjeni načini, kako ponoviti duha, ki ga nikoli več ne bo.« A vendar jim ga je na neki način uspelo ponoviti. Krožijo že ideje, kako bi mogli v modele uvoziti vse možne zapise, fotografije in posnetke neke osebe in jo na ta način obuditi v virtualno večnost, da bi lahko z neko obliko nje ostali na vekomaj.
Neznani prevaranti – težko je določiti, kdo te reči počne – so neki slovenski vplivnici napravili vzporedne profile, po katerih zdaj množično, neustavljivo prodaja zdravila za hujšanje. Predstavljamo si lahko situacijo, ko bi z lažnimi profili in množičnimi objavami resnično osebo na spletu tako rekoč izpodrinili. Še hujši so seksualni deepfaki, ki obraze resničnih ljudi prilepijo v pornografske posnetke. Nazadnje so tako zagodli Taylor Swift. V Grčiji se medtem spopadajo s pravo epidemijo umetno generiranih pornografskih posnetkov mladoletnikov (!). Ideje za zlorabe se množijo hitreje, kot jih uspemo beležiti, kaj šele da bi se z njimi uspeli spopadati.
Brez izraza
A ne skrbite: V algoritme bomo vgradili varovalke, deepfake kazensko preganjali, rutinska dela, ki jih bo lahko nadomestila umetna inteligenca, pa so tako ali tako nevredna svobodnega človeka. Predpostavimo, da je vse to res. Toda kaj bomo v prostočasju nove blaginje še počeli? Asimov in Adams sta obljubljala umetnost.
A glej ga zlomka, umetna inteligenca že pesni, slika in filozofira! Tako prepričljivo pravzaprav, da se že sprašujemo, ali nam je umetnikov sploh še treba. Ustvarjalnost, ta naša vrlina, je bila zadušena, še preden smo se dokopali do prostega časa, ki bi ga zanjo potrebovali. Ameriške literarne revije preplavljajo cunamiji umetno generiranih kratkih zgodb, da jih uredniki ne morejo več razločiti od pravih. Nekatere revije so zato nehale sprejemati nove prispevke. Cehovski forumi grafičnih oblikovalcev in ilustratorjev so prava brezna obupa: z nekaj preprostimi ukazi je mogoče z orodji, kot je Midjourney, napraviti grafične izdelke v slehernem slogu, ki si ga moremo zamisliti, na točno želeno temo, ne da bi morali na kogar koli čakati, in to za ceno skromne mesečne naročnine. Nemški fotograf Boris Eldagsen je lani zavrnil prvo nagrado, potem ko so mu jo na Sonyjevem fotografskem natečaju dodelili za umetno generirano fotografijo. Celo Amnesty International so zasačili, da je za vzbujanje sočutja ob svojih kampanjah uporabljal umetne fotografije – kot da nam fotografij resničnih grozodejstev primanjkuje …
Tudi časopisne hiše strumno nižajo stroške dela in vse več zapisov predajajo algoritmom. Mnenja kolumnistov so že tako ali tako mozaiki moralizmov in floskul. Provokativni naslov, ravno dovolj izzivalna, sicer pa trotlziheraška analiza, nekaj duhovitih citatov, jedrnat, nezahteven slog, to so vsi parametri, ki jih potrebujemo, da kreiramo infotainerja prihodnosti.
A lovke umetna inteligenca razpreda tudi tam, kjer naj bi domovalo kritično mišljenje in resno raziskovalno delo, v akademskih logih. Nedavno so v očitno nepregledanem napisu neke slike v znanstvenem članku odkrili opozorilo, da gre za delo jezikovnega modela. Elsevier, razvpiti multimilijonarski založnik akademskega čtiva, se je s tem hitro sprijaznil in zdaj dovoljuje, da z umetno inteligenco »pilimo jezik«. Mnogi to pozdravljajo, češ da bodo tako znanstveniki – o, ti nepismeni filistri! – lahko jasneje predajali svoje ugotovitve. Tudi eden naših osrednjih znanstvenih komunikatorjev je zadnje prispevke pripravil s ChatGPT-jem. In moram priznati, da razlike ne opazim.
Z istimi izzivi se sooča glasbena industrija, ki je bila že pred umetno inteligenco podvržena strogim ameriškim formulam. Toge strukture, predvidljiva besedila in elektronske pa tudi analogne zvoke algoritmi brez večjih težav prekonfigurirajo in »zložijo« nove. Človek ne bo več potreben niti za izvedbo. Nekateri blockbusterji že uporabljajo virtualne inštrumente, ki jih, namesto da bi jih zaigrali, programirajo, zdaj jim pa še programirati ne bo več treba. Časi, ko so živi orkestri izvajali filmske simfonije Johna Williamsa, so mimo. Še fizični inštrumenti se bodo osvobodili človeka: Yamahin model koncertnega klavirja Disklavier lahko Chopina z vso človeško pretanjenostjo odigra sam, prav tako, kot si je Aristotel zamišljal, da bodo trzalice po strunah trzale same od sebe. In če bi se izdelek na koncu slučajno zdel preveč nenaraven, lahko dokupimo algoritem, ki muziko »naturalizira«. Tako je mogoče, da leta 2024 Beatlesi izdajo novo pesem, ki jo je s pomočjo Lennonovega demo posnetka dokončala umetna inteligenca.
Zgodbe, ki jih pišejo jezikovni modeli, problemi, ki se razmislijo s statistiko, klavirji, ki igrajo sami in po svoje – vse dobiva samostojnost, edino človek jo izgublja. Pred kratkim mi je sodelavec na raziskovalnem projektu naročil, naj besedilo, ki sem ga pripravljal za sporočilo za javnost, na koncu dam v preverjanje jezikovnemu modelu. Posredno mi je s tem sporočil, da v moje jezikovne sposobnosti ne zaupa dovolj, da méni, da umetna inteligenca poseduje vednost, ki lahko moji doda nekaj znatnega. Gotovo sem izgubil kakšno točko, ker sem se odločil, da algoritma ne bom uporabil, saj bi mi bilo to žaljivo in pod častjo – poleg tega pa bi pod vprašaj postavilo smisel vsega mojega početja.
Kajti poleg avtonomije človek v tem procesu izgublja še nekaj pomembnejšega: svojo vrednost. S tem ne mislim tržne vrednosti, ki je že tako uborna, pač pa še globljo vrednost sebe kot posameznika, vrednega pozornosti in upoštevanja, vrednost svoje posebnosti in edinstvenosti, ki ju zagotavlja in izraža v vsakem svojem svobodnem dejanju. To razvrednotenje se še najbolj vidi v umetnosti. Kar koli že naj bo umetnost, gotovo je v njenem jedru človekova želja in potreba po tem, da bi nekaj notranjega, kar čuti in o čemer razmišlja, kar se mu zdi dovolj posebno in vredno, da si to želi deliti – da bi to pozunanjil in upredmetil in v medosebnem prostoru za to dobil posluh in potrditev ter tako z drugimi vstopil v skupno polje smisla.
Kako dolgo bo to še mogoče? Kako dolgo si bom to sploh še želel? Nedavno mi je učenka, sicer polna mladostnega ustvarjalnega zagona, vendar še brez veščin in izkušenj, da bi ga udejanjila, pokazala »svojo« avtorsko pesem. Kmalu mi je priznala, da ji je besedilo napisal ChatGPT. Sprva sem ostal brez besed.
Želim biti umetnik, se torej izraziti v umetniškem izdelku in ga pokazati drugim, da bi njega in, posredno s tem, mene priznali – potem pa prav ta bistveni, kritični trenutek stvarjenja, ki naj bi prevajal mojo nezamenljivo notranjost v zunanjost, predam stroju, ki te notranjosti sploh nima?! V trenutku, ko proces izražanja izročim algoritmu, postane moj izraz posredovan skozi nekaj, kar ni moje, kar ni niti človeško, kar o človeku ve le to, kar more iz njegovih dosedanjih izdelkov poenostaviti, reducirati in reproducirati, ne da bi lahko to človeško subjektivnost, ki je v umetnosti bistvena, kadar koli podoživelo. Kakšen pljunek v lastno skledo! Zaenkrat imam vsaj še izbiro, da se tej skušnjavi uprem. Kmalu je ne bom imel več.
Edinstveni ponaredki
Največje grožnje umetne inteligence ne vidim v novih orodjih, s katerimi si bodo politiki podjarmljali družbe in tehnologi grabili bogastvo. Niti v izgubi konkretnih delovnih mest. Razmislilo se bo celo pojmovanje dela. Ne le garaškega in rutinskega – vsakršnega. Najprej nam bo delo odvzeto dobesedno in konkretno. Potem bo razveljavljeno v abstraktnem, kot vrednota, ki je homo faberja skozi zgodovino resda marsikdaj zasužnjevala, a vendar ga je tudi ohranjala pri življenju.
Umetna inteligenca bo načela človekovo samopojmovanje. Ponaredila bo njegovo edinstvenost, ga predvidela v njegovi svobodi in določila v njegovi nedoumljivosti. Naposled mu bo vzela še pravico in možnost za pristnost njegovega neponovljivega lastnega izraza, s katerim je sebi in drugim dokazoval svojo svobodo ter vrednost. Človeka bo oropala njegove človeškosti. Ostal bo stroj, reduciran na mehanične rutine, ki jih bo ponavljal le še zato, ker drugega ne bo znal.
Izumili smo namreč orodje, ki je zmožno vsrkati večje število elementov, kot jih je zmožen umevati kateri koli človeški duh. Te elemente lahko algoritem potem permutira na toliko načinov, da niti tisti, ki so si ga izmislili, ne morejo ugotoviti, po kakšni poti je do njih prišel. Znašli smo se v Babilonski knjižnici, o kakršni je pisal Jorge Luis Borges v istoimenski kratki zgodbi (1998): v njegovem fiktivnem svetu je iz omejene množice znakov nastala sleherna možna kombinacija. To pomeni, da so bile iz teh zaporedij znakov sestavljene tudi vse možne knjige, od popolnoma nesmiselnih besednih solat, dobrih in slabih romanov do znanstvenih monografij, kot tudi do vseh njihovih, tudi napačnih ali zavajajočih različic ter prevodov. V tej knjižnici je na voljo tako rekoč vsaka zamisljiva, upojmljiva misel, vključno z napovedmi vseh morebitnih prihodnosti, popisov vzporednih resničnosti ter z biografijami obstoječih, neobstoječih, še neobstoječih in neobstojljivih osebnosti.
Z vzponom umetne inteligence se znajdemo v podobnem položaju kot Borgesovi knjižničarji. V neskončnem mnoštvu vseh možnih informacij in njihovih nasprotij postanejo te popolnoma nepregledne in zato ničvredne. Kar koli preberejo, nekje obstaja knjiga, ki to ovrže, o čemer koli dvomijo, obstaja knjiga, ki to potrjuje. Vsaka vednost, vsaka izbira, vsaka odločitev v Babilonu postane popolnoma naključna in zamenljiva s sleherno drugo. Knjižničarji se zaman trudijo uničevati lažne in nesmiselne knjige. Preveč jih je, obenem pa nimajo več ključa do resnice, po katerem bi jih lahko presejali. Ostane jim edino malodušje – nekateri se poženejo v brezno.
V stroju umetne inteligence, ki ga je človek izumil, je človeškost izčrpana. Kar koli že napravim, napišem, naslikam, nič od tega nima več edinstvene vrednosti mojega posebnega in zato izvirnega izraza, saj lahko to kadar koli identično ali v kateri koli od neštetih različic poustvari algoritem – oziroma je to že storil. Ves potencial vseh možnih permutacij je v njem že vnaprej zajet. Izvirnost se izkaže za utvaro. Ker pa algoritem ne zahteva privolitve svobodne osebe, preden se začne udejanjati, ker je na voljo na priklic, na ukaz, je ta potencial zmeraj že napol uresničen, realiziran, aktualiziran. »Da knjiga obstaja, je dovolj že, če je možna,« pripomni Borges v neki opombi. Vse, kar je moč ustvariti, tako že je.
Človek v resnici ne more več ustvarjati in se v tem ustvarjanju pristno izražati. Svet vseh svojih možnosti je pozunanjil in izgubil nadzor, da zdaj nad njim bdi kot nekakšen Bog, od katerega si večjega ni moč več zamisliti, saj v sebi vsebuje vse. Umetnost je tako lahko le še jalovo ponarejanje. Komaj napišem Don Kihota svojega časa, ugotovim, da je bil že tisočkrat napisan in tisočkrat prebran. Ker mi je bilo odvzeto zadoščenje sleherne izvirnosti, na katero sem upal v svoji svobodi, in ker me v hrupu tudi sicer nihče več ne sliši, tudi jaz obupam. Ustvarjalni akt se ne more več realizirati, ker je presežnost, ki jo obljublja vzgib edinstvenosti mojega izražanja, vselej predvidena in tako vnaprej presežena. Brez diha ostanem, še preden sem ga zajel. Govorim, vendar ne morem nič več povedati. Zakaj bi potem sploh še poskušal? Obnemim.
Walter Benjamin je v spisu Umetnina v času, ko jo je mogoče tehnično reproducirati (1939) opisoval posledice, ki jih za umetnost prinaša moderna tehnična reprodukcija: ta umetnino iztrga iz konteksta njene tradicije in zgodovine, iz pristne, enkratne materialne bivajočnosti v njenem tukaj in zdaj. Vse to v ponaredku odpade. Umetnina izgubi svojo “avro”, svojo avtoriteto, svojo težo. Ko jo napravi umetna inteligenca, pa nič od tega niti ne nastane. “Umetnine” nastajajo v brezkrajnem brezčasju, same od sebe in same zase, zaradi nikogar drugega, ki bi jih s svojim namenom in sotvarjem napolnil s smislom. Uresničilo se je, kar je napovedoval Paul Valéry: sprememba tehnike umetnosti je spremenila cel njen pojem. Umetnine ničesar več ne izražajo. Ostane jim samo še praktična funkcija v službi praktičnih množic.
To pa ne prinaša posledic samo za umetniško ustvarjalnost. Kajti kaj se zgodi z znanostjo in z vso našo vednostjo? Umetna inteligenca je v zgolj šestih urah »naumila« formule za štirideset tisoč novih kemijskih orožij. Zdravila, ki jih je izumila, so že v prvih fazah testiranja. Pomaga nam odkrivati nove planete. Gromozanske enačbe razreši v milisekundah.
Še hujše bodo posledice za humanistiko. Na tem področju so tipične razprave, v katerih učenjaki previdno primerjajo izjave različnih virov, ki so jih izbrali iz že zdaj neobvladljive literature. Takšno primerjalno delo zahteva leta, celo desetletja izobraževanja in prebiranja, pri čemer se pomembni viri vedno znova izmuznejo smrtnemu pogledu. Že o nečem tako specifičnem, kot je na primer prispodoba babištva v Platonovih dialogih, je na voljo toliko literature, da bi moral zadevo proučevati leta. Še desetkrat toliko je bilo napisanega o temi pričujočega eseja samo v zadnjih letih.
Misel na to neobvladljivo nalogo mi vzame sapo in upanje, da bi o temi na koncu sploh mogel še kaj povedati – in če bi mi za trenutek uspelo, bi v istem trenutku, ko bi to spoznanje upredmetil, ugotovil, da je njegovo mesto v svetu že zasedeno. Umetna inteligenca lahko isto delo opravi v nekaj pičlih sekundah in me ob svoji procesorski nadmoči z lahkoto prekosi tudi v izvirnosti. V senci tega novega razvoja se bo humanistično delo zdelo kot arbitrarna jezikovna igra, ki kot taka človeka ne potrebuje.
V ozadju pa se bo temeljito spremenilo celo pojmovanje humanistične vednosti. Doslej je bila sestavljena iz začasnih interpretacij, razlag različnih ljudi, ki so nastajale v skupnostnem procesu analize in sinteze, brez eksperimentalne preverljivosti ali drugih opor naravoslovne metodologije. Po sami naravi je humanistika izkazovala pečat svoje pristranskosti, ker je bila izdelek človeškega subjekta za človeškega subjekta. »Resnici« smo se lahko skozi to kresanje razlag in mnenj približevali le asimptotično, vendar nam je ta brezkončna pot dajala tudi smisel in zadovoljstvo.
Z umetno inteligenco se čudoviti kontrapunkt izpoje. Človekove kulturnozgodovinske tvorbe, od umetnin, jezikov, filozofije do zgodovine, okostenijo v objektivna dejstva, v »naravne vrste«, kakršne so kemijske formule in fizikalni zakoni. Po novem jih je možno, denimo s pogostnostjo pojavljanja ali korelacijami enot, izmeriti, kvantificirati. Toda medtem ko bitnosti, ki jih meri naravoslovje, obstajajo same na sebi, objektivno in od nas v večji meri neodvisno, so naše duhovne stvaritve le minljivi poskusi človekovega samoustvarjanja in samorazumevanja, ki nima nobenega absolutnega temelja ali konca. So nekaj subjektivnega, relativnega, zgodovinskega.
S tem ko jih algoritem na naključni točki zgodovine razgradi in poenostavi na številske, statistične odnose, ko lahko doume in reproducira njihovo logiko ter tako v neskončnost izčrpa vse njihove variacije, ga dobijo. Človekova kultura in vsa vednost, do katere je mislil, da prihaja, sta svoj vrh našli zunaj njega in ju je neodvisno od njega moč zajeti ter izpeljati do poslednjega sklepa, in to s povsem abstraktno, razčlovečeno matematiko. Subjektivnost se je osvobodila subjekta, védenje vedeža. Heglov duh je prišel do samega sebe.
Poglejmo konkretne posledice: Čemu bi se česar koli učili, ko je pa vsa pretekla in prihodnja vednost pravzaprav že dosežena in, kolikor je potrebujemo, dostopna na priklic? Čemu otrokom razbijamo glave z matematiko, če so najtežji problemi za umetno inteligenco že rešeni? Čemu jih učimo pravopisa, ko jim kmalu pisati ne bo treba, čemu jim vbijamo dejstva v glavo, ki jih je že tako prepolna in po njih ne bo nikoli segla? Namesto geografskega znanja nas po svetu tako ali tako vodi Google Maps, jezike za nas govori DeepL, vrata, rolete in luči upravlja Alexa … Svoje odločitve, svoje preference, svoje počutje, vse svoje duševne procese smo raztegnili in premestili “v svet” do te mere, da je v nas od njih ostala le še neznatna usedlina.
Puščava stvarnega
Radovednost je postala preživitveno nepotrebna in bivanjsko nesmiselna. Nič več mi ni treba vedeti in nič več ne morem vedeti. Lahko le spet zaupam višji sili, v veri, da namesto mene ve nekdo drug – da se lahko prepustim »božji previdnosti« umetne inteligence. »Ne skrbite za svoje življenje, kaj boste jedli ali kaj boste pili, in ne za svoje telo, kaj boste oblekli,« pravi Matej v svojem evangeliju. »Ne skrbite za jutri, kajti jutrišnji dan bo skrbel sam zase.«
Tehnologi za jutrišnji dan skrbijo vedno bolj neposredno. Nove Applove slušalke bodo filtrirale zvoke okolja: tiste, ki naj bi jih bilo treba slišati, recimo zvok bližajočega se kolesa ali avtomobila, bodo prepustile, »nepomembnih« zvokov, hrupa ljudi in »ptic neba«, ki bi motili našo glasbo, pa ne. Tako se bomo lahko sprehajali v miru in varnosti obenem – v blaženi nevednosti. Kako blažena bo šele, ko bodo slušalke v roke dobili cenzorji!
Slušalke pa so zgolj začetek. Isto »humanistično« tehnološko podjetje nam ponuja augmented reality očala, s katerimi pred oči in pred stvarnost postavimo vizualni digitalni vmesnik. Ko bomo zoomali, bodo ljudje v vseh treh dimenzijah stali pred nami – z enim zamahom pa bodo tudi izpuhteli! O, koliko slajše bo zdaj odpraviti neljube sodelavce … Steve Jobs je dejal, da v »Applovi DNK tehnologija ni dovolj – šele tehnologija, poročena s humanistiko, bo dala rezultate, ob katerih bodo naša srca zapela«. Morda tehnologi zato s pametnimi urami poslušajo naša srca, v možgane vstavljajo čipe in dekodirajo naše misli – ali pa da bi videli, ali srca sploh še bijejo, ali možgani sploh še mislijo.
Uresničuje se tista znana bojazen, da bomo postali sredstva svojih sredstev. Tehnološki napredek je, kot pravi Hans Jonas v eseju Towards a Philosophy of Technology (1978), nekoč temeljil na počasnem usklajevanju sredstev s cilji. Izziv je torej bil izdelati in pogosto čisto slučajno izumiti sredstva, le kolikor smo jih potrebovali, da bi kaj dosegli ali si kaj olajšali. Doseči je bilo treba nekakšno ravnovesje med enim in drugim, izumljati po potrebi in meri človeka.
Danes je dinamika povsem drugačna: sredstva, ki jih izumljamo, sama postavljajo nove cilje in se sama s sabo razmnožujejo v neskončnost. Kdo bi si v antiki predstavljal, da bomo nekoč imeli potrebo po tem, da v kavarni dostopamo do interneta? Ali da bomo potrebovali računalnik, da bi glasbo napravil naravno? Ne le to: ljudje, ki smo si te cilje postavljali in zato izumljali sredstva, smo po novem podrejeni ciljem svojih sredstev, na lastne pa pozabljamo. Smoter našega delovanja ni več človek na sebi, temveč je človek sredstvo reči. Človek ni več mera svojega sveta, kot je rekel Protagora, temveč je to tehnologija. Človeka-stroja požira stroj: ideologija tehnološkega sveta, ki je zrastla iz samozavestnega antropocentrizma, je postala kanibalistična. Pri tem pa je, kot piše Walter Benjamin, “človekova samoodtujitev dosegla tisto stopnjo, ki dopušča, da lastno uničenje doživlja kot prvovrsten estetski užitek”.
Res je, da se je človek s podobnimi preoblikovanji družbe že soočal od agrarne do industrijske revolucije. Toda še nikdar niso bila preoblikovanja tako bliskovita in tako neobvladljivo nerazumljiva. Posledice agrarne reforme so se razpršile na tisoče let, industrijske na dobro stoletje. Revolucija umetne inteligence pa našo resničnost, tako zunanjo kot notranjo, preoblikuje v živo.
Prijatelj mi je pripovedoval, kako se je sprehajal ob reki in zagledal tri kamne, naložene drug na drugega. Porajala so se mu vprašanja: Ali je to delo narave ali človeka? Ali gre za naključje fizikalnih zakonitosti, ki same po sebi nimajo nobenega presežnega smisla ali pomena, kolikor ga ne vnašamo ljudje? Ali pa jih je nemara postavilo neko bitje s svojimi mislimi in nameni, ki je že s tem preprostim dejanjem želelo nekaj povedati in je s tem tudi zares povedalo nekaj o sebi? Dokler ne poznam odgovora na izhodiščno vprašanje, je kamniti stolpec v nekem nevzdržnem vmesnem prostoru med pomenljivim in praznim, med smislom in nesmislom, med smotrnostjo in naključnostjo. Človek je rečem zmeraj skušal priti do dna in jim najti mesto v redu sveta, najsi si jih je podredil in si jih posvojil ali pa jih je predal v varstvo božanstev.
V takem nedoločenem vmesnem prostoru se bo kmalu znašla vsa naša stvarnost. Z inteligentno digitalnostjo bo prežeta in v njej hkrati poustvarjena do te mere, da bomo izgubili stik s tistim, kar sploh poustvarja. Borges v enoodstavčni zgodbi O natančnosti v znanosti (1946) piše, kako so v neimenovanem cesarstvu kartografi izdelali zemljevid, ki je bil tako natančen, da je moral biti do stvarnega sveta v razmerju ena proti ena. Ko so videli, da je tak zemljevid pravzaprav neuporaben, so ga pustili, da propade. Ali kot v romanu Sylvie and Bruno, ki je Borgesa navdihnil, zapiše Lewis Carroll: »Zdaj kot zemljevid uporabljajo samo pokrajino in zagotavljam vam, da učinkuje prav tako dobro.«
Pierre Baudrillard v Simulaker in simulacija (1981) to zamisel obrne na glavo: tisto, kar pustimo propasti v »puščavi stvarnega«, je pravzaprav resničnost. Ostane samo še zemljevid, ki ga kartografi ne znajo več razločiti od stvarnosti, ki jo je nekoč mapiral. Še več: zemljevidi, simulakri in simulacije stvarnost začnejo predhajati, dokler je naposled ne izpodrinejo. Znašli smo se v hiperresničnosti, ki je tisto resničnost, ki jo je najprej le podvojevala, zamenjala kot pristnejša. Najhujše pa je, da v njej nimamo mesta.
Knjiga, napisana tam zgoraj
V »puščavi stvarnega« je propadanju prepuščen tudi človek, ki je z digitalno transcendenco začrtal samorastoči maksimum, ki ga ne more več doseči, saj je ta zmeraj korak pred njim. Umetniki te dni bojazljivo oprezajo za novicami o novih preskokih v algoritmični generaciji, ki bi razveljavili njihov poklic. Nazadnje se je pojavila Sora, ki iz slik z lahkoto napravi animirane posnetke. YouTube jih je že poln. Mnogi se nad tarnajočimi umetniki zmrdujejo, češ da jim gre tako ali tako samo za njihove osebne interese, za službe, za hobije, da pa bodo prihajajoče izboljšave kakovosti življenja odtehtale te »rastne bolečine«. A vendar se tudi ti skrivoma bojijo, kdaj se bo na rabljevem spisku znašlo tudi njihovo ime.
Skrbi umetnikov niso le sebične in niso le gmotne. So univerzalne in eksistencialne. Literarna izčrpanost, s kakršno so se soočali postmodernistični pisatelji, ker da je bilo v umetnosti že vse povedano, postaja bivanjska izčrpanost vseh nas. Kar je lahko ustvarjeno, bo že ustvarjeno, kar je lahko mišljeno, bo odmišljeno, kar je lahko storjeno, pa bo storjeno. Za vprašanjem, kaj neki v takem svetu početi in čemu, se skriva še globlje vprašanje, kaj lahko iz sebe sploh še naredim, kar mi bo dalo vrednost in razlog, da živim. S čim naj osmislim svoje životarjenje? H kateremu smotru naj se zavežem, da bom zanj zjutraj vstajal, h kateremu cilju, da bom po njem hrepenel?
Odgovor, na katerega namiguje trenutna miselnost, je preprost: stremimo lahko k sreči, k ugodju, k užitku kot edini preostali meri popolnosti človekovega življenja, ki bo kmalu prav tako poenostavljena na nevrobiološko konstanto. Nič več se ne bo treba izzivati, nič več se presegati in z vprašanji izgubljati v globine; odgovor bo na voljo v plitvini, po njem bo treba le seči. Z bohotenjem tehnologij in politik »industrije sreče« nam bo sistem pri tem vedno radodarneje pomagal. V tem procesu bo umetna inteligenca odigrala ključno vlogo in kmalu bomo jutrišnji dan kot Diderotov Fatalist Jacques in njegov mojster prepustili knjigi, ki je napisana tam zgoraj.
Kam gremo? Ker bo ustvarjalno, duhovno delo razvrednoteno, bo ljudem najprej ostalo samo še fizično garanje, ki ga zaradi finomotoričnih zahtev roboti zaenkrat ne bodo mogli opravljati. Namesto belih ovratnikov pisarniških delavcev si bomo spet nadeli modrino zidarjev, vodovodarjev in frizerjev. Te artes mechanicae bodo človeka telesno izčrpale ali vsaj zamotile, da mu ne bo ostalo ne časa ne volje, da bi se z duhovnim sploh še želel ukvarjati. Za kritično umetnost ali misel, ki lahko spečega predrami, terja pa od njega zdaj razvrednoteno radovednost, izobrazbo in družbeni angažma, se v obilici pornografske zabave in varnosti domače, apolitične intime skoraj gotovo ne bo odločal.
Pod krinko tehnokracije, ki se bo izkazala za učinkovitejšo obliko vladavine, se bo meja med korporacijami in političnimi strankami polagoma zabrisala. “Tisti maloštevilni srečneži, ki bodo vpleteni v kakršno koli ustvarjalno delo, bodo resnična elita človeštva, zakaj samo oni bodo lahko počeli kaj več kot služili stroju,” je v dobri veri zapisal Asimov. Ta elita, ki si bo lastila “ustvarjalne” tehnologije prihodnosti, se bo kopala v vse večjih kupih denarja in kopičila družbeno moč, da bo naposled, tako kot v filmu Ne glej gor, odrejala politične odločitve. Pri tem se bo vedno manj ozirala na ljudi. Algoritmi se bodo namreč znova in znova izkazali kot zanesljivejši; podjetja, ki menedžerske kadre zamenjujejo z umetno inteligenco, že danes ugotavljajo, da se izboljšujeta tako zadovoljstvo kot produktivnost zaposlenih.
A obenem to pomeni, da bo ta ista elita – tako kot Platonov tiran – izgubljala stik z vsem človeškim in človečnim, kar bi se ji lahko zoperstavljajo, jo izzivalo in zahtevalo priznanje. Poznala bo le še priklic in ukaz. Naposled se bo kot kak deistični prvi gibalec iz sveta povsem izvzela in ga z varne razdalje samo še motrila, kako se ravna po totalitarni logiki »njenih« algoritmov, dokler ne bo tudi ona vnebovzeta v večnost ničel in enk, v katerih manifestacijah jo bodo ljudstva prihodnosti iskala kot novega boga.
Kaj naj storim?
Edini način, da se zoperstavim temu distopičnemu toku, se mi zdi vztrajati v vsem tistem, kar me dela človeškega, v tistem prostoru, v katerem mi umetna inteligenca okrog vratu začenja ovijati roke: v prostoru svoje lastne, četudi subjektivne, zato pa neodtujljive svobode, ki jo morem in moram izražati z vsakim živim dejanjem. Samo izhajajoč iz odprtosti svoje notranjosti še lahko odkrivam svoj smisel in svojo vrednost.
Toda kako naj o tem prepričam druge? Če mi ne bo uspelo, jih kmalu ne bom več mogel dohajati. Moje stvaritve ne bodo mogle tekmovati z nepojmljivo ustvarjalnostjo umetnih permutacij. Najprej jim bo strmoglavila tržna vrednost. Zatem jih bo zapustilo poslednje občinstvo, ki bo zrna nevede zamenjalo s plevami. Moje misli se bodo sproti izkazovale kot že povedani ponaredki, zato ne bo nobenega razloga, da bi jih kdo mislil z menoj in zame, da bi jih izrekel. Ali ne bi mogla tudi tega teksta z nekaj navodili (bolje) napisati tudi umetna inteligenca? ChatGPT, mi lahko predlagaš zanimiv očrt za esej o nevarnostih umetne inteligence? ChatGPT, ali je Steve Jobs kaj rekel o povezavi humanistike s tehnologijo? Medtem ko ste me brali, je na internetu vzniknil ducat prav takšnih zapisov, bržkone s prav istimi miselnimi potmi, nekateri v celoti generirani z umetno inteligenco, nekateri izpod peres nas, poslednjih don kihotov.
Če se ne bom podredil temu novemu načinu življenja, bom tudi jaz postal kot Cervantesov romantični junak in vse moje življenje le fosil, ki si ga bodo drugi ogledovali, kot si ga nekateri ogledujejo že zdaj: kakor da je v muzeju, zunaj koraka s časom. Hkrati me bodo ovijale tisočere tančice laži in hiperresničnih neresničnosti, ki jih bodo tkali vsi tisti, ki bodo nova pravila hote ali nehote sprejeli. Brodolomec bom sredi neznanega in negotovega vztrajal v samem sebi, ker bom lahko edinole skozi sebe še pogledal v stvarnost in si postavljal tista ključna Kantova vprašanja: Kaj lahko vem? Kako naj živim? Kaj lahko upam?
Da bom lahko živel, da kot Borgesovi obupani knjižničarji iz tega Babilona ne bom skočil v brezno, mi ne bo preostalo nič drugega kot to, da se vse to sprašujem, kot to, da ostajam radoveden – ker želim vedeti, ker želim živeti, ker želim upati. V tej tvegani odprtosti v svet, v življenje in vase je poslednje zatočišče moje človeškosti in svobode. Tega mi umetna inteligenca ne more, ne sme vzeti. Nikoli ne bom mogel pozabiti vsega, kar ve ona, nikoli ne bom imel vprašanj za vse odgovore, ki mi jih lahko poda, nikoli ne bom znal ponarediti vsega, kar ustvari. Filozof, pravi Sokrat v Platonovem Simpoziju, vendar ni modrec, kajti modrec, tako kot bog, tako kot duh raztelešene inteligence, modrost že ima. Filozof pa po modrosti hlepi, ker je sam nima, le rad bi jo imel.
Tako lahko tudi jaz, ki nisem moder, ki pa modrost želim, vztrajam na samotnem otoku: ker želim pisati sonete, slikati morja in slišati ptice neba, ker želim vedeti, zakaj Sonce vzhaja in zakaj zahaja, tudi če jutri več ne bo, ker želim sam oditi od doma in se na poti domov izgubiti, ker želim z mrtvimi jeziki žive nagovoriti. Ker sem jaz tisti, ki je človek. In lahko samo upam, da boš tudi ti.