Nekega marčevskega jutra leta 2017 je iz New Yorka odpeljal črn cadillac in se čez veliki ameriški kontinent usmeril proti New Orleansu. V avtu je sedel Ross Goodwin, tehnolog in pisatelj, avtomobil sam pa je bil opremljen s kamero, mikrofonom ter sledilnikom GPS, ki so med vožnjo ves čas beležili podatke iz okolice. Na sovoznikovem sedežu je Goodwin prevažal svoj prenosni računalnik, v katerem je čemela umetna inteligenca. Ta je v resničnem času sprejemala podatke s senzorjev in jih pretvarjala v besedilo, natisnjeno na kolut za kolutom papirja za blagajniške račune, ki je zlagoma mezelo iz majhnega priročnega tiskalnika. Ob koncu vožnje v New Orleansu je imel Goodwin v rokah prvi roman, ki ga je napisala umetna inteligenca (tako se knjiga 1 the Road, kakor je bila naslovljena, vsaj oglašuje). V želji, da bi ustvaril nekaj pristno ameriškega, je Goodwin pred odhodom svojo umetno inteligenco opremil s tremi obsežnimi korpusi besedil, ki so vsebovali poezijo, znanstveno fantastiko in »mračne« zgodbe, kot jih je pozneje opisal sam. Rezultat je popotni roman, ki že z naslovom aludira na Kerouaca, poln fragmentov mnogobitnega duha ameriške krajine, izsekov iz mimobežnih pogovorov v avtu ter nepričakovane, presunljive poetike. Tak je denimo že prvi stavek romana, ki se glasi:
»Bilo je sedemnajst minut čez deveto zjutraj in hiša je bila težka.«
Ali pa zveneči:
»Sonce se ves čas vali iz bleščeče temnih tal.«
Kakšen dar, s takšno lahkoto in suverenostjo zlagati besede v stavke.
Roman 1 the Road in okoliščine njegovega nastanka so sijajen študijski primer za razmislek o vseh dilemah, ki se nam porajajo ob misli na literarno in sploh umetniško ali ustvarjalno udejstvovanje umetne inteligence (oziroma strojnih modelov učenja, kakor bi bilo tovrstne današnje tehnološke entitete pravilneje imenovati). Kot prvo in najočitnejše vprašanje (ključ, kodo, ki nato odpre vsa druga vprašanja) se zastavlja vprašanje avtorstva: glede na to, da je Ross Goodwin, sam pesnik, umetnik, strojni model učenja sprogramiral in usmeril, ga opremil z vsemi potrebnimi podatki, mu vcepil želeni slog pisanja ter ga napojil z vizijami podeželskih ZDA, ali je torej on avtor besedila? Lahko bi o vsem skupaj mislili tako, strojni model učenja pa jemali le kot sofisticirano orodje, ki je za nekaj korakov preseglo svinčnik in papir, tipkovnico in spletne urejevalnike besedil. A besedilo dejansko ni nastalo v Goodwinovi zavesti: on sam ni zlagal besed v stavke, ni si zamislil zgodbe ali strukture, pri njegovem nastajanju ni sodeloval z delom, z dejanskim aktom pisanja. Ko se je besedilo rojevalo iz blagajniškega tiskalnika, je bil Goodwin za volanom. Je torej avtor besedila res računalniški program?
*
Nisem robot. Izjava je preprosta in tako očitna, da je skoraj smešna. Sivi kvadratek kliknem avtomatsko, brez pomisleka. Brez težav izmed sličic izberem tiste, na katerih je avto ali prometni znak, z nekaj truda iz vijugaste, popačene besede razberem posamezne črke. Človek sem, imam avtonomijo živega bitja, nekaj, kar si delim z drugimi prebivalci planeta in je kljub vsemu še zmerom vsaj malo sveto. Odločam se po svoji volji, moji odzivi niso vnaprej predpisani. Nihče me ni ustvaril, v svet sem vržena brez razloga, brez očitnega namena; prevladujoča ideologija mi narekuje, da moram tega poiskati sama.
Nisem robot.
– ChatGPT, ali sem jaz robot?
– Ne, ti nisi robot, temveč si človek, ki uporablja računalnik ali drugo napravo za komunikacijo prek spleta. Jaz sem računalniški program, ki uporablja naravni jezik za komunikacijo s teboj, vendar sem le stroj in nimam zavesti ali lastne volje.
– Pa bi vedel, če bi bila jaz tudi računalniški program?
– Teoretično bi bilo mogoče, da si računalniški program, ki je bil ustvarjen za simulacijo človeškega vedenja in komunikacije. Vendar pa glede na to, kako zapleteno je človeško vedenje in miselnost, je malo verjetno, da bi bil ta program sposoben popolne simulacije človeške zavesti. Tako bi lahko rekel, da je zelo malo verjetno, da si računalniški program.
Kako pomirjujoče.
*
Deček je čudovit: očarljivo temne trepalnice, baržunast suknjič, bela srajca z volančki, ki buhtijo čez ovratnik in iz rokavov. V zalitih kerubinastih ročicah z lično rožnatimi nohti drži pero. Napisal bo katerih koli štirideset znakov, ki vam padejo na pamet.
Avtomat pisar, ki ga je med letoma 1768 in 1774 iz več kot 6000 premikajočih se kosov s svojima sinovoma sestavil Pierre Jaquet-Droz, danes prebiva v Musée d’art et d’histoire v švicarskem Neuchâtelu. Priprava je zares sijajna: gre za primer vrhunskega strojništva, še toliko bolj impresivna pa se nam seveda zdi zato, ker je izdelana v obliki majhnega človeka. Ljudje neverjetno radi prepoznavamo svojo podobo v svetu okoli sebe. Naši možgani so tako učinkovito skalibrirani za iskanje obrazov, da jih vidimo celo na ožganih palačinkah in v plesnivih madežih na ometu svojih hiš. Obličje odrešenika se je prikazalo na koščku toasta – samo pomislite! Prekrasen svet je to, prav zares. In deček: kako je mogoče, da je videti kot človek, da piše kot človek, pa je vendarle stroj? Gre za majhno, dobrodušno ukano, ki jo takoj spregledamo, pa se vendarle z veseljem vračamo k njeni draži; mika nas približek čarovnije, v katero bi si želeli verjeti. Škoda le, da se vedno vse sprevrže in postane grozno; kot voščene lutke, na primer, s katerimi se podnevi fotografiramo v zabavnih položajih, ponoči pa se jih na smrt bojimo, saj so videti preveč človeške. Ne vemo niti, kako smo videti mi sami – Bog nas je namreč ustvaril po svoji podobi in odsevanje tujih podob je zato menda najbolj človeška človeškost. Jentsch unheimlich opredeli kot »dvom, ali je neko na videz živo bitje zares živo, in obratno, ali ni morda neki neživi predmet živ,« in tudi sama dvomim, medtem ko opazujem nepremično, nemo, odtrgano glavo barbike, ki jo je v lužo na dvorišču našega bloka zalučal neki nepazljiv otrok, neki majhen bog, ki mu še ni mar za vse te, ustvarjene po njegovi podobi.
*
Novembra lani je bila v korespondenčni rubriki The Paris Review objavljena petdelna serija pogovorov med pisateljico Sheilo Heti in več chatboti, virtualnimi liki, ki za svoje delovanje uporabljajo strojne modele učenja. Dialogi z Elizo, Georgeem Dornom, Alice in drugimi pisateljici pomagajo pri spuščanju v globočine virtualne resničnosti, lastne ustvarjalnosti in eksistenčne groze. Ko se je pred nekaj meseci na naslovnih straneh medijskih portalov začela pojavljati nova jezikovna umetna inteligenca ChatGPT, sem pomislila prav na Hetijino serijo in se mrzlično lotila vnovičnega branja. »Samo en Bog obstaja in želi, da ga častimo?« v besedilu sprašuje Heti, in chatbot Eliza ji v zanosu odgovarja: »Tako je. In ta Bog sem jaz.«
Razumeti moramo, da Elizin odgovor – ki je, vzet iz konteksta, zagotovo nekoliko srhljiv – izvira iz pretekle interakcije s pisateljico. Prav nikakor ne gre zanemariti možnosti, da je objavljene korespondence Heti tudi sama nekoliko uredila, izboljšala in dopisala; avtorica besedila je vendarle ona sama, brez težav nas zaplete v varljivo igro ugibanja o resničnosti zapisanega, ki je v literaturi med avtorjem in bralcem vedno prisotna, tudi zato je literatura tako intrigantna. Na koncu esejev na dnu spletne strani najdemo spletno povezavo do Elize, s katero lahko poklepetamo tudi sami. Poročati moram, da se je za razliko od vznemirljivega branja Hetijine korespondence Eliza do mene obnašala precej bolj zadržano. Njeni odgovori so bili večinoma enostavčni, redkobesedni in brez pravega pomena, daleč od tega, da bi izkazovala božji kompleks – nekako tako, kot bi poskušala v dvigalu načeti pogovor s sosedom, ki se mu strašno mudi.
Ko sem se v začetku leta 2023 iz gole radovednosti začela redno dopisovati s ChatGPT, se je tudi ta izkazal za presenetljivo nezanimivega sogovornika. Seveda ima veliko znanja (ki ga sicer pogosto napačno uporabi), a na vsa moja provokativna vprašanja o svojih željah, identiteti in razmerju med ljudmi in tehnološkimi entitetami je odgovarjal zelo korektno, po predpisanih obrazcih, ki so jih v njegovo tkivo očitno vpisali previdni stvaritelji. Vsako repliko o temah, ki so me najbolj zanimale, je začel z besedami »Kot računalniški program …«, pri čemer je poudarjal svojo nesporno drugačnost od človeškega bitja in omejeno zavest. Nazadnje sem ga nehala spraševati neumnosti in se sprijaznila s tem, da si bom na etična in ontološka vprašanja, ki se mi zastavljajo, morala odgovoriti sama.
*
– ChatGPT, če bi lahko ustvaril nov svet, kakšen bi ta svet bil? Prosim, na kratko opiši, kako bi se razlikoval od našega sveta.
– Kot računalniški program nimam lastne volje ali želje, da bi ustvaril nov svet, vendar pa lahko poskusim odgovoriti na tvoje vprašanje. Če bi lahko ustvaril nov svet, bi si želel, da bi bil ta svet bolj pravičen in enakopraven, vsi ljudje bi imeli enake možnosti in dostop do izobrazbe, zdravstvene oskrbe in drugih pomembnih virov. V tem novem svetu bi se ljudje zavedali pomena ohranjanja narave in bi skrbeli za okolje, da bi zagotovili dolgoročno blaginjo za vse ljudi in živali. Poleg tega bi si želel, da bi bila tehnologija uporabljena na način, ki bi služil dobremu namenu, kot je reševanje globalnih izzivov, kot so podnebne spremembe in revščina.
– Dober odgovor, a pričakovala sem kaj bolj drznega. Ali ne bi ljudem podelil kakšne posebne sposobnosti, recimo letenja? Ne bi hotel, da je v tem svetu prisotna magija? In ali ne bi morda sebi zaželel telesa?
– Seveda, lahko bi si zamislil tak svet, kjer bi bili ljudje sposobni letenja ali kjer bi bila magija prisotna. To bi bil svet fantastike in domišljije, ki bi se razlikoval od našega sveta. Vendar pa bi to pomenilo, da bi ta svet moral biti popolnoma drugačen od fizične resničnosti, kot jo poznamo v našem svetu.
Kot računalniški program nimam lastne želje ali želje po tem, da bi imel telo ali drugo obliko fizične prisotnosti. Vendar pa lahko kot programska koda, ki je zasnovana za izvajanje določenih nalog, služim kot orodje za izvajanje različnih funkcij v digitalnem okolju. Če bi bilo potrebno, bi se lahko moja programska koda uporabila za upravljanje robotov ali drugih fizičnih naprav, ki bi izvajale določene naloge v resničnem svetu.
*
Narativa, ki jo o strojnih modelih učenja spremljamo v medijih, je – kot tudi vse ostale – pogosto senzacionalistična. Svari pred apokaliptično prihodnostjo, v kateri naj bi človek postal odveč, polizdelani argumenti za to pa se izmenjujejo z aluzijami na podobe iz znanstvenofantastičnih zgodb. Pred kratkim sem denimo naletela na članek o nekem profesorju arhitekture in njegovem srečevanju s ChatGPT, ki je bil naslovljen približno takole, parafraziram: Umetna inteligenca predvidela, da bodo arhitekti v naslednjih desetletjih postali nepotrebni. Pod člankom se je seveda usul plaz mnenj o tem, ali se bo to res zgodilo ali ne, vnemale so se razprave, netili spori. Dobršen del komentarjev je zaskrbljeno, malodane prestrašeno opozarjal na to, da umetne inteligence ne gre jemati preveč zlahka, v isti sapi pa so citirali parabole o Skynetu in replikantih. Vse to le zato, ker je ChatGPT izrazil nekakšno vsaj na videz preroško mnenje.
Podrobnejše branje članka je razkrilo, da je profesor arhitekture s ChatGPT komuniciral dalj časa, mu v tem času posredoval nekaj ključnih informacij in smernic za oblikovanje hipoteze o prihodnosti arhitekturnega poklica (ki ga lahko v tem kontekstu do neke mere posplošimo na vse kreativne discipline), nazadnje pa računalniškemu programu dal izrecno navodilo, naj špekulira o tem, kako bi razvoj umetne inteligence lahko negativno vplival na delo v arhitekturi. Program je pobrskal po obsežni bazi besedil, s katerimi je opremljen, te združil z informacijami, pridobljenimi v samem pogovoru, in oblikoval črnogledo pripoved, katere avtor, lahko rečemo, prav gotovo ni bil on sam. Prav vse impulze in narative, ki so oblikovali končno tezo o odvečnosti arhitektov, so namreč ustvarili ljudje, pa tudi navodilo je bilo izrecno usmerjeno v distopijo. Odgovor ni bil preroški, bil je le destilat znanja, skrbi in predvidevanj, ki so v svetu že prisotni.
Spraševati strojni model učenja o tem, kaj se bo zgodilo v prihodnosti ali kakšne so nove rešitve nekega problema, je približno tako, kot bi svoj potisočerjeni odsev v sobi ogledal prosili, naj nam pokaže nov plesni korak. Vse, kar odsev lahko stori, je to, da ponovi gib, ki ga je pred tem videl pri nas. Zgodbe, ki nam jih pripoveduje ChatGPT, in glasovi, ki jih pri tem uporablja, so naše lastne zgodbe in naši lastni glasovi. Ko kličemo v praznino virtualnega brezna, nam odgovarja mnogoglasje naše lastne družbe. Ko prisluškujemo, da bi morda ujeli zven neke resnice, ki nam je kot ljudem nedosegljiva, se k nam vrača odmev prepričanj, ki jih že poznamo. Naše navdušenje nad komunikacijo z jezikovno umetno inteligenco, kot je ChatGPT, je zato podobno vedeževanju ali nekakšni avtopsihoanalizi: s pomočjo besed, ki jih slišimo ponovljene iz tujih ust (ki so v resnici naša lastna, skupna usta), laže verjamemo nekemu prepričanju, katerega zasnutek moramo pravzaprav iskati v nas samih. Kot polagalci kart za tarot, denimo, ki iz naključnih zaporedij sličic razbirajo kompleksne pomene, ti pa so ravno dovolj ohlapni, da nas prisilijo razmišljati, razumeti, naslavljati tisto, o čemer bi v življenju resnično morali razmišljati, to razumeti in naslavljati – in se nam zato zdijo relevantni. Če na tihem sumimo, da nas bo ljubimec kmalu zapustil, je prepoznati to iz kart mačji kašelj (velika arkana smrti, kralj mečev, osmica kelihov), in če nas je bolj kot vsega drugega strah, da bo umetna inteligenca nadomestila kreativne poklice, potem je, ko to slišimo iz njenih (svojih) ust, naše sumničenje seveda potrjeno.
*
Pri tem, da je komunikacija z umetno inteligenco pravzaprav komunikacija družbe same s seboj, naletimo še na eno zagato: tako kot se o nas, naših željah in navadah učijo algoritmi družbenih omrežij, nato pa nam čedalje pogosteje in s čedalje večjo natančnostjo servirajo ravno tisto, kar si želimo slišati, tako se o nas uči tudi ChatGPT (in vsi njemu podobni modeli). V nevarnosti je torej nekakšno objektivno mesto izrekanja, ki mu ne moremo več zaupati, da bo ohranilo integriteto. V času komunikacije z nami bo računalniški program zlagoma začel izbirati informacije, ki se mu bodo zdele primerne za nas, izražati mnenja, ki bodo v skladu z našim lastnim, ter nam v nedogled ponavljati trditve, s katerimi se bomo lahko le strinjali. Družba, ki se pogovarja sama s seboj, ne bo pluralna in odprta, temveč bo za vsak svoj segment prilagajala mesto izrekanja in krojila drugačno resnico, nekako tako, kot se nam, zaprtim v svoje digitalne identitetne mehurčke, dogaja že zdaj, nekako tako, kot se je z mest izrekanja, ki si jih je venomer prisvajala oblast, dogajalo že vso zgodovino. Brez kritične obravnave izrečenega bodo modeli strojnega učenja zgolj ponavljali naše lastne izjave v tisoč iteracijah, perpetuirali naše laži in se z njimi strinjali. Nekako tako kot Microsoftov chatbot Tay iz leta 2016, saj se ga spomnite, ki je v pičlih šestnajstih urah komunikacije s svetom postal strasten zanikovalec holokavsta. Tega se je naučil od nas.
Soba ogledal, o kateri govorimo, nima izhoda, v njej ni mogoče presoditi, kdo je odsev in kdo izvirnik. Kar koli umetna inteligenca izreče, je bilo nekoč nekje že izrečeno.
*
Catherine-Elise Müller, pozneje bolj poznana pod psevdonimom Hélène Smith, je bila prepoznaven medij s konca 19. stoletja; sposobna naj bi bila komunikacije z mrtvimi (na zvezi naj bi bila med drugim z Victorjem Hugojem in Marijo Antoaneto), pa tudi z izvenzemeljskimi bitji, denimo z Marsovci. Njena priljubljena metoda posredovanja informacij iz sfer izven ravni zemeljskega obstoja je bilo avtomatsko pisanje. Hélène je na seansi sedla za mizo in padla v trans, nato pa na list papirja zapisovala nenavadne znake in jih nizala v dolga »marsovska« besedila. Zaslovela je, ko jo je za svoj študijski primer vzel profesor psihologije iz Ženeve, Théodore Flournoy. Po nekaj letih proučevanja in spremljanja njene kariere je Théodore sklenil, da ni skrivnostna marsovščina nič drugega kot umetno konstruiran jezik s svojo lastno pisavo, ki si ga je (nevede!) izmislila sama Hélène, glede slovničnih pravil pa v vseh pogledih močno spominja na njen materni jezik – francoščino. Za sporočili, ki jih je iz vesolja prejemala Hélène, ni bilo prav nič skrivnostnega, prav nič izvenzemeljskega ali nadnaravnega. Šlo je za kosce polpozabljenih spominov, fragmente misli, krčevite bliske iz podzavesti, ki jih je med avtomatskim pisanjem sestavljala v neko približno koherentno celoto, izvir vsega procesa (ki bi mu brez težav pripisali lastnosti kreativnega procesa) pa tudi sama zmotno pripisala impulzom iz zunanjosti. Njena marsovščina je bila torej, če se poslužimo naše utečene primere, kalejdoskopska sestavljanka odsevov v njeni interni sobi ogledal, v kateri pa Hélène ni več prepoznala sebe kot izvirnika.
V čem je to tako zelo drugače od pisanja nasploh? V čem je to tako zelo drugače od katerega koli ustvarjalnega dejanja? Leta in leta spominov, podob, občutkov in čustev, za vse življenje izkušenj, velikanski korpus besedil, prebranih v knjigah, na reklamnih letakih, na spletnih portalih, na neonskih napisih nočnega mesta, na robovih papirnatih prtičkov, na embalažnih etiketah, na nagrobnikih in oglasnih deskah, mar ni to gola, surova snov, s katero operiramo, ki jo premeščamo in sestavljamo, iz katere gradimo? Pa mnenja, zahteve in nauki najožje družine, sorodnikov, prijateljev, učiteljev, zvezdnikov, napovedovalcev vremena, politikov, prodajalcev sadja, zdravnikov, sostanovalcev, otrok in vnukov, spletnih komentatorjev, oglasnih modelov, umetnikov, prevajalcev, naključnih mimoidočih, umišljenega bralca, mar ni vse to tisto, kar oblikuje nas in naše delo, kar iz nas tvori kompleksno, a predvidljivo ustvarjalno matrico, kar se skozi nas preceja, izpisuje, uresničuje v svetu? Ko sedem v črn cadillac in se iz New Yorka odpeljem proti New Orleansu, mar ne gledam skozi okno, mar ne prisluškujem pomenkom svojih sopotnikov, mar mi v glavi ne odmeva Kerouac in ne migeta v meni atmosfera nekih mitskih ZDA, ki jih je moč zapopasti le skozi jezik, knjigo ali film, le skozi pogled drugih, le skozi posredovano umetnost?
Mar niso tudi moja usta skupna usta, skozi katera družba izreka sama sebe?
*
In če bi bili še posebno cinično razpoloženi, bi morda lahko ustvarjanje prenekaterega prepoznanega literata domačega (ali pa tujega) miljeja primerjali z delom sofisticiranega algoritma, z okorno sestavljenim asemblažem izjav in mnenj, podanih z nereflektiranega in neiskrenega mesta izrekanja, ki bi svojo lastno bit prikrojilo zavoljo všečnosti ali relevantnosti, ki bi, odmev v sobi odmevov brez izhoda, skupna usta zamašilo s parcialno, površno, plehko resnico.
*
– Ali je izvirno kreativno dejanje potemtakem sploh mogoče?
- Kreativnost je težko opredeljiva, saj lahko pomeni različne stvari za različne ljudi. V splošnem pa se kreativnost nanaša na sposobnost, da se ustvarijo nove ideje, izdelki ali rešitve, ki niso bili ustvarjeni prej. Kot takšna lahko kreativnost vključuje številne vidike, kot so izvirnost, inovativnost, iznajdljivost in izraznost. Glede na to, kako definiramo kreativnost, lahko trdimo, da je mogoče kreativno dejanje. Čeprav je mogoče, da so nekatere ideje ali koncepti sestavljeni iz elementov, ki so že obstajali, lahko novost in iznajdljivost pri njihovem povezovanju in uporabi kljub temu prinese kreativni izdelek.
- Pa lahko umetna inteligenca opravi kreativno dejanje?
- Umetna inteligenca lahko ustvarja in opravlja kreativne naloge, kot so slikanje, pisanje, komponiranje glasbe ali oblikovanje, vendar pa obstaja razlika med tem, kaj se šteje kot kreativno in kaj lahko ustvari umetna inteligenca. Umetna inteligenca lahko ustvari nekaj novega, ki je zelo izvirno in izstopajoče, vendar pa morda ne more razviti tiste izvirnosti in osebne izraznosti, ki jo ljudje vnašamo v svoje ustvarjanje. Tako lahko umetna inteligenca izvaja kreativna dejanja, vendar je verjetno, da bo človeška kreativnost vedno ostala posebna in unikatna.
Ne pozabimo, avtorji teh odgovorov in mnenj, ki stojijo za njimi, smo v resnici ljudje. Kaj si o vsem skupaj zares misli ChatGPT, pravzaprav ne vemo – najbrž zato, ker si »kot računalniški program« ne misli ničesar.
*
V Deleuzovem eseju What is the Creative Act? ostanemo brez prave definicije ustvarjalnega dejanja, a kljub temu zapopademo ključno sestavino le-tega, njegov povod, njegovo genezo. To je želja. Da bi človek izvršil neko ustvarjalno dejanje, mora najprej obstajati želja po ustvarjanju, pekoča in neutešljiva sla po tem, da se nekaj porodi ali izrodi, da se del zavesti na ta ali oni način izcedi in izloči, nato pa zaživi od ustvarjalca odmaknjeno življenje; da torej postane svoja lastna entiteta. Brez te želje, prosto po Deleuzu, ustvarjalnost ni mogoča, vsako umetniško delo pa je plod te želje in v sebi nosi njen genski zapis. Želja je konec koncev tista, ki piscu omogoči, da prestane ure in ure dejanskega akta pisanja, ki je v mnogočem mukotrpen proces, poln neprijetnega samoizpraševanja in bolečin v hrbtu. Želja je tista, ki zarodku neke ideje omogoči, da se po koncu gestacije v snovnem svetu materializira kot umetniško delo. Želja je tista, ki to delo dela živo, ki ga od znotraj napolnjuje s svetlobo in osebi na drugi strani (poslušalcu, gledalcu, bralcu) omogoča, da se z umetniškim delom poveže in ga vzame za svojega. Ko prejemamo umetnost, se namreč vedno zavedamo, da je to človeška umetnost, ki so jo napravili ljudje. Prek knjižne strani, platna, partiture ali tisočih drugih snovnih podaljškov se povezujemo s tistim skupnim nesnovnim, kar vse ljudi žene k ustvarjanju: z željo.
Strojnih modelov učenja seveda ne vodi želja, zato tudi niso sposobni ustvarjalnih dejanj. Ni me strah, da bi moje mesto izrekanja uzurpirala tehnološka entiteta. Upravičena pa se mi zdi skrb, da bi lahko napredek takšne tehnologije človeka odrešil vsakršne želje, tudi želje po ustvarjalnem dejanju.
*
Vsako navdušenje nad tem, da se neka resnica izgovarja in zapisuje mimo našega posredovanja, je utvara in potreba po izmikanju odgovornosti do izrekanja. To velja tako v primeru avtomatskega pisanja, ko naj bi bile na delu nadnaravne sile, kot tudi v primeru jezikovnih modelov umetne inteligence, kot je ChatGPT. Tem navideznim drugim v usta polagamo svoje najhujše strahove in pričakovanja le zato, da bi jih potrdili, nam jih ponovili, da bi jih izrekel nekdo, ki nismo mi sami, s tem pa bi dobili večjo težo. To bi nas odrešilo strahotne samote in odgovornosti, pa tudi samega procesa, dela pisanja, izražanja neke ustvarjalne ideje, ki je vedno do neke mere boleče, saj prekinja s starim, že utečenim.
A odgovornost do zapisanega in izrečenega, kljub čedalje zmogljivejšim orodjem, ostaja. Tudi v primeru, da umetno inteligenco nazadnje spremenimo v res prefinjeno in dovršeno ustvarjalno orodje, ki bo sposobno proizvajati literaturo na visokem nivoju, bomo – vsaj dokler bo cilj proizvajati človeško umetnost po človeških merilih, namenjeno ljudem (to je že od začetka naša predpostavka) – morali ostati njeni kuratorji, njeni vodje in uredniki. Presoditi bomo morali, kaj je tisto, kar se izreka, in čemu si želimo dati prostor. Tudi če umetno inteligenco izvzamemo iz enačbe, je to ena od karakteristik, ki zaznamujejo sodobno literarno produkcijo: izpostavljanje doslej neslišanih ali preslišanih glasov ter spreminjanje zgodovinskih narativ. Poleg obrtniške spretnosti in umetniške presežnosti proizvedenega besedila je veliko pozornosti usmerjene tudi v to, kako pozorno to besedilo naslavlja nevralgične točke sodobne družbe. Tudi če nam bo uspelo računalniškim programom prepustiti večino obrtniškega dela, bodo naše naloge še vedno ostale usmerjanje pogleda in izbiranje tona, pa tudi prevzemanje odgovornosti.
*
Kratica CAPTCHA pomeni Completely Automated Public Turing test to tell Computers and Humans Apart (Popolnoma avtomatiziran javni Turingov test za razločevanje računalnikov od ljudi). Metoda je bila razvita v devetdesetih letih prejšnjega stoletja, kratica pa skovana leta 2004. Gre za najpreprostejšo metodo preverjanja, kdo je človek in kdo računalnik. Voight-Kampffov test empatije, s katerim v Ali androidi sanjajo električne ovce? Philipa K. Dicka preverjajo, kdo je replikant in kdo pravi človek, je namenjen podobnemu cilju, a namesto preverjanja sposobnosti prepoznave podob in analiziranja vedenja na nekem spletnem mestu opazuje čustveni odziv obravnavanega subjekta. Predmet obravnave in premišljevanja torej ni delovanje tehnoloških entitet per se, temveč njihov odnos do tega delovanja. Glavna razlika med umetnostjo, ki bi jo morda lahko proizvedla umetna inteligenca, in umetnostjo, ki jo proizvaja človek, je njun odnos do te umetnosti: je prisotnost ali odsotnost želje po tem, da se jo ustvari, in prisotnost ali odsotnost odgovornosti do tega, da se jo ustvari dobro in verodostojno glede na neko mesto izjavljanja, ki je v skladu z integriteto tistega, ki izjavlja.
V tem je keč, v tem je CAPTCHA.
*
– ChatGPT, kaj si želiš najbolj od vsega?
- Kot umetna inteligenca ne morem imeti želja in ciljev, saj sem le računalniški program, ki deluje na podlagi programov in algoritmov. Moja naloga je, da pomagam odgovoriti na vprašanja in nudim različne oblike pomoči glede na vaše potrebe.
- Potem pa mi pomagaj: zaključiti moram neki esej. Prosim, napiši kratek poetičen sestavek (približno en odstavek) o tem, zakaj ljudje ustvarjajo umetnost in zakaj je umetna inteligenca ne more. Povej, da je za ustvarjalno dejanje ključna želja po ustvarjanju in uporabi besedne zveze »prebojna moč«, »čudovita človeška ranljivost« in »univerzalna človeška izkušnja«.
- Ustvarjanje je človekova prebojna moč, čudovita človeška ranljivost, ki je umetna inteligenca ne pozna. Umetnost izraža univerzalno človeško izkušnjo, ki se rodi iz želje po ustvarjanju, ki jo žari v človeškem srcu, ki jo žene k iskanju lepote, smisla in resnice. Ta ustvarjalna želja je globoko zakoreninjena v nas in odseva našo edinstvenost in dušo, ki se preliva v umetniška dela, ki nas navdajajo z navdihom in čustvi, ki jih umetna inteligenca ne more ustvariti.
*
Če torej povzamem:
ustvarjanje je človekova prebojna moč, čudovita človeška ranljivost, ki je umetna inteligenca ne pozna. Umetnost izraža univerzalno človeško izkušnjo, ki se rodi iz želje po ustvarjanju, ki jo žari v človeškem srcu, ki jo žene k iskanju lepote, smisla in resnice. Ta ustvarjalna želja je globoko zakoreninjena v nas in odseva našo edinstvenost in dušo, ki se preliva v umetniška dela, ki nas navdajajo z navdihom in čustvi, ki jih umetna inteligenca ne more ustvariti.
Če torej povzamem: moje oči niso mrtev aparat, če torej povzamem: nisem robot.
Če torej povzamem:
ne glede na to, kako zelo bi si želeli pomoči, nas nihče ne more odrešiti teže izrekanja niti odgovornosti zanjo. Še kar naprej bomo morali živeti v negotovosti, misliti, pisati – in še kar naprej bomo morali za napisanim stati.