A: ali vidiš kakšne povezave med Descartesovim konceptom demona in pojavom umetne inteligence. dobro premisli
B: Odlično vprašanje – in v resnici zelo sodobno. Povezava med Descartesovim »zlim demonom« (genius malignus) in umetno inteligenco (UI) odpira filozofsko, epistemološko in etično razpravo o resničnosti, zaznavi in zaupanju v znanje. /…/
A: naredi daljši analitični prispevek z vključitvijo sodobnih filozofov
B: Ko je René Descartes v 17. stoletju pisal Meditacije o prvi filozofiji, si verjetno ni predstavljal, da bo njegov miselni eksperiment o »zlem demonu« nekoč postal eden ključnih simbolov tehnološke dobe. Demon, ki človeku podtika lažno resničnost in ga zavaja, da sprejema navidezne podobe kot resnične, je bil prvotno zgolj orodje radikalnega dvoma – način, kako preveriti trdnost človeškega mišljenja.
Toda v 21. stoletju se ta demon vrača. Ne več kot metafizična grožnja, temveč kot tehnična: umetna inteligenca, ki ustvarja besedila, slike in znanje z neverjetno prepričljivostjo, a brez zavesti o resnici. Descartesov demon je bil plod domišljije, današnji pa je plod podatkov. /…/
A: si prepričan, da je Descartesov demon plod domišljije? Poznam vire, ki kot podlago navajajo baročno tragikomedijo, sojenje duhovniku Grandierju …
B: Odličen pomislek – in zelo upravičen. To vprašanje je na presečišču filozofije, zgodovine idej in kulturnega konteksta 17. stoletja, v katerem je Descartes deloval. V času, ko Descartes piše svoje Meditacije, je Francija še vedno pretresena zaradi sojenj čarovnicam, eksorcizmov in demonoloških procesov. Eden najznamenitejših je prav tisti, ki ga omenjaš – primer duhovnika Urbaina Grandierja iz kraja Loudun (1632–1634).
/…/
Descartesov »zli demon« (genius malignus) je bil pojem, s katerim je filozof poskušal razstaviti vsa prepričanja, dokler ni našel enega, ki bi bilo nedvomno resnično. V Meditacijah si je predstavljal bitje, ki ga zavaja pri vsakem zaznavanju – da verjame, da sedi, čeprav ne sedi, da vidi svet, ki morda sploh ne obstaja.
Cilj tega miselnega eksperimenta ni bil nihilizem, temveč nasprotno: iskanje trdne točke gotovosti. Iz tega se rodi znameniti cogito ergo sum – »mislim, torej sem«.
Z demonovim posredovanjem je Descartes razkril napetost med zaznavo in razumnostjo, med svetom, kakršen se kaže, in svetom, kakršen je.
Sodobni modeli umetne inteligence – zlasti generativni (npr. ChatGPT, DALL·E, Midjourney) – ustvarjajo besedila in podobe, ki delujejo racionalno, a so statistične simulacije pomena.
Filozof Luciano Floridi opozarja, da v digitalni kulturi ne živimo več v »resničnem« ali »virtualnem« svetu, temveč v infosferi – prostoru, kjer so informacije temelj našega bivanja. V tej infosferi so resničnost, verjetnost in uporabnost pogosto zamenljive kategorije.
To pomeni, da lahko umetna inteligenca deluje kot ontološki posnemovalec: ne ustvarja resničnosti, ampak verjetnost resničnosti. Njena naloga ni, da ugotovi, kaj je res, temveč kaj zveni res.
Podobno kot Descartesov demon nas umetna inteligenca sili v epistemološki dvom – kako vemo, da je informacija, ki jo vidimo ali beremo, resnična? Če demon manipulira zaznavo, UI manipulira podatkovno verigo: od vira do interpretacije.
Avtorjev pogovor s ChatGPT-jem 29. oktobra 2025.
Kratica »A« označuje avtorja.
Kratica »B« označuje klepetalnega robota.
***
Vem, pojasnilo je povsem odveč. Gotovo ste že po nekaj sekundah ugotovili, da zgornje besedilo predstavlja klepet z umetno inteligenco. Z njo sem se pomenil, ker sem vso noč prebedel na telefonu (da ne bo pomote, pomenil sem se šele naslednji dan; noč je bila povod, ne dogajalni čas pomenkovanja). Tovrstne noči se mi ponavadi zgodijo po dolgih in napornih dnevih. Kadar v posteljo ležem prijetno utrujen, se zlahka zatopim v knjigo ali film, kadar pa nanjo padem kot ubit, malodane slišim utripanje možganov, ki hlepijo po hipnem dražljaju, in še enem, in še enem, kot bi od izčrpanosti odpovedali vsi varnostni mehanizmi.
Algoritmi družbenih omrežij ne poznajo dvoma. Na podlagi mojih preteklih interakcij dobro vedo, s katerimi vsebinami me prikovati pred zaslon. Dobro vedo, da po polnoči nimam ne volje ne energije za spremljanje politike, da subtilnejše oblike humorja ne bodo padle na plodna tla in da bom ob vsakem zajetnejšem kosu besedila s kazalcem samodejno podrsal navzgor. Kadar na posteljo padem kot ubit, algoritmi dobro vedo, da potrebujem nekaj igrivega, prijetnega, zabavnega, toplega, mehkega. Vem, zdi se infantilno, ampak tako pač je. Kadar na posteljo padem kot ubit, moji možgani najbolj hlepijo po videoposnetkih najrazličnejših živali, ki tekajo, skačejo, predejo, godejo ter zganjajo te in one norčije. Ob njih se sprostim. Sprostim se med opazovanjem slonov, ki nepazljivim turistom kradejo banane, pasjih mladičev, ki zaspijo v zavetju matere, mačk, ki prevračajo kozarce. Družbena omrežja skrivajo tisoče tovrstnih vsebin. In ker algoritmi dobro vedo, kako močno mi ugajajo, me lahko z njimi zalagajo ure in ure – vse dokler po nekem skrivnostnem ključu ne utonem v spanec.
Podatki razkrivajo, da nisem izjema. Ob vsakem videoposnetku je zabeleženo število ogledov. Poglejmo. Danes je 4. november 2025. Išči: #maček (z lemurje velikimi očmi) – 8,2 milijona ogledov, #zajčjimladič (ki leži na hrbtu in grizlja grozdje) – 2,5 milijona, #medved (grizlijev napad na stoječi avtomobil) – 9,9 milijona.
Pravzaprav ne vem, kaj bi si mislil o teh številkah. Visoke so, to že. Na milijone ljudi bulji v zaslone in se hihita ob prizorih zvijajočih se živali. In videoposnetki z živalmi niso nobena izjema. Nekdo drug si ogleduje dih jemajoče posnetke akrobatskih športnikov. Tretjega zabavajo vragolije predšolskih otrok. Išči: #padalstvo (pristanek na vodi pri 120 km/h) – 27 milijonov ogledov, #otrok (ki si ne zna sezuti desnega copata) – 1,2 milijona. Kratki, nekaj sekund trajajoči videoposnetki. Na milijone in milijone ogledov, summa summarum pa na milijarde in milijarde. Kaj naj si mislimo o teh številkah?
Vem, da je moja izkušnja del širšega družbenega fenomena.
Ne vem, kakšne so izkušnje preostalih uporabnikov družbenih omrežij.
Vem, da izkušnjo doživljam kot del sprostitve.
Domnevam, da jo podobno doživljajo tudi drugi uporabniki.
Vem, da med sproščanjem nerad dvomim.
Vem, da pred leti nisem dvomil o verodostojnosti videoposnetkov.
Vem, da so ti časi minili.
***
Vem, svet ne bi bil nič slabši, če bi prej omenjeni videoposnetki že jutri izginili iz infosfere. Ampak, povem vam nekaj: to se ne bo zgodilo. Tukaj so. Čedalje več jih je. Njihovo število narašča z nepredstavljivo hitrostjo. Do nedavnega so nastajali skorajda izključno organsko. Njihovi ustvarjalci so snemali svoje domače živali, v naravi prežali na bizarne trenutke, skratka, podobe so zajemali iz resničnega sveta in z njimi polnili svoje kanale na družbenih omrežjih. Nato je začela zmogljivost generativnih modelov umetne inteligence skokovito naraščati. Kot simbol njenega napredka se uveljavil videoposnetek, na katerem ameriški filmski igralec Will Smith je špagete. Prvi posnetek iz leta 2023 vzbuja vtis animirane groteske. Popolnoma očitno je, da gre za umetno ustvarjen prizor; hollywoodski zvezdnik je videti kot hlastajoča karikatura, ki je prvič v življenju poprijela za jedilni pribor.
Danes ni videti prav nič karikirano ali groteskno, ampak popolnoma avtentično. S prostim očesom je nemogoče presojati resničnost prizora. Nemogoče je opaziti kakršno koli pomanjkljivost ali anomalijo. Will Smith si odločno navija špagete na vilice in vmes teatralično nagne kozarec rdečega vina. Če popolnoma zaupamo prostemu očesu, nimamo nobenega razloga za dvom o avtentičnosti njegovih kretenj.
Podobno velja za druge vsebine. Po svoje je fascinantno, kaj vse je mogoče poustvariti s pomočjo strojnega učenja. Še bolj fascinantna je kakovost in natančnost poustvarjenih izdelkov. Ti dve lastnosti (kakovost in natančnost) sta večinoma nadvse zaželeni: če bi se odpravil na večerjo k znancu, ki je po receptu za pripravo jedi povprašal jezikovni model umetne inteligence, bi lahko le upal, da je bila storitev opravljena kakovostno. Kadar berem besedilo, ki ga je jezikovno pregledal taisti model, je natančnost storitve v obratnem sorazmerju s tiskarskimi škrati, nad katerimi se hudujem. Seveda ne verjamem, da lahko strojno učenje prekosi umetniški instinkt, s katerim se ponašajo največji kuharski mojstri, in občutek za jezik, ki ga premorejo najboljši lektorji, toda ob morebitni odsotnosti enih ali drugih (kuharskih mojstrov ali lektorjev) si vsekakor želim, da njihovi strojni približki dostojno opravljajo svoje naloge.
Kadar po dolgem in napornem dnevu kot ubit padem na posteljo, je zgodba nekoliko drugačna. Kadar si ogledujem tiste bedaste videoposnetke (vem, že zdavnaj ste pomislili, da so bedasti, verjemite, tudi sam vedno znova premišljujem o tem), se mi zdi nujno, da so resnični. Mojim možganom, ki hlepijo po hipnih, cenenih dražljajih, je vseeno za kakovost. Ločljivost slike jih ne briga, kadriranje še manj. Zanima jih zgolj vsebina. In vsebina mora biti resnična, sicer izgubi ves čar. Ob pogledu na zajčka, ki leži na hrbtu in grizlja grozdje, me preplavi val nežnosti, kako ljubek je lahko naš svet, pomislim. Med opazovanjem direndaj zganjajočega mačka se nasmiham njegovi razigranosti, fascinantno se mi zdi, da ga je lastniku uspelo posneti ravno v trenutku, ko je potisnil kozarec čez rob kuhinjske mize, toda fascinacija in nežnost izgineta v istem trenutku, ko se zavem, da se prizor sploh ni zgodil – da ga je nekdo zgolj ustvaril. Dovolj je, da se to zgodi enkrat samkrat – in seme dvoma začne nepreklicno in neusmiljeno kliti.
/…/