Ko stroj misli namesto nas

Pred leti sem v diplomskem delu raziskoval, kaj se zgodi s pomnjenjem, ko spomin prepustimo digitalnim napravam. Preučeval sem pojave, kot so digitalna demenca, poneumljanje in odvisnost, ki v javnosti močno odmevajo, v stroki pa ostajajo nerazjasnjeni.

Izhodišče je bilo preprosto: naprave domnevno prevzemajo vlogo našega spomina. Kar potrebujemo, je shranjeno v računalniku ali telefonu in si to lahko kadarkoli ogledamo. Kar ni tam, v nekaj sekundah najdemo na spletu. Čemu bi si torej karkoli zapomnili?

Takrat je bilo to predvsem vprašanje spomina. Danes je širše. Umetna inteligenca ne hrani le podatkov, ampak na zahtevo ponudi razlago, sklep in celo odločitev. Kar smo nekoč prelagali na zunanji spomin, zdaj lahko prelagamo tudi na zunanje mišljenje.

Nedavno sem naletel na članek Thomasa Opponga “The Dangerous Decline of Thinking People” (Nevarni zaton mislečih ljudi). Umetno inteligenco analizira podobno, kot sem v raziskavi analiziral digitalne naprave. Ne sprašuje pa zgolj, kaj pozabljamo, ampak ali sploh še razmišljamo.

V nadaljevanju članek povzemam, dopolnjujem in – kjer trdi več, kot dopuščajo dokazi – popravljam. Zgodba se začne veliko pred računalniki.

Kraljev dvom

Sokrat ni zapisal ničesar. Pisavi ni zaupal. Filozofijo je živel skozi pogovor in vztrajno spraševanje sogovornikov. Kar vemo o njem, vemo po zaslugi svojega učenca Platona, ki je pogovore zapisal po njegovi smrti.

V Platonovem Fajdrosu Sokrat pripoveduje zgodbo o bogu Theuthu, ki egiptovskemu kralju Thamusu podari pisavo. Theuth jo hvali kot zdravilo za spomin in modrost. Thamus ostane hladen. Pisava bo po njegovem v dušah tistih, ki se je naučijo, povzročila pozabo, ker ne bodo več urili spomina. Spominjali se bodo od zunaj, s tujimi znamenji, namesto od znotraj, sami iz sebe. Dala jim bo videz modrosti, ne modrosti same.

Izum, ki naj bi nas naredil modrejše, bi lahko mišljenje nadomestil.

Vzorec se od takrat ponavlja z vsako novo tehnologijo. Orodje nam nekaj olajša, mi pa si rečemo, da nas je osvobodilo za višje mišljenje. Telefonskih številk si ne zapomnimo več. Namesto orientacijskih točk imamo GPS. Dolgega deljenja ne računamo na pamet. Marsikaj od tega je v redu, nekaj celo dobro.

Einsteinu pripisujejo stavek: “Moj svinčnik je pametnejši od mene.” Svinčnik mu ni dajal odgovorov, pomagal mu jih je najti. Pisanje razvije misel onkraj tega, kar glava zmore držati sama. Na tej ločnici stoji vse, kar sledi: nekatera orodja mišljenje podaljšajo, druga ga nadomestijo.

Poceni misel

Mišljenje je drago. Čas, prenašanje negotovosti in pripravljenost, da se najprej zmotite pred sabo, preden imate prav pred drugimi, niso poceni. Daniel Kahneman je celo kariero raziskoval, zakaj se temu tako radi izogibamo.

Pokazal je, da um skoraj ves čas deluje v hitrem, samodejnem načinu, ki ga je imenoval Sistem 1. Počasno, naporno razmišljanje – Sistem 2 – um vklopi šele, ko se mu ne more izogniti. Sistem 2 je bolj premišljen in bolj logičen. In dražji.

“Lenoba je globoko zakoreninjena v naši naravi,” zapiše v knjigi Misliti, hitro in počasi. Hitro sklepanje je po njegovem učinkovito, če so sklepi verjetno pravilni, cena občasne napake sprejemljiva, prihranek časa in truda pa velik.

Stroj, ki odgovori v trenutku, izkoristi prav ta nagib k najmanjšemu naporu. Ni več treba potrpeti, vztrajati v negotovosti, premlevati. Zakaj bi se mučili, ko je odgovor na voljo takoj? Toda imeti prav ni isto kot razumeti. Misel, ki jo pripisujejo Richardu Feynmanu: “Raje imam vprašanja, na katera ni mogoče odgovoriti, kot odgovore, v katere ni mogoče podvomiti.“

Kognitivni dolg

Pisava in svinčnik vam pomagata do odgovora. Inteligentno orodje vam ga kar da. Ko odgovor prispe, možgani dobijo signal: naloga opravljena. Produktivni napor oblikovanja misli se sploh ne zgodi.

Psihologinja Bluma Zeigarnik je v dvajsetih letih prejšnjega stoletja v berlinskem laboratoriju gestaltista Kurta Lewina poročala, da si ljudje nedokončane naloge zapomnijo skoraj dvakrat bolje kot dokončane.

Metaanaliza iz leta 2025 tega ni potrdila, potrdila pa je nekaj drugega: nedokončano nas vleče nazaj, dokončano izpustimo. Martin Heidegger je zapisal, da se misleči trajneje učijo iz manjkajočega.

Stroj, ki nalogo zaključi namesto nas, manjkajočega ne pusti.

Raziskovalci z MIT so to poimenovali kognitivni dolg. V njihovi manjši študiji so imeli pisci esejev, ki so si pomagali z jezikovnim modelom, šibkejšo povezanost možganskih omrežij in so se slabše spominjali lastnega besedila.

Danes si izposodite udobje. Jutri ga plačate z lastno pametjo.

Spirala zaupanja

Ti stroji so postali avtoritete. Težava ni v tem, da se kdaj zmotijo, zmoti se vsak vir. Ampak stroj zmoto izreče z enako gotovostjo kot resnico. Michael Gerlich, ki raziskuje odnos med tehnologijo in spoznavanjem, opozarja, da zaokroženi odgovori odvračajo od kritičnega preverjanja.

Zakaj bi preverjali stroj, ki je tako prepričan vase? V njegovi raziskavi so se pogostejši uporabniki slabše odrezali pri kritičnem mišljenju, povezava pa je tekla prek prelaganja miselnega napora na orodje. Gre za povezavo, ne za dokaz vzročnosti, a smer je vredna pozornosti. In krog se lahko sklene: kdor zaupa, manj preverja. Kdor manj preverja, postane odvisen. Kdor je odvisen, pa ne dvomi več.

Turingovo vprašanje, obrnjeno

Alan Turing je leta 1950 zapisal, da je izvorno vprašanje “ali stroji lahko mislijo?” preveč nesmiselno, da bi si zaslužilo razpravo, in ga nadomestil s preizkusom tega, kaj stroj zmore. Danes se vprašanje obrača. Ni več pomembno, ali mislijo stroji, ampak ali bomo mi čez deset let še mislili.

Leto kasneje je zapisal nekaj, kar bi nas moralo vznemiriti. Ko bi se strojno mišljenje enkrat začelo, ne bi trajalo dolgo, da bi prehitelo naše “šibke zmožnosti”. Dodal je, da bi bilo z ohranjanjem naše inteligence na ravni, ki bi jo postavili stroji, veliko dela. Turing tega ni izrekel, a iz njegove napovedi sledi: kdor tega dela ne opravi, bo zaostal. In za to ne bodo krivi stroji.

Thamus se je motil, a le deloma

Pisava spomina ni uničila, spremenila pa je, čemu služi. Prilagodili smo se in zgradili nove miselne veščine. A kraljevo svarilo ostaja. Stroji mišljenja verjetno ne bodo uničili. Bodo pa razkrili, kdo je v resnici mislil.

Nekaj časa bo težko ločiti um, ki še dela, od uma, ki se je upokojil. Ta zmeda je začasna. Razreši se v trenutku, ko morate sami sprejeti odločitev z realnimi posledicami. Takrat odgovor pride iz vaše glave ali pa ga ni.

Ta trenutek bi lahko prišel prej, kot pričakujemo. Razlog je banalen: denar.

Analitiki ocenjujejo, da ponudniki umetne inteligence naročnine prodajajo pod ceno. Cen zaenkrat ne dvigujejo, a zaostrujejo omejitve uporabe, najzmogljivejše modele pa ponujajo le v dražjih paketih. Če se to nadaljuje, bodo najboljša orodja privilegij podjetij in premožnih. Kdor se dovolj dolgo zanaša na umetno inteligenco, postane od nje odvisen. Ko si je nekega dne ne more več privoščiti, ostane brez veščine in brez orodja.

Za kaj takega ni potreben naklep. Dovolj je poslovni model, ki odvisnost nagrajuje.

Svinčnik, ne možgani

Upad ni neizogiben. Orodja bodo ostala in so koristna. Vprašanje je, kaj jim prepustimo. Če jim prepustimo dolgočasno in glavo prihranimo za težko, postajamo pametnejši. Če jim prepustimo vse, Sistem 2 ostane brez vaje. Stroj uporabljajte kot svinčnik, ne kot možgane. Naj vam pomaga najti misel, naj je ne misli namesto vas.

V praksi to pomeni, da svoje misli zapišete, preden vprašate. Da odgovor preberete in se z njim prepirate. Da preverite vire. Da zdržite nelagodje nevednosti, dokler stvari ne razčistite sami. Da poiščete, česa stroj ni upošteval, in opravite težji del: odločite, kaj je res.

Nekateri orodja že uporabljajo tako, kot dober tesar uporablja električni vrtalnik: kot podaljšek veščine. Vrtalnik ni nadomestil nobenega dobrega tesarja.

Aristotel je ločil phronesis, praktično modrost, pridobljeno z izkušnjo, od techne, tehničnega znanja. Techne vam stroj da v hipu: dejstva, osnutke, povzetke, kodo. Phronesis vam ne more dati. Zaslužite si jo z izbiranjem, zmotami in ponovnim izbiranjem.

Pomanjkanje informacij, resničnih ali lažnih, ni več problem. Redek postaja napor, s katerim informacija dobi pomen. Brez njega obilje znanja pomeni pomanjkanje modrosti.

Sokrat se je bal, da nas bo pisava naredila pozabljive. Prilagodili smo se in lahko se znova. Le da tokrat prilagoditev ni nekaj, kar se nam zgodi. Je izbira, ki nas čaka vsakič, ko se odločamo, ali problem rešimo sami ali ga predamo stroju.

Kdaj ste nazadnje z vprašanjem počakali dovolj dolgo, da ste morali odgovor najti sami?

Po članku “The Dangerous Decline of Thinking People” (Vir: povezava), Medium / Personal Growth.

Borut Kmetič

vCISO in neodvisni raziskovalec presečišč epistemologije, organizacijske kulture in informacijske varnosti.

Borut@SmartAssets.it
Borut@Medium

The post Ko stroj misli namesto nas appeared first on Savus.