Deepfake: Resnica ima nov obraz. In ni tvoj.

Če je bilo pred leti še dovolj, da smo »verjeli svojim očem«, danes to preprosto ne velja več. Z razmahom t. i. deepfake tehnologije, ki z uporabo umetne inteligence ustvarja lažne, a izjemno prepričljive videe, zvoke in fotografije, postaja resnica fluiden pojem. Algoritmi, ki temeljijo na globokem učenju, potrebujejo le dovolj gradiva – nekaj videoposnetkov, par intervjujev, slik, mogoče še govornih vzorcev – in že lahko ustvarijo digitalnega dvojčka kogarkoli. Ta potem zgovorno izjavlja, priznava, poziva, grozi ali se opravičuje – tudi če tega v resnici nikoli ni izrekel. Ali naredil.

Leta 2019 je v Gabonu novoletni nagovor dolgo odsotnega predsednika Alija Bonga sprožil javno paniko. Mnogi so verjeli, da gre za deepfake, kar je pripeljalo do poskusa državnega udara. V ZDA se je med zadnjimi volilnimi kampanjami pojavilo več videoposnetkov, v katerih kandidati izrečejo nekaj, česar v resnici niso nikoli povedali. Čeprav so bile pristnosti teh posnetkov kasneje ovržene, je bila škoda že storjena. Tudi v Sloveniji smo že bili priča manipulacijam z videoposnetki, čeprav še ne v obliki dovršenih deepfake ponaredkov. Nekateri posnetki iz političnih sej, televizijskih oddaj ali kampanj so bili iztrgani iz konteksta, zmontirani in predstavljeni na način, ki je zavajal gledalce.

Deepfake ni več le tehnološki trik, temveč orodje, ki ima vse večjo moč spreminjati percepcijo, rušiti ugled, ustvarjati dvom in manipulirati javnost. Kar se je nekoč začelo kot digitalna zafrkancija – filmski junaki s prelepljenimi obrazi, politiki, ki pojejo pop hite, ali komedijanti, ki oponašajo glasove znanih osebnosti – je danes postalo orožje. Ne le politično, temveč tudi ekonomsko, spolno in psihološko. Najvidnejši in zaskrbljujoč razcvet doživlja deepfake pornografija, kjer so pogosto brez svojega vedenja in privoljenja tarče ženske. Njihove podobe so vstavljene v eksplicitne posnetke, ki se nato viralno širijo, žrtvam pa povzročijo osebno, profesionalno in psihološko škodo, ki je pogosto nepopravljiva. Vse to brez enega samega fizičnega stika – le s podatki, fotografijami in videi, ki so prosto dostopni na spletu.

Na drugi strani spektra pa se medtem razvija še ena oblika napadov: finančne prevare, ki izkoriščajo čustveno povezanost. Predstavljajte si, da prejmete klic svojega otroka – njegov glas je paničen, pravi, da je v težavah, da potrebuje denar. Glas je njegov. Intonacija, način govora, celo dih med besedami. Vse se ujema. Seveda nakažete denar. Šele kasneje ugotovite, da sploh ni klical vaš otrok, temveč umetna inteligenca, ki je njegov glas poustvarila na podlagi nekaj posnetkov iz TikToka ali YouTuba. Gre za novo generacijo prevar, ki ne cilja več zgolj na naivne, ampak na vse, ki imamo radi svoje bližnje. Takšne oblike napadov že beležijo v tujini, a tudi v Sloveniji smo zabeležili primere lažnih klicev, v katerih je goljuf osebo prepričal, da je v nevarnosti nekdo iz njene družine, s tehnologijo UI pa bo tovrstna manipulacija postala le še prepričljivejša in pogostejša. 

Deepfake resničnost ni nevarna zgolj zaradi svoje tehnične dovršenosti. Nevarna je zato, ker cilja na naše najbolj temeljne občutke: zaupanje, empatijo, ljubezen, strah. In ko enkrat začneš dvomiti v to, kar slišiš od svojih najbližjih, ko ne veš več, ali je glas na drugi strani linije res tvoj otrok ali pa samo digitalni približek njegove osebe, postane resničnost nekaj zelo krhkega. In hkrati zelo dragocenega.

Od kod so fotografije in posnetki glasov, ki so uporabljeni? Seveda z naših spletnih profilov. Strokovnjaki opozarjajo, da vsaka objava otroka na družbenih omrežjih predstavlja potencialno surovino za zlorabo. Starši objavljajo fotografije svojih sončkov in zakladkov, ne da bi vedeli, da jih predajajo algoritmom, korporacijam in – najhuje – digitalnim plenilcem. Antropolog Dan Podjed opozarja, da prav otroke vse prevečkrat uporabljajo za digitalno vabo: za klike, za všečke, za pozornost. Ko bodo čez desetletje iskali prvo službo ali poskušali izbrisati svoje sledi s spleta, bo prepozno. Splet ne pozablja. In algoritmi tudi ne.

Evropska unija je sicer sprejela Akt o digitalnih storitvah (DSA), ki od platform zahteva večjo odgovornost, označevanje umetno ustvarjenih vsebin in večjo transparentnost pri delovanju algoritmov. A razvoj tehnologij, zlasti generativne umetne inteligence, beži naprej s svetlobno hitrostjo. In ko zakonodaja pride na vrsto, so ponarejeni videi že viralen hit. Ali grožnja. Ali razlog za izsiljevanje. Včasih pa vse naenkrat.

Najbolj zaskrbljujoče pa je, da smo vsi del tega. Ni nujno, da ustvarjamo deepfake vsebine, dovolj je, da jih delimo, komentiramo, se jim čudimo ali jih jemljemo za resnične. Vse to napaja algoritme. Vsakič, ko nanje kliknemo, prispevamo k digitalni krajini, v kateri je resnica vse redkejša dobrina. Vprašanje ni več, ali bomo naleteli na lažen video. Vprašanje je, ali ga bomo prepoznali in ali bomo želeli verjeti, da je lažen.

Petra Znoj