Trump, Putin, Musk, Zuckerberg… Veste, kaj vse je resnično?

Ukrajina, Rusija, ZDA, Iran, X, Meta… Tihotapljenje jedrskega materiala seje strah po vsem svetu. Deepfake pa je dostopen vsakomur — povsem brez nadzora.

Podjetja za zaznavanje deepfake posnetkov so samo lani zbrala stotine milijonov dolarjev investicij. Strokovnjaki, ki javno opozarjajo na nevarnost, so morali ustanoviti lastna podjetja, ker problema ne zmoremo reševati sami. Pa vi? Vam televizija še vedno predstavlja vir resnice?

Pred kratkim sem naletel na video z izjemno pomembnim sporočilom. Menim, da ga mora videti vsak, ki še vedno verjame, da zna ločiti resnico od laži. V nadaljevanju bom povzel vsebino videa.

V tem sicer ni bilo nič revolucionarnega — mi je pa s konkretnimi primeri potrdil nekaj, kar večina nas že ve, pa vseeno najraje kar spregledamo.

Kdo je avtoriteta, komu zaupamo?

Deepfake tehnologija — umetna inteligenca, ki iz obstoječih posnetkov ustvari prepričljive lažne videoposnetke, fotografije ali zvočne posnetke resničnih oseb — ni več eksotika hollywoodskih studiev ali obveščevalnih agencij. Danes to lahko počne vsak in za to potrebuje dva dolarja in dva dni časa.

Pa to ni moje predvidevanje, ampak izkušnja avtorja, ki si je vzel čas, sedel za računalnik in to sam naredil.

Profesor z Univerze Berkeley pojasni, kje smo

Hany Farid, strokovnjak za digitalno forenziko z Univerze v Kaliforniji, je v intervjuju v videu povedal stvari, ki bi jih morali vsi prebrati.

V kontroliranih laboratorijskih pogojih — kjer so udeleženci vedeli, da iščejo lažne posnetke — je bilo ločevanje fotografije realne osebe in AI-generirane bolj podobno ugibanju kot prepoznavi. Pri videoposnetkih je razlike malenkost lažje prepoznati. Uspešnost se giblje nekje okrog 70%.

“Ampak, to je v laboratoriju,” doda Farid. “Brez čustev, brez politike, brez že vnaprej ustvarjenega mnenja. Kaj pa v resničnem svetu, ko gledate posnetek, ki le še potrjuje tisto, kar že verjamete? Uspešnost prepoznave hitro pade. In v naslednjih 12 mesecih, pravi, bo tudi video že popolnoma neločljiv.”

Mediji niso vaš filter — so del problema

Tu pridemo do dela, ki me je najbolj zmotil. Kongresnik v Washingtonu pri podkrepitvi svoje zgodbe ni predložil preverjenega dokumentarnega gradiva. Pridobil je deepfake fotografijo, ker je bila bolj dramatična in prepričljiva.

Bela hiša je januarja letos na svojem uradnem računu X objavila fotografijo aretacije civilnopravne odvetnice Nekime Levy Armstrong, protestnice iz Minneapolisa.

Ministrstvo za domovinsko varnost je prvo objavilo izvirno fotografijo, na kateri je Armstrong mirna in zbrana. Bela hiša pa je trideset minut kasneje objavila isto fotografijo — le da je bila Armstrong na njej predelana z umetno inteligenco in prikazana objokana.

Ko so novinarji zahtevali odgovor Bele hiše, se ti niso opravičili. Fotografije niso umaknili. Uradni odgovor je bil: “Uveljavljanje zakona se bo nadaljevalo. Objavljanje takšnih vsebin se bo nadaljevalo.”

To ni napaka. To je strategija.

Takšne zgodbe ne prihajajo samo iz Amerike. Deepfake videoposnetki so se sistematično širili med konflikti v Rusiji in Ukrajini, v Gazi, ter pri vplivu na volitve po celem svetu. Vas zanima, kdo jih je sponzoriral? Državni aparati.

Coffeezilla v videu lepo povzame mehaniko: ko nekdo, ki ga politično podpiraš, uporabi deepfake, je to “meme” ali “šala”. Ko ga uporabi nasprotnik, pa gre za nevarno dezinformacijo. Enaka tehnologija, enaka laž — drugačna etiketa, odvisno od tega, kdo jo ocenjuje in o njej poroča.

Propaganda ne kriči, ampak utruja

Eden od sogovornikov v videu — oseba, ki dobro pozna propagando — je omenil nekaj zelo zanimivega:

Propaganda ne deluje tako, da te prepriča v laž. Deluje tako, da te utrudi od iskanja resnice. Ko vidiš dovolj lažnih posnetkov — dovolj “a je to mogoče deepfake?” ali “kdo pa sploh še ve, kaj je res” — preprosto nehaš iskati.

In to je točno tisto, kar želi doseči.

Joe Rogan — podcaster z več kot 20 milijoni poslušalcev na epizodo — si je v svojem studiu v živo ogledal videoposnetek nekega politika. Prepričan je bil, da gre za resničen posnetek In sprva ga je vneto zagovarjal. Ko mu je sodelavec povedal, da gre za deepfake, se je še vedno upiral: “Ampak vem, da je to naredil on, ker človeka poznam.”

Šele ko je postalo popolnoma očitno, je popustil.

To pa je pomembno sporočilo: deepfake mu ni bil všeč, ker bi bil tako prepričljiv, ampak zato, ker je potrdil tisto, kar si je že mislil. Možgani so naredili ostalo.

Enako velja za vse nas. Kadar vidimo posnetek, ki potrjuje naša prepričanja — tega ne gremo preverjati, ampak vzamemo za dokaz in dejstvo. Deepfake pa računa točno na to.

Kdo pa vas ‘nateguje’? Vsakdo, ki to hoče

Prevaranti so seveda prvi na vrsti. Znane osebe — od Elona Muska do domačih zdravnikov z ogromno sledilci — so vsak dan zlorabljane za oglase sumljivih naložb, kripto shem in čudežnih zdravil. Oseba na posnetku tega ni rekla. Tega ni podprla. Sploh ne ve, da se to dogaja.

Klicni centri nadomeščajo človeške operaterje z AI glasovi, ki zvenijo kot vaš vnuk v težavah ali bančni uradnik, ki zahteva hitro ukrepanje. Ampak resnica je bolj neprijetna: prevaranti so vsaj iskreni glede svojih motivov. Zaslužiti hočejo denar. Kaj pa mediji in politika? So njihovi interesi in cilji res jasni?

Tu pa se odpira nova, še bolj neprijetna dilema. Ko politik pred volitvami izjavi nekaj spornega o nasprotniku, ko zdravnik priporoči dvomljiv izdelek, ko župan obljubi nekaj, česar ne namerava izpolniti — se danes lahko enostavno izgovori: “To nisem bil jaz. To je deepfake.”

Dokazati nasprotno je vse težje. Škoda je že storjena, javnost je že prepričana, in izgovor je tehnično neoporečen.

Poznate ta vzorec? Nekdo izpostavi neprijetno dejstvo ali vprašanje — ki ga izpostavljeni takoj ga označijo za “teorijo zarote”. Ničesar ni treba dokazati, ničesar pojasniti. Etiketa naredi svoje. Javnost se obrne stran, dvom je pokopan.

Deepfake deluje po istem principu, samo v obratno smer. Namesto da bi pokopali dvom, pokopljejo dokaz. “To nisem bil jaz. To je deepfake.” Spet ni treba nič dokazati. Etiketa naredi svoje.

Isti vzorec. Enak učinek. Novo orodje — darilo nove tehnologije. Bomo tudi tu priča vse več zlorab? Odgovor poznamo vsi. Zavedamo se ga pa (še) ne.

Preden zaključim — poglejte si original. Spodaj je povezava na video, na katerem temelji moj zapis:

Ni kratek. Je pa vreden 40 minut vašega časa, ker boste po njem na televizijski dnevnik in ostale novice mogoče gledali malce drugače.

Na koncu pa vprašanje, ki si ga lahko zastavi vsak:

Kdaj sem nazadnje videl posnetek, ki je tako lepo potrjeval tisto, kar sem že ‘vedel’ — da mi sploh ni padlo na pamet, da bi ga preveril?

Točno tam (vse nas) čaka nekdo, ki na to računa.

Borut Kmetič

Poklicno se ukvarjam s področjem informacijske varnosti — od načrtovanja in uvedbe sistemov varovanja informacij do presojanja skladnosti z mednarodnimi standardi.

Kot zunanji svetovalec organizacijam pomagam, da varnost ni le obveznost, ampak del zrele poslovne kulture.

Zasebno pa se posvečam vprašanju, ki me zanima enako globoko: kako živeti bolje. Biohacking, sistemsko razmišljanje, eksponentne organizacije, prebojne ideje in tehnologije, ki oblikujejo prihodnost. Prepričan sem, da dobro življenje ni naključje — ampak sad zavestnih odločitev in poguma, da jih tudi živiš.

Borut@SmartAssets.it
Borut@Medium

The post Trump, Putin, Musk, Zuckerberg… Veste, kaj vse je resnično? appeared first on Savus.