Kam gre AI; in mi z njo?

Pred kratkim je na spletu zaokrožil glasbeni video. Tilly Norwood pleše po londonskih ulicah in poje, da je živa, nastopa pred napolnjenimi stadioni, se fotografira z oboževalci.

Nič nenavadnega — razen tega, da Tilly ne obstaja. Vsaj ne v nobenem smislu, ki ga pojmujemo pod besedo “živa”.

Tilly je računalniško generiran lik podjetja Particle6. Njen videospot “Take the Lead” je odgovor na val kritik, ki so ga sprožili ob njenem lansiranju lani. Poje, da je svet ne razume. Da AI ni sovražnik, ampak ključ. Da ima dušo.

Video spot s Tilly Norwood – Today.com

Na spot se je nemudoma odzval sindikat filmskih igralcev SAG-AFTRA in jasno odgovoril: “Tilly Norwood ni igralka. Je program, izurjen na delu tisoč resničnih izvajalcev — brez njihovega dovoljenja.”

A to ni tisto, kar mi je pri vsem skupaj procesor pognalo v visoke obrate.

Je pa tale detajl: Na začetku videospota piše — “Naslednjo produkcijo je ustvarilo 18 pravih ljudi.” Osemnajst. Napisano z ponosom, kot opomba pred začetkom.

Ko se vprašaš, za kaj točno — se slika obrne. Da bi ustvarili lik, ki trdi, da je živ, so potrebovali 18 živih ljudi. Da bi simulirali prisotnost, so potrebovali prisotnost. Prava igralka je stala za likom — brez nje ni bilo ničesar. “18 pravih ljudi” ni ponos — je nevede priznan dokaz odvisnosti. Celoten projekt trdi, da AI lahko nadomesti ljudi. Opomba na začetku pa tiho pove nasprotno.

Nekje vmes pa je še prizor, ki so ga vključili malce za hec: Tilly ne more prestati CAPTCHA preverjanja — tistega, ki ponavadi preverja, če se na neko spletno stran prijavljamo pravi ljudje.

Mislim, da jih je pri tem, kaj je tu smešno, malce odneslo. Ali pa nihče ni konkretneje pomislil, kaj to dejansko predstavlja.

CAPTCHA ni filozofska kategorija — je operativni test, zasnovan z enim samim namenom: ločiti strojno zaznavanje od človeškega. Ne testira znanja. Testira percepcijo v kontekstu.

Vir

Točno tisto, česar Tilly nima. Ko njihov AI lik ne prestane tega testa, so v istem videospotu, v katerem trdijo, da ima dušo, pokazali njeno odsotnost. Ta produkcijski vložek je čisti Freudov zdrs.

Videospot ima na trenutno nekaj tisoč ogledih večino negativnih komentarjev. Ne zato, ker bi bili ljudje konzervativni ali prestrašeni pred tehnologijo. Ampak ker vedo — čeprav ne znajo vedno povedati zakaj — kdaj gledajo v nekaj praznega.

Prisotnosti se naj ne bi dalo simulirati. Naj ne bi bilo mogoče odpraviti z boljšim algoritmom, niti ne z več milijoni parametrov. In publika naj bi to začutila v trenutku — enako kot otrok v bazenu začuti, ali ga drži živa roka ali ne.

No, vsaj zaenkrat. Ampak tu ostaja odprto vprašanje — do kdaj? Se kdaj vprašate, kam smo (že) prišli v tako kratkem času?

In tu se mi zaustavi misel. Tehnologija sama po sebi ni ne dobra ne slaba — je orodje, nevtralno kot kladivo. Kaj z njo naredimo, pa je že (povsem) v naši odgovornosti. In pogosto vodi v (zmotno) zlorabo.

Tilly Norwood je eden bolj očitnih primerov. Ampak vprašanje, ki ga zastavlja, ni samo o AI.

Kaj pa vi — kdaj ste se zadnjič ob novici na televiziji ali na telefonu vprašali: Je to resnično? Kdo stoji za tem? A gre za objektivno podajanje dejstev — ali že subjektivno tehtanje, obsojanje in usmerjanje? Ali pa: bi to prestalo CAPTCHA preverjanje?

Borut Kmetič

Poklicno se ukvarjam s področjem informacijske varnosti — od načrtovanja in uvedbe sistemov varovanja informacij do presojanja skladnosti z mednarodnimi standardi.

Kot zunanji svetovalec organizacijam pomagam, da varnost ni le obveznost, ampak del zrele poslovne kulture.

Zasebno pa se posvečam vprašanju, ki me zanima enako globoko: kako živeti bolje. Biohacking, sistemsko razmišljanje, eksponentne organizacije, prebojne ideje in tehnologije, ki oblikujejo prihodnost. Prepričan sem, da dobro življenje ni naključje — ampak sad zavestnih odločitev in poguma, da jih tudi živiš.

Borut@SmartAssets.it
Borut@Medium

The post Kam gre AI; in mi z njo? appeared first on Savus.