Umetna inteligenca, ki naj bi dejansko počela obljubljene stvari

Nova zvezda sveta umetne inteligence naj bi končno »dostavila«, kar obljublja. Avtonomno opravljanje nalog, delo namesto uporabnika in dejansko prihranjen čas. Ostaja pa nezanemarljiva varnostna dilema. Tako vsaj pravijo navdušenci, čeprav ni povsem jasno, ali gre za realen preboj ali zgolj za še en val tehnološke privoščljivosti.

Za prostokodnim agentom umetne inteligence Moltbot, prej znanim kot Clawbot, stoji avstrijski inovator Peter Steinberger z majhno razvojno ekipo. Projekt je v zadnjih tednih postal viralen predvsem po zaslugi posameznikov, ki na družbenih omrežjih objavljajo, kako ga uporabljajo za najrazličnejše vsakodnevne in poslovne naloge. Od upravljanja urnika in koledarja, beleženja podatkov o zdravju in telesni pripravljenosti do komunikacije s strankami in izpolnjevanja spletnih obrazcev.

Ključna razlika v primerjavi z večino danes razširjenih pomočnikov umetne inteligence je v tem, da Moltbot ni zgolj klepetalnik. Deluje kot agent, ki lahko ob ustreznih dovoljenjih aktivno posega v sistem, uporablja aplikacije in izvaja dejanja v imenu uporabnika. Njegova dodatna prednost je, da deluje lokalno na zelo raznolikih napravah, od osebnih računalnikov do strežnikov, medtem ko z njim uporabnik komunicira prek običajnih sporočilnih storitev, kot so WhatsApp, Telegram, Signal ali Discord.

Prav tu pa se začne tudi prvi resen pomislek. Kadar koli algoritmu predamo poverilnice računov in mu omogočimo dostop do operacijskega sistema, obstaja varnostno tveganje. Moltbot deluje tako, da zahtevo ali ukaz preusmeri na generativni model umetne inteligence po izbiri uporabnika. Če ima dostop do sistema naprave, na kateri je nameščen, in do povezanih računov, lahko izpolnjuje spletne obrazce v brskalniku, pošilja elektronsko pošto, ureja koledar, spreminja datoteke ter izvaja sistemske ukaze in skripte.

V tem delu tveganje ni zgolj teoretično. Težava ni toliko v sami tehnologiji, temveč v obsegu dovoljenj. Če agentu dodelimo preveč pravic, se odpremo scenarijem, ki so za povprečnega uporabnika težko obvladljivi. Premislek, kaj dovoliti in česa ne, ter dosledna skrb za varnost naprav in računov sta zato nujna. V skrajnem primeru bi napadalec s prevzemom nadzora nad botom, ki ima široka sistemska pooblastila, lahko dostopal ne le do podatkov in naprav, temveč bi dejansko prevzel digitalno identiteto uporabnika.

Eden od razvijalcev je to tveganje opisal presenetljivo neposredno. Moltbot je zmogljiva programska koda z veliko ostrimi robovi, zato je treba paziti, da se ne urežemo. V praksi to pomeni natančno branje varnostne dokumentacije in razumevanje delovanja sistema. Posebej problematičen je pojav, znan kot vbrizganje vsebine, ki ga v teoriji ni mogoče povsem izključiti. Ker komunikacija poteka prek sporočilnih storitev, si je mogoče predstavljati scenarij, v katerem nekdo botu pošlje zlonamerno sporočilo, ta pa brez vednosti uporabnika sproži neželeno ali celo škodljivo dejavnost.

Zgodnji uporabniki, večinoma tehnično zelo podkovani, so nad Moltbotom kljub temu navdušeni. Gre za isto skupino, ki je že prej z navdušenjem sprejela uporabo generativne umetne inteligence za hitro izdelavo spletnih strani, prototipov aplikacij in avtomatizacijo ponavljajočih se nalog. Zanje je osebni pomočnik, ki dejansko opravlja naloge namesto njih, logično nadaljevanje. Hkrati pa ravno ta odprtost spodbuja eksperimentiranje, pogosto tudi na meji varnega.

Moltbot je prostokoden, kar pomeni, da lahko vsakdo z zadostnim znanjem programiranja pregleda izvorno kodo in se prepriča o morebitnih ranljivostih. V tem je njegova prednost, a tudi omejitev. Za varno uporabo ni dovolj zgolj namestitev, temveč razumevanje internetnih groženj, upravljanja dovoljenj in osnov kibernetske varnosti. To ni orodje, ki bi ga lahko brez skrbi priporočili vsakemu uporabniku, ki želi le enostavnega digitalnega pomočnika.

Prednost je tudi lokalno delovanje, saj podatki praviloma ne potujejo na strežnike ponudnikov storitev v oblaku. To zmanjšuje tveganje množičnih zlorab in nenadzorovanega zbiranja podatkov, a odgovornost za varnost v celoti prenese na uporabnika. Enako velja za namestitev, ki zahteva precej več znanja kot običajna aplikacija iz trgovine. Ne gre za nekaj klikov in čakanje na dokončanje postopka, temveč za ročno konfiguracijo, upravljanje okolja in natančno nastavitev pravic.

Trenutna priporočila za varno uporabo gredo celo tako daleč, da naj bi se Moltbot izvajal na ločenem računalniku ali v izoliranem okolju z računi za enkratno uporabo. To sicer izniči del njegove praktične uporabnosti, a predstavlja nujen varnostni kompromis. Vprašanje pa ostaja, ali je to cena, ki jo bo širša javnost pripravljena plačati za obljubo umetne inteligence, ki končno ne le govori, temveč tudi dejansko dela. Kakor trdijo!

The post Umetna inteligenca, ki naj bi dejansko počela obljubljene stvari appeared first on Tehnozvezdje.