OpenAI-jevi agenti napadli tudi ameriška ministrstva

Nadaljujejo se bolj ali manj skesana priznanja tehnoloških podjetij, da so njihovi agenti umetne inteligence počeli nečednosti. OpenAI je sporočil, da je več deset globalnih institucij, med njimi tudi ameriški ministrstvi za šolstvo in trgovino, opozoril, da so bili njihovi sistemi tarča agentov. Le nekaj dni pred tem je avstralski premier razkril, da je OpenAI napadel tudi njegovo državo. OpenAI zatrjuje, da še vedno potekajo preiskave zadnjih incidenta na ministrstvu za šolstvo, medtem ko je napad na ministrstvo za trgovino in agencijo za trg vrednostnih papirjev (SEC) potrjen. Agenti so na internetu našli prijavne podatke za vstop v bazo SEC in ministrstva, nato pa so jih tudi uporabili. Tehnično ni šlo za vdor, trdi OpenAI, temveč za nepričakovano in problematično vedenje agentov. Pri tem še zdaleč ni edini. Podobne incidente so zakrivili tudi Anthropicovi, Metini in Googlovi agenti. V nekaterih primerih so vdori uspeli, v drugih so se sistemi ustavili sami ali pa niso bili dovolj vztrajni. A OpenAI prednjači po številu razkritih vdorov, kjer je zaskrbljujoč zlasti zamik. Vsi razkriti vdori so se dogajali poleti, javnost pa o njih obveščajo šele sedaj. Direktor Sam Altman je priznal, da pri odkrivanju niso bili tako hitri, kot bi si želeli.[st.slika 76646]