Mesec varne rabe interneta letos opozarja na tveganja umetne inteligence za mlade

V mesecu varne rabe interneta, ki se začenja danes in v katerem zaznamujemo tudi dan varne rabe interneta, bodo na Safe.si z različnimi aktivnostmi opozarjali predvsem na izzive in tveganja, ki jih za otroke in mladostnike prinaša umetna inteligenca (UI). Za varno in odgovorno uporabo UI so za mladostnike pripravili tudi nekatera priporočila.

UI se je v nekaj letih razvila v tehnologijo, ki je zelo prisotna v naših življenjih, opozarjajo na Točki osveščanja o varni rabi interneta Safe.si, ki deluje v okviru ljubljanske fakultete za družbene vede. V javnosti se veliko pozornosti posveča pozitivnim vidikom uporabe UI, medtem ko se o tveganjih govori bistveno premalo, so poudarili.

Mladostniki, ki hitro sprejemajo nove tehnologije, so pri tem še posebej izpostavljeni. Na Safe.si podrobno spremljajo tveganja, ki jih mladostnikom prinaša UI. Med bolj problematične uvrščajo napačne informacije. Mladi pri šolskem delu namreč pogosto uporabljajo orodja UI, katerih odgovori lahko vsebujejo napake. Učencem zato svetujejo, naj informacije vedno preverijo tudi v učbenikih. Šolam bodo poslali tudi plakat, ki opozarja na tveganja napačnih odgovorov.

Posebno tveganje predstavljajo tudi klepetalniki, kot sta MyAI in ChatGPT, saj mladostnike zlahka zavedejo v prepričanje, da se pogovarjajo s pravo osebo. Mladi se lahko nanje čustveno navežejo, kar lahko vodi v nerealna pričakovanja do soljudi in težave v razvoju. Na Safe.si poudarjajo, da gre za algoritme brez čustev, katerih nasveti so lahko celo nevarni.

Na točki za prijavo posnetkov spolnih zlorab otrok Spletno oko pa so opozorili tudi na velik izziv, ki se navezuje na predelave posnetkov s spolno vsebino oz. na t. i. deepnude. Storilci zlorab na tem področju brez privolitve s pomočjo UI vstavijo obraze žrtev v posnetke spolne narave, ki so lahko videti zelo prepričljivo. Čeprav gre za lažne podobe, so posledice za žrtve lahko resne, so navedli.

Za varno, odgovorno in zdravo uporabo UI so na Safe.si za mladostnike pripravili nekatera priporočila. Med drugim izpostavljajo, da naj mladostniki med 13. in 18. letom orodja generativne UI uporabljajo le z dovoljenjem staršev. Informacije, ki jih prejmejo, naj vedno preverijo pri zanesljivih virih, nikoli pa naj v teh orodjih ne delijo osebnih podatkov.

Uporabljajo naj le zaupanja vredna orodja. Pomembno je, da imajo nadzor nad pogovorom. Če odgovori povzročajo neprijetne občutke, naj pogovor prekinejo ali spremenijo temo. Škodljive ali neprimerne vsebine naj prijavijo ponudnikom storitve.

UI naj uporabljajo etično in odgovorno, na primer za učenje, raziskovanje in kreativnost, ne pa za goljufanje ali nasilje. Pri aplikacijah in igrah, ki temeljijo na UI, pa naj bodo zmerni, da se izognejo tveganju zasvojenosti.

Da bi mladostnike, starše in učitelje še dodatno opozorili na tveganja in jih spodbudili h kritičnemu premisleku, na Safe.si v februarju pripravljajo številne aktivnosti. Med drugim bodo 13. februarja organizirali spletni seminar za starše in konferenco za učitelje in druge šolske delavce, ki bo potekala na Fakulteti za družbene vede Univerze v Ljubljani.

Dan varne rabe interneta, 11. februar, je osrednji dogodek evropske mreže centrov za varnejši internet. Znotraj nje že od leta 2005 uspešno deluje tudi slovenski Center za varnejši internet in Safe.si. V Sloveniji smo dan prvič praznovali leta 2006, kot glavni koordinator za Slovenijo pa so ga na Safe.si razširili na ves februar, ki so ga poimenovali mesec varne rabe interneta.