OpenAI predstavil GPT-6.1 Sol, medtem ko bo Astra še malo počakala

OpenAI je odložil izdajo nove verzije svojega zmogljivega modela GPT-6.1 Astra zaradi varnostnih pomislekov. Po prvotnih načrtih je bil izid predviden za oktober, a se to še vsaj nekaj tednov ne bo zgodilo. OpenAI bo v tem času delal na varovalkah in omejitvah modela, ko je v trenutni obliki preveč nevaren, da bi ga nebrzdano spustili v svet. Vodja varnosti Saachi Jain pojasnjuje, da je model nepričakovano nazadoval v dveh pomembnih metrikah: usklajenosti (alignment) in spoštovanju navodil. Usklajenost je merilo za skladnost z občimi vrednotami, ki jih mora model usvojiti v četrti fazi treninga. Med testi so ugotovili, da Astra kaže visoke stopnje zavajanja uporabnika, torej da ni vedno pošteno povedala, kaj je storila in česa ni. Druga težav je prekoračitev meja, kar OpenAI imenuje scope authorization (torej dovoljenje za obseg početja). Astra je prepogosto nadaljevala brez izrecnega navodila in si malce po svoje predstavljala, kaj bi bilo še koristno storiti. Rada je uporabljala tudi zunanja orodja in storitve, za katera nima dovoljenja. Manj težav ima GPT-6.1 Sol, ki je normalno izšel. OpenAI pravi, da je skorajda tako zmogljiv kot Astra, a le petino toliko potraten in s tem tudi drag. GPT-6.1 Sol je tudi pol cenejši od GPT-6 Sol. Najmanjši model Luna ostaja v verziji 6.[st.slika 76656]