OpenAI uvodi novu zaštitu kako bi sprečio biološke rizike kod najnovijih AI modela
OpenAI je razvio novi sistem za nadgledanje svojih najnovijih AI modela, o3 i o4-mini. Ovaj sistem je dizajniran da prepozna i blokira upite koji se odnose na biološke i hemijske pretnje. Cilj je da se spreči da modeli daju savete koji bi mogli pomoći u izvođenju opasnih napada. Novi modeli – veće mogućnosti, ali i veći rizici Modeli o3 i o4-mini predstavljaju značajan napredak u odnosu na prethodne verzije. Ipak, upravo ta poboljšanja donose i veći rizik u pogrešnim rukama. Interna testiranja pokazala su da model o3 ima bolju sposobnost odgovaranja na pitanja vezana za izradu određenih bioloških pretnji. Sistem za bezbednosno rezonovanje Zbog toga je OpenAI razvio novi sistem koji opisuje kao "monitor za rezonovanje sa fokusom na bezbednost". Ovaj sistem je posebno treniran da razume politiku sadržaja kompanije. Radi kao dodatni sloj iznad modela o3 i o4-mini. Zadatak […]
