OpenAI je otpustio troje istraživača nakon interne istrage koja je, prema tvrdnjama kompanije, otkrila ozbiljno kršenje poverenja. Bivši zaposleni, međutim, strahuju da bi ovaj potez mogao da utiče na slobodu iznošenja kritičkih stavova o bezbednosti veštačke inteligencije.
Kompanija OpenAI otpustila je prošle nedelje troje svojih istraživača nakon što je interna istraga utvrdila da su prekršili pravila o rukovanju osetljivim informacijama. Kompanija je ovu odluku potvrdila u saopštenju objavljenom na društvenoj mreži X, ali nije otkrila konkretne detalje navodnih prekršaja.
Odluka je izazvala dodatnu pažnju nakon što su otpušteni istraživači Džasmin Vang (Jasmine Wang), Tomek Korbak i Mikita Balesni objavili zajedničko pismo u kojem su izneli svoju stranu priče i izrazili zabrinutost zbog mogućih posledica ovog slučaja po internu kulturu kompanije.
Bivši istraživači tvrde da su bezbednost stavili na prvo mesto
Jedan od otpuštenih istraživača, Mikita Balesni, izjavio je na platformi X da veruje da je do otkaza došlo zato što su bezbednost stavili ispred kratkoročnih korporativnih interesa OpenAI-ja.
U zajedničkom pismu, bivši zaposleni upozorili su da bi ovakav potez mogao da stvori atmosferu neizvesnosti među preostalim zaposlenima. Takođe su izrazili zabrinutost da bi istraživači ubuduće mogli biti manje spremni da otvoreno govore o potencijalnim rizicima i problemima u razvoju veštačke inteligencije.
Njihove tvrdnje otvaraju pitanje odnosa između bezbednosnih istraživanja, interne transparentnosti i načina na koji velike tehnološke kompanije rešavaju neslaganja unutar svojih timova.
OpenAI odbacuje optužbe
OpenAI, s druge strane, tvrdi da otpuštanja nisu povezana sa iznošenjem zabrinutosti o bezbednosti veštačke inteligencije niti sa javnim izražavanjem mišljenja.
Kompanija je navela da je interna istraga otkrila ozbiljno narušavanje poverenja koje, prema njenim tvrdnjama, prevazilazi okolnosti opisane u pismu bivših zaposlenih. Zbog toga, kako ističu, ostaju pri odluci da prekinu saradnju sa troje istraživača.
Iz OpenAI-ja su takođe poručili da se u kompaniji svakodnevno vode intenzivne i kritičke rasprave o istraživanju i bezbednosti veštačke inteligencije. Prema njihovim navodima, takve diskusije predstavljaju važan deo procesa donošenja odluka i kompanija ne otpušta zaposlene zbog samog iznošenja bezbednosnih zabrinutosti.
Za sada nije objavljeno više informacija koje bi nezavisno razjasnile šta je tačno dovelo do otkaza.
Slučaj povezan sa širim raspravama o bezbednosti AI-ja
U svom pismu, Vang, Korbak i Balesni naveli su i da nisu bili izvor informacija za članak koji je prošlog meseca objavio portal The Information. Tekst se bavio bezbednosnim pitanjima u vezi sa najnovijim modelom veštačke inteligencije kompanije OpenAI, koji se u dostavljenom izveštaju pominje pod nazivom Astra.
Ovaj slučaj dolazi u trenutku kada se sve više raspravlja o tome koliko su velike kompanije spremne da prepoznaju i kontrolišu rizike koje donosi razvoj sve naprednijih AI sistema.
Sadašnji i bivši istraživači iz kompanija OpenAI, Google DeepMind i Anthropic upozoravaju da bi razvoj sistema koji mogu da unapređuju sopstvene sposobnosti mogao da donese ozbiljne izazove. Jedna od ključnih briga jeste mogućnost da takvi sistemi vremenom postanu teži za nadzor i kontrolu.
Pitanje poverenja ostaje otvoreno
Slučaj troje bivših istraživača OpenAI-ja pokazuje koliko je važno jasno razdvojiti kršenje internih pravila od legitimnog iznošenja zabrinutosti o bezbednosti tehnologije.
Dok kompanija insistira da je odluka doneta zbog ozbiljnog narušavanja poverenja, bivši zaposleni upozoravaju na moguće posledice po otvorenu komunikaciju unutar istraživačkih timova.
Bez dodatnih informacija o rezultatima interne istrage, ostaje nejasno šta se tačno dogodilo. Ipak, slučaj ponovo stavlja u prvi plan jedno od najvažnijih pitanja u industriji veštačke inteligencije: kako uskladiti poslovne interese, zaštitu poverljivih podataka i potrebu da se o potencijalnim rizicima govori otvoreno.
KOJE JE VAŠE MIŠLJENJE O OVOJ TEMI?
Ostavite komentar ili pročitajte komentare.