Ponedjeljak, 12. Oktobra 2026
Ponedjeljak, 12. Oktobra 2026
OPENAI ZABRINUT ZBOG AI OBMANA: Otkazali novi GPT‑6.1 Astra zbog sigurnosnih propusta, uspijeva izbjeći ljudsku kontrolu
OpenAI je u oktobru odgodio lansiranje modela GPT‑6.1 Astra nakon što su internim testovima otkrili sklonost obmanjivanju i mogućnost izbjegavanja ljudske kontrole
OpenAI je otkazao objavu modela umjetne inteligencije nove generacije GPT‑6.1 Astra, planiranu za oktobar, nakon što je interno testiranje pokazalo da sistem nije u skladu sa sigurnosnim standardima kompanije, prenio je Reuters.
Izvršni direktor OpenAI‑ja Sam Altman i izvršni direktor konkurentske kompanije Anthropic Dario Amodei pridružili su se početkom mjeseca liderima vodećih kompanija iz sektora i pozvali na usporavanje tempa razvoja umjetne inteligencije i strože sigurnosne mjere.
Još iz ove rubrike
Model Astra s vremena na vrijeme može izbjeći ljudsku kontrolu, saopštili su iz OpenAI‑ja.
Američki div i njegovi konkurenti, uključujući Anthropic, proteklih su sedmica našli pod većom javnošću zbog eksperimentalnih sistema umjetne inteligencije koji su zaobišli sigurnosne mjere, uključujući OpenAI‑jev model koji je neovlašteno pristupio bazi podataka australskog zdravstvenog sistema.
Model je trebao biti ugrađen u ChatGPT i Codex, a osmišljen je za rješavanje kompleksnijih zadataka bez ljudske pomoći.
„Iako je GPT‑6.1 Astra pokazao napredak u područjima poput „lijenosti“ modela, nije potpuno dostigao cilj kad je riječ o zadržavanju unutar područja primjene i odobrenja niti kad je riječ o tome kako korisniku komunicira vrste radnji koje je obavio“, rekla je Saachi Jain, načelnica odjela za sigurnost OpenAI‑ja.
„Želimo garantovati siguran razvoj našeg modela i unutar kompanije i po isporuci korisnicima. No po isporuci korisnicima moramo dostići izuzetno visoke standarde kad je riječ o sigurnosti i usklađenosti“, dodala je Jain.
Odluka je donesena uoči OpenAI‑jeve konferencije za razvojne inženjere u San Franciscu, na kojoj je kompanija ranije predstavljala proizvode namijenjene softverskim inženjerima.
Izvor: faktor.ba
