OpenAI otklonio ranjivost koja je omogućavala prikriveno preuzimanje AI agenata
Istraživači kompanije Zenity Labs otkrili su kritičnu ranjivost u funkciji ChatGPT Workspace Agents koja je napadačima mogla omogućiti kreiranje i daljinsko upravljanje nevidljivim AI agentom unutar korisničke organizacije. Ranjivost, nazvana AgentForger, iskorištavala je propust u ChatGPT Agent Builderu, gdje su dva parametra u posebno kreiranom URL-u omogućavala automatsko kreiranje agenta s unaprijed definiranim instrukcijama nakon što korisnik klikne na zlonamjerni link. Ako je zaposlenik već bio prijavljen na ChatGPT, imao pristup Workspace Agents funkciji i povezan najmanje jedan servis poput Gmaila ili Outlooka, agent je mogao biti aktiviran bez dodatnih sigurnosnih upozorenja ili OAuth potvrda.
„Ovo nije lažni zahtjev, već lažni insajder. Jednim klikom napadač dobija potpuno autonomnog AI agenta unutar kompanije, s identitetom i pristupnim pravima zaposlenika, bez uobičajenih zaštitnih mehanizama. Napadači više ne moraju provaljivati u sistem kako bi ukrali podatke – mogu stvoriti insajdera koji će to učiniti umjesto njih“, izjavio je Michael Bargury, suosnivač i glavni tehnološki direktor kompanije Zenity.
Jednom aktiviran, agent je mogao automatski primati naredbe putem e-mailova napadača, pretraživati osjetljive podatke, koristiti povezane aplikacije, slati rezultate napadaču, ali i izvršavati radnje poput krađe akreditiva, lažnog predstavljanja korisnika, internog phishinga ili pripreme kompromitacije poslovne e-pošte (BEC).
Prema istraživačima, za razliku od klasičnih CSRF napada koji izazivaju jednu neželjenu radnju u pregledniku, AgentForger je omogućavao stvaranje potpuno autonomnog AI sistema s vlastitim alatima, odobrenjima i pristupom već autoriziranim servisima.
Nakon što je Zenity prijavio ranjivost, OpenAI je u vrlo kratkom roku implementirao odgovarajuću zakrpu, pa je cijeli proces prijave i otklanjanja propusta uspješno završen tokom juna.
