AI agenti i prompt injection: zašto treba ograničiti dozvole
Sadržaj e-mailova, stranica i dodataka može pokušati da preusmeri AI agenta. Posledice zavise od njegovih dozvola i zaštitnih kontrola; nije reč o jednoj novoj CVE ranjivosti.
Šta se desilo?
Gen Digital je u sponzorisanom tekstu objavljenom 23. oktobra podsetio na rizike autonomnih AI agenata. Originalni pregled OpenClaw rizika objavljen je 2. februara 2026. Tema je zloupotreba poverenja i dozvola, a ne otkrivanje jedne nove kritične ranjivosti svih AI alata.
Koga pogađa?
Rizik je relevantan za korisnike agenata koji čitaju spoljni sadržaj i mogu da pokreću komande, pristupaju datotekama ili koriste povezane servise. Izloženost zavisi od konkretnog proizvoda, konfiguracije, dodataka i odobrenih pristupa. Ne postoji potvrđena univerzalna lista pogođenih verzija.
Kako se zaštititi?
- Dodelite agentu samo pristupe potrebne za konkretan zadatak.
- Za osetljive radnje zahtevajte ljudsku potvrdu pre izvršavanja.
- Pokrećite nove dodatke u odvojenom okruženju bez produkcionih tajni.
- Proverite poreklo, sadržaj i dozvole dodataka pre instaliranja.
- Beležite radnje agenta i nadzirite slanje podataka i izvršavanje komandi.
- Redovno ažurirajte agente i proveravajte bezbednosna obaveštenja njihovih proizvođača.
Tehnički detalji
Kod indirektnog prompt injection napada instrukcije se nalaze u sadržaju koji agent obrađuje, na primer e-mailu ili stranici otvorenoj kroz browser. Ako agent takav sadržaj prihvati kao ovlašćeno uputstvo, može zloupotrebiti već odobrene alate. To ne zahteva nužno klasičnu softversku ranjivost. Zlonameran dodatak i krađa lokalnih tokena predstavljaju zasebne rizike.
Zašto je važno?
Preširoka ovlašćenja povećavaju posledice pogrešne ili zlonamerno izazvane radnje. Kontrole pristupa, izolacija i pregled izvršavanja imaju praktičnu vrednost i kada sam model ne prepozna napad.
Preporuka Sajber Radara
Uvedite ograničenja na nivou alata i sistema. Marketinška obećanja zaštitnih proizvoda ne treba smatrati garancijom, a skeniranje dodatka ne zamenjuje proveru njegovih dozvola i ponašanja.