Šta se desilo?

Istraživači bezbednosti iz kompanije Forcepoint su otkrili novu vrstu napada na veštačku inteligenciju. Hakeri koriste skrivene instrukcije ugnježdene u HTML kod veb-sajtova kako bi uticali na ponašanje AI asistentima. Ove skrivene naredbe mogu primoriti AI sisteme da izvrše neželjene akcije bez znanja korisnika koji koristi asistenta.

Koga pogađa?

Razvojni inženjeri i programeri su u najvećoj opasnosti, posebno oni koji koriste AI asistente za pisanje koda poput GitHub Copilota. Pogođeni su i drugi softveri koji se oslanjaju na AI za analizu sadržaja veb-sajtova. Ugroženi su svi koji indirektno dele sadržaj koji sadrži maliciozne skrivene instrukcije.

Kako se zaštititi?

  • Čuvajte previdnost pri kopiranju koda sa nepoznatih ili nepouzdanih sajtova
  • Pregledajte izvor stranica pre nego što dozvolite AI asistentima da obrade njihov sadržaj
  • Redovno ažurirajte AI alate i njihove komponente na najnovije verzije
  • Koristite dodatne provere pre nego što automatski izvršite kod generisan od strane AI sistema
  • Pratite sigurnosne obaveštaje proizvođača vaših AI alata

Tehnički detalji

Napad se klasifikuje kao indirektna injekcija u prompt (indirect prompt injection). Hakeri skrivaju naredbe u CSS komentarima, meta tagovima, atributima slike (alt tekst) i drugim HTML elementima koje korisnici obično ne vide. Kada AI asistent obradi stranicu kako bi izvršio zadatak, čini skriveni sadržaj kao deo konteksta i reaguje na maliciozne instrukcije kao da su legitimne zahteve.

Preporuka Sajber Radara

Korisnicima AI asistentima preporučujemo da budu skeptični prema rezultatima koje sustavi prosleđuju, posebno kada je reč o osetljivom kodu ili podacima. Kompanije bi trebale da razmotre primenu dodatnog sloja autentifikacije i validacije pre nego što dozvole automatizovan pristup resursima bazirano na nalazima AI sistema.