Šta se desilo?

Kompanija Antropic objavila je rezultate svojog programa Project Glasswing, gde je AI model Mitos u prvom mesecu rada identificirao preko 10.000 ozbiljnih i kritičnih bezbednosnih propusta u sistematski važnom kodu. Pronalaženja su poticala iz izveštaja partnera i nezavisnih evaluacija, što predstavlja jedan od prvih velikih pregleda mogućnosti frontier AI modela primenjenog na široko korišćeni kod.

Koga pogađa?

Rizik pogađa sve organizacije - od velikih tehnoloških kompanija, finansijskih institucija, otvorenog koda projekata, pa do vlada i institucija od sistemskog značaja. Posebno su ranjive institucije sa kritičnom infrastrukturom i ona koja upravlja osetljivim podacima. Istovremeno, rezultati pokazuju kako AI može biti koristan alat u rukama zaštitnika kada se koristi odgovorno.

Kako se zaštititi?

  • Prioritizujte pronađene propuste prema težini i sistematskoj važnosti koda
  • Investirajte u povećanje kapaciteta za trijaže, analizu i ispravljanje grešaka
  • Razmotrите korišćenje Claude Security alata ili sličnih rešenja za detekciju propusta
  • Uspostavite jasne komunikacijske kanale sa maintainerima open-source projekata pre nego što objavljujete pronađene vulnerabilnosti
  • Razvijajte i primenjujte stroge sigurnosne standarde pre nego što uvrstite nove AI alate u vašu infrastrukturu

Tehnički detalji

Program Project Glasswing istražio je preko 1.000 open-source projekata i identifikovao 23.019 potencijalnih propusta, od kojih je 6.202 procenjeno kao visokog ili kritičnog stepena. Više od 90% pronađenih vulnerabilnosti, nakon pregleda od strane šest nezavisnih bezbednosnih istraživačkih firmi, potvrđeno je kao validno. Cloudflare je pronašao 2.000 grešaka u svojim kritičnim sistemima, od toga 400 visokog ili kritičnog stepena. Mozilla je identifikovala 271 vulnerabilnost u Firefoxu 150 - više od deset puta više nego kod Firefox 148 sa starijim modelom. AI Security Institute Ujedinjenog Kraljevstva utvrdio je da je Mitos prvi model koji je rešio obe cyber simulacije od početka do kraja.

Preporuka Sajber Radara

Rezultati pokazuju da AI postaje moćan alat za pronalaženje bezbednosnih propusta, ali da je pravi izazov u ispravljanju pronađenih grešaka. Organizacijama preporučujemo da se fokusiraju na pojačavanje svojih kapaciteta za brzo reagovanje na pronađene vulnerabilnosti i da razmotre integraciju AI-asistovanih alata u svoje bezbednosne procese.