Od januara do početka maja 2026. godine, rešenja kompanije Kaspersky detektovala su više od 92.000 napada malvera i potencijalno neželjenih aplikacija širom sveta, koji su bili maskirani kao popularni AI servisi i AI agenti. Sajber-kriminalci su zloupotrebljavali poverenje u poznate brendove kako bi naveli žrtve da preuzmu zlonamerne fajlove, pri čemu su lažne ChatGPT aplikacije činile 49% svih detektovanih napada, dok su Claude i Gemini svaka činila po 18%.

Kaspersky je ove uvide predstavio na svojoj godišnjoj evropskoj konferenciji Kaspersky HORIZONS u Rimu, 19. maja, ističući rastuće rizike sa kojima se suočavaju organizacije i kritična infrastruktura, navodi se u saopštenju za javnost.

Od početka godine, Kaspersky istraživači su identifikovali više od 15.000 uzoraka malvera koji se predstavljaju kao AI softver, uključujući lažne verzije brzo rastućih alata poput OpenClaw. Među tim uzorcima nalazili su se bankarski trojanci, špijunski softver, kradljivci bankarskih kredencijala, eksploiti i „download“ malvera sposobnih da instaliraju dodatni zlonamerni sadržaj.

U maju 2026. godine, Global Research and Analysis Team (GReAT) kompanije Kaspersky otkrio je i novu kampanju povezanu sa APT grupom Silver Fox. U ovoj operaciji napadači su distribuirali lažne Claude AI aplikacije za Windows, macOS i Linux, ciljajući korisnike koji traže pristup AI alatima. Nakon pokretanja, zlonamerni instaleri su neprimetno instalirali malver na uređaje žrtava, omogućavajući dugoročan pristup kompromitovanim sistemima i osetljivim informacijama.

Ranije istrage Kaspersky istraživača takođe su identifikovale infostealere maskirane kao Claude Code, OpenClaw i druge servisne AI alate, što ukazuje na širi trend u kojem pretnje sve više zloupotrebljavaju poverenje u široko korišćene AI platforme i servise.

Lanci snabdevanja postaju ključna meta u AI ekosistemima

Prema Kaspersky istraživanju, 99% kompanija planira da koristi AI u svojim bezbednosnim procesima. Istovremeno, napadači sve češće ciljaju lance snabdevanja, open-source AI alate i pouzdane AI brendove kako bi dobili pristup korporativnim sistemima i osetljivim podacima. Kompromitovanje lanca snabdevanja postaje jedan od najkritičnijih rizika povezanih sa usvajanjem AI tehnologija. Kako organizacije postaju oslonjene na međusobno povezane AI ekosisteme, jedan kompromitovani komponent može izložiti čitave mreže i poremetiti operacije više organizacija.

Jedan nedavni primer uključuje kompromitaciju biblioteke LiteLLM, široko korišćene Python biblioteke za pristup AI modelima, koja navodno ima oko 97 miliona mesečnih preuzimanja širom sveta. Zlonamerni kod ugrađen u alat bio je sposoban da krade kredencijale baza podataka, fajlove kripto novčanika i druge osetljive informacije.

Sajber-kriminalci takođe maskiraju zlonamerne alate kao legitimna AI rešenja, dodatke i servise koji deluju pouzdano, podstičući korisnike da dobrovoljno otkrivaju osetljive podatke ili instaliraju malver.
AI sistemi se suočavaju sa novim bezbednosnim rizicima

Pored tradicionalnog malvera i pretnji u lancu snabdevanja, organizacije se suočavaju i sa rizicima inherentnim samim AI sistemima, uključujući curenje podataka, pristrasne ili manipulisane skupove podataka, napade „trovanja“ podataka (data poisoning), „prompt injection“, kao i nepredvidivo ponašanje modela ili halucinacije.

Kaspersky stručnjaci takođe upozoravaju na rastuću pretnju tzv. „zlonamernih veština“ – skrivenih, štetnih sposobnosti ugrađenih u AI tokove rada. One mogu izgledati kao legitimni dodaci, promptovi ili ekstenzije, ali su dizajnirane da tajno izvršavaju zlonamerne radnje poput eksfiltracije podataka, izviđanja ili manipulacije izlazima.

Automatizacija širi mogućnosti, ali i povećava rizik

Organizacije sve više očekuju da AI poboljša operativnu efikasnost. Prema Kaspersky istraživanju, 57% kompanija očekuje bolje mogućnosti detekcije pretnji kroz AI, dok 49% očekuje automatizovane mogućnosti reagovanja.

Međutim, automatizacija može doneti i nove rizike. Greške koje generišu AI sistemi mogu se brzo skalirati, a automatizovane odluke mogu se donositi bez dovoljno nadzora. Stručnjaci naglašavaju da ljudski faktor ostaje jedan od najznačajnijih bezbednosnih rizika, uključujući preterano oslanjanje na AI tehnologije, zloupotrebu sistema i nedostatak operativne opreznosti.

Nedostatak kvalifikovanog sajber-bezbednosnog kadra, zajedno sa evoluirajućim AI pretnjama i izazovima u kvalitetu podataka, čini strukturisanu strategiju implementacije AI neophodnom.

Izgradnja otpornosti kroz strukturisanu AI automatizaciju

Implementacija AI vođene automatizacije zahteva sistematičan i pažljivo osmišljen pristup.

Kaspersky preporučuje organizacijama da usvoje sledeće principe:

  • Standardizacija: jedinstveni interfejsi, formati podataka i komunikacioni protokoli za doslednu kontrolu i bezbednost kroz sisteme
  • Minimalna razmena podataka: svaka strana treba da dobija isključivo podatke neophodne za obavljanje svoje funkcije
  • Upravljano poverenje: jasno definisanje ko ili šta komunicira sa sistemom, uključujući precizno određene dozvole za AI aplikacije i servise
  • Ljudski nadzor: mogućnost ručne intervencije u kritičnim procesima kada je to potrebno
  • Fazna implementacija: postepeno uvođenje uz unapred definisane scenarije povratka na prethodno stanje radi smanjenja operativnog rizika

„Uvođenje AI agenata u poslovna okruženja menja samu prirodu poverenja. Svaka automatizovana akcija postaje deo šireg lanca sistema i razmene podataka, što znači da bezbednost više nije samo zaštita krajnjih tačaka – već kontrola načina na koji se inteligencija, dozvole i odluke šire kroz međusobno povezane AI procese“, objasnio je Dmitry Galov, šef Global Research & Analysis Team-a kompanije Kaspersky za Rusiju i CIS.

Na konferenciji, Luana Lo Piccolo, viša savetnica za tehnološko pravo, AI upravljanje i digitalne globalne poslove izjavila je: „Kako AI sistemi evoluiraju od asistenata ka autonomnim akterima, izazov više nije samo tehnička otpornost, već odgovorna autonomija“. Naglasila je da organizacije moraju uspostaviti okvire upravljanja koji jasno definišu gde je ljudski nadzor neophodan, kako se raspoređuje odgovornost i kako se održava kontrola dok AI sistemi rade sve brže, u većem obimu i sa većom autonomijom.

Pristup bezbednosti i rešenja

Sa tehničke strane, Andrea Fumagalli, savetnik za sajber bezbednost i AI, naglasio je da organizacije moraju usvojiti pristup ‘Assume Breach’ i preći sa tradicionalne otpornosti na sajber-bezbednosnu izdržljivost, posebno kako AI pretnje postaju brže, autonomnije i sve koordinisanije. U bliskoj budućnosti ove pretnje mogu imati neviđen uticaj, naročito u kombinaciji sa napretkom kvantnog računarstva.

Više od 20 godina, tehnologije veštačke inteligencije i mašinskog učenja primenjuju se u sajber bezbednosti za detekciju i odgovor na pretnje u velikim razmerama.

Kaspersky preporučuje sledeća rešenja: Managed Detection and Response (MDR), Security Information and Event Management (SIEM) i AI asistent za analitičare

Sistemi za prepoznavanje lica i dalje prepoznaju AI-modifikovana lica, pokazuje eksperiment kompanije Kaspersky

Tehnologije prepoznavanja lica postaju sve više integrisane u industrije kao što su bezbednost, granična kontrola, zdravstvo, finansije i marketing, a napredak generativne veštačke inteligencije istovremeno omogućava stvaranje visoko realističnih sintetičkih slika i sofisticirane izmene lica. AI aplikacije se danas široko koriste za poboljšanje slika, retuširanje, uređivanje lica i transformaciju identiteta, često proizvodeći rezultate koji su gotovo nerazlučivi od autentičnih fotografija.

Kako bi bolje razumeli na koji način sistemi za verifikaciju lica reaguju na ovakve transformacije, stučnjaci Kaspersky Global Research and Analysis Team (GReAT) su tokom Kaspersky Horizons konferencije sprovli nezavisan eksperiment koristeći široko prihvaćenu biblioteku otvorenog koda za računarski vid i mašinsko učenje, koja se često primenjuje u istraživanjima prepoznavanja lica i automatizovanim sistemima vizuelne analize.

Tokom eksperimenta, originalne portretne fotografije obrađene su alatima generativne AI kako bi se simulirali scenariji starenja i podmlađivanja. U mnogim slučajevima, dobijene slike su ljudskim posmatračima delovale kao potpuno različite osobe. Uprkos ovim značajnim vizuelnim promenama, sistem za prepoznavanje lica dosledno je povezivao AI-modifikovane slike sa originalnim identitetima u svih 10 nezavisnih test slučajeva.

Eksperiment je uključivao AI-generisane scenarije starenja i podmlađivanja, poređenja vizuelno različitih portreta i verifikaciju pomoću savremenog softvera za prepoznavanje lica. Nalazi sugerišu da savremeni sistemi za prepoznavanje lica ne zavise od površinskih vizuelnih sličnosti koje opaža čovek, već od dubljih geometrijskih i strukturnih karakteristika lica. Čak i kada se izgled lica značajno promeni, algoritmi za prepoznavanje i dalje mogu da detektuju postojane biometrijske markere koji ostaju stabilni uprkos sintetičkim transformacijama.

Iz perspektive sajber bezbednosti, rezultati ukazuju na sve izraženiji dvostruki rizik. S jedne strane, oni pokazuju otpornost sistema za biometrijsku autentifikaciju na određene oblike AI vizuelne manipulacije. S druge strane, otvaraju važna pitanja o potencijalnoj zloupotrebi generativne AI za krađu identiteta, stvaranje sintetičkih identiteta i zaobilaženje procesa verifikacije zasnovanih na ljudskoj proceni.

„Iako ovaj eksperiment ne predstavlja opsežnu studiju, on je dokaz koncepta potencijalnog AI napada o kojem industrija treba da razmišlja; on ilustruje ključnu praktičnu implikaciju: AI-generisane transformacije lica mogu zadržati biometrijski identitet čak i kada ljudska percepcija te slike tumači kao potpuno različite osobe. Ovo stvara nove izazove za digitalno poverenje, verifikaciju identiteta i prevenciju prevara u eri brzo razvijajućih sintetičkih medija“, objašnjava Maher Yamout, vodeći istraživač bezbednosti u Kaspersky Global Research and Analysis Team-u.

Mentalna privatnost pod rizikom usled razvoja kognitivne veštačke inteligencije: Kaspersky ukazuje na četiri nova rizika

Veštačka inteligencija (AI) sve se više razvija za analizu neuronskih signala, modelovanje ponašanja i predviđanje obrazaca donošenja odluka. To označava paradigmalni pomak – od jednostavne obrade podataka ka sistemima koji mogu da tumače i ostvaruju interakciju sa ljudskom kognicijom. Na konferenciji Kaspersky HORIZONS, godišnjoj vodećoj evropskoj konferenciji kompanije Kaspersky posvećenoj budućnosti sajber bezbednosti, održanoj ove godine u Rimu 19. maja, Kaspersky je razmatrao šta evolucija veštačke inteligencije znači za mentalnu privatnost i kognitivnu autonomiju.

Iako trenutni AI sistemi ne mogu direktno da čitaju niti precizno dekodiraju ljudske misli, oni poseduju sposobnosti koje mogu uticati na ponašanje i oblikovati odluke putem sistema preporuka, personalizacije i kontrole informacija velikih razmera. U tom smislu, reč je o stvarnom i rastućem sajber-bezbednosnom i socio-tehničkom riziku, iako ekstremniji scenariji za sada ostaju u domenu spekulacija.

Kaspersky GReAT predviđa da će sledeća četiri nova bezbednosna rizika postajati sve izraženija kako sistemi kognitivne veštačke inteligencije budu napredovali:

 #1 Socijalni inženjering postaje složeniji i obmanjujući

 Veliki jezički modeli (LLM-ovi) već transformišu socijalni inženjering u znatno sofisticiraniju i ubedljiviju pretnju. Napadači sada mogu kreirati uverljivije imejl poruke i fišing stranice. Uz pomoć kognitivne AI, potencijalno mogu koristiti društvene platforme i velike skupove podataka za osmišljavanje visoko ciljanih prevara, koristeći uvide u ponašanje i psihološko profilisanje kako bi povećali stopu uspeha. Pokušaji fišing napada takođe mogu biti dinamički generisani, prilagođeni kontekstu i emocionalno uverljivi, što ih čini znatno teže prepoznatljivim.

Ovo može pogoditi kako pojedince tako i organizacije, kroz krađu podataka i finansijske prevare. Najnoviji Globalni izveštaj Kaspersky Security Services pokazuje da fišing čini oko 15% (jedan od sedam) najčešće korišćenih tehnika napada. U tom kontekstu, fišing može predstavljati efikasnu početnu tačku za ulazak APT pretnji (napredne perzistentne pretnje) i drugih sofisticiranih oblika zlonamernog softvera (crimeware) usmerenih ka kompanijama i državnim institucijama.

#2 Kognitivna manipulacija oblikuje javno mnjenje

Pored pojedinačnih napada, AI omogućava operacije uticaja velikih razmera koje mogu oblikovati javno mnjenje. Akteri poput haktivista ili grupa koje sprovode napredne perzistentne pretnje mogu potencijalno iskorišćavati kognitivne pristrasnosti i emocionalne okidače na nivou čitavih populacija. Platforme društvenih mreža već pokazuju kako algoritamski sistemi mogu učvrstiti „echo chamber“ efekte (informacione mehure istomišljenika) i produbiti polarizaciju, dok političke kampanje i korporacije mogu koristiti mikro-targetiranje i tehnike zasnovane na obrascima ponašanja za angažovanje korisnika. Kako ove mogućnosti budu napredovale, granica između predviđanja ponašanja i njegovog aktivnog oblikovanja postajaće sve nejasnija. To stvara sistemske rizike ne samo po individualnu autonomiju, već i po javno poverenje i demokratske procese.

#3 Profilisanje omogućava prediktivnu zloupotrebu

 Profilisanje zasnovano na veštačkoj inteligenciji postaje moćan alat za zloupotrebu. Objedinjavanjem podataka sa društvenih mreža, digitalnog ponašanja i drugih izvora, AI može izgraditi veoma detaljne psihološke profile i profile identiteta pojedinaca. Time se značajno povećava rizik od doxxing-a (otkrivanja privatnih ili identifikacionih podataka) i tehnološki posredovanog zlostavljanja. Informacije koje su nekada bile fragmentisane sada mogu biti automatski povezane, otkrivajući osetljive detalje, povezujući identitete i omogućavajući ciljano uznemiravanje velikih razmera. Napadi se takođe mogu prilagoditi ličnim ranjivostima, čineći ih efikasnijim i težim za odbranu.

#4 Interfejsi mozak–računar približavaju se IoT okruženju

Iako su i dalje uglavnom u eksperimentalnoj fazi, interfejsi mozak–računar (BCI – Brain-Computer Interfaces) već se koriste kako bi omogućili komunikaciju pacijentima putem interpretacije neuronskih signala. Aktuelna istraživanja proširuju njihove mogućnosti i izvan osnovne interakcije, uključujući sposobnost upravljanja spoljnim uređajima. Upravo u tom trenutku BCI sistemi počinju da se približavaju Internetu stvari (IoT – Internet of Things). U praktičnom smislu, neuronski signali mogu se koristiti za slanje komandi povezanim sistemima, kao što su pametni kućni uređaji, asistivne tehnologije ili medicinska oprema.

Iako ova integracija donosi značajne koristi, posebno u oblasti zdravstva i pristupačnosti, ona istovremeno proširuje sajber-bezbednosne rizike na nova područja, jer kompromitovani sistemi mogu omogućiti neovlašćene radnje putem korisnikovog neuronskog interfejsa, uključujući presretanje signala, manipulaciju odgovorima uređaja ili zloupotrebu veze između namere i izvršenja. Kao rezultat toga, bezbednosni rizici prevazilaze okvire digitalne infrastrukture i ulaze u domen fizičkih sistema i ljudskog delovanja.

„Iako je kognitivna veštačka inteligencija još u ranoj fazi razvoja i daleko od masovne primene, njen razvoj je veoma brz“, izjavila je Noushin Shabab, vodeća istraživačica bezbednosti u okviru Kaspersky Global Research and Analysis Team-a. „I dalje se očekuje da će napredni modeli interakcije između ljudi i AI postati znatno rasprostranjeniji tokom narednih decenija. Kako bude rasla njihova primena, tako će rasti i povezani rizici – i kada do toga dođe, moramo biti spremni.“

Rešavanje ovih izazova zahteva proaktivnu saradnju između zajednice za sajber bezbednost, AI programera, naučnika i donosilaca politika. Kako je pojasnila Teresa Potenza, novinarka i edukatorka za odgovornu primenu veštačke inteligencije koja se ovom temom bavila na konferenciji: „Stvarni rizik kognitivne veštačke inteligencije jeste to što ona oblikuje naše umove – tiho i u velikim razmerama. Naučili smo da sistemi optimizovani za angažovanje korisnika narušavaju sposobnost rasuđivanja. Zato regulativa danas predstavlja zaštitu ljudske autonomije – ali ne može držati korak sa kognitivnom AI ako se bavi samo onim što ti sistemi rade danas. Potreban nam je jedan princip koji je moguće sprovesti: tehnologija mora služiti ljudima, a ne obrnuto. Autonomija nije samo pitanje privatnosti. To je pitanje demokratije“, navodi se u saopštenju za javnost.