Zaposlenik kopira sadržaj ugovora u javni AI alat kako bi brže pripremio sažetak. Drugi zaposlenik primi uvjerljivu poruku navodno poslane od direktora s hitnim zahtjevom za plaćanje. Treći koristi AI dodatak povezan s poslovnim računom, bez jasne provjere kojim podacima taj dodatak može pristupiti. AI prijetnje tvrtkama često ne izgledaju kao klasičan hakerski napad – počinju od svakodnevne potrebe da se posao obavi brže.
Umjetna inteligencija može biti korisna za obradu teksta, korisničku podršku, analizu i automatizaciju administrativnih zadataka. Rizik nastaje kada se takvi alati uvedu bez pravila, tehničkih ograničenja i nadzora nad podacima. Za poslovanje nije presudno koristi li se AI, nego zna li se tko ga koristi, u koju svrhu i s kojim informacijama.
Gdje AI prijetnje tvrtkama najčešće nastaju
Najizravniji rizik je neovlašteno dijeljenje podataka. Javnim AI servisima zaposlenici mogu poslati ponude, zapisnike sa sastanaka, specifikacije, popise kontakata, podatke iz poslovnih aplikacija ili dijelove programskog koda. Čak i kada alat obećava određene postavke privatnosti, tvrtka mora znati pod kojim uvjetima se podaci obrađuju, gdje se pohranjuju i tko njima upravlja.
Problem nije samo u osjetljivim osobnim podacima. Poslovno osjetljiva može biti i interna cijena, plan nabave, tehnički nacrt, opis sigurnosne ranjivosti ili podatak o pregovorima s partnerom. Jednom kada sadržaj napusti kontrolirano poslovno okruženje, naknadno ga je teško povući ili provjeriti gdje je završio.
Drugi čest izvor rizika je takozvani shadow AI – upotreba alata koje IT odjel nije odobrio niti evidentirao. To se može dogoditi i u uređenim organizacijama jer zaposlenici žele brže riješiti konkretan zadatak. Ako se alat povezuje s Microsoft 365 računom, sustavom za upravljanje dokumentima ili e-poštom, treba provjeriti koje dozvole traži. Aplikacija koja ima pristup čitanju dokumenata ili poštanskog sandučića može predstavljati veći rizik od samog razgovora u AI sučelju.
Treće područje odnosi se na prijevare. AI napadačima olakšava izradu gramatički uvjerljivih poruka na hrvatskom jeziku, prilagodbu sadržaja pojedinoj osobi i brzu izradu većeg broja varijanti poruka. Lažni zahtjev za promjenu računa za plaćanje, poruka u ime uprave ili poziv koji stvara osjećaj hitnosti više se ne smiju procjenjivati samo prema pravopisu i općem dojmu.
Uvjerljiva poruka nije potvrda identiteta
Kod financijskih naloga, promjena podataka dobavljača, zahtjeva za pristup sustavu i dijeljenja osjetljivih datoteka vrijedi jednostavno pravilo: identitet se potvrđuje drugim, unaprijed dogovorenim kanalom. To može biti povratni poziv na poznat broj, potvrda kroz interni sustav ili postupak s dvije osobe za veće iznose.
Takva provjera ponekad usporava proces za nekoliko minuta. No taj je trošak zanemariv u odnosu na posljedice pogrešne uplate, otkrivanja podataka ili kompromitiranog korisničkog računa. Tehnologija može pomoći filtriranjem poruka i praćenjem sumnjivih prijava, ali ne može zamijeniti poslovni proces provjere.
Poseban je izazov kada se AI koristi za izradu ili izmjenu sadržaja unutar poslovnih sustava. Alat može sastaviti izvještaj, predložiti odgovor kupcu ili pripremiti skriptu za administraciju servera. Međutim, sadržaj koji zvuči uvjerljivo nije automatski točan. AI može pogrešno protumačiti interne podatke, navesti nepostojeći izvor ili predložiti tehničku radnju koja nije primjerena konkretnoj infrastrukturi.
Kod skripti, konfiguracija mreže, pravila vatrozida i izmjena u produkcijskom sustavu posljedice mogu biti prekid rada, gubitak pristupa ili sigurnosni propust. Takve prijedloge treba tretirati kao nacrt koji prije primjene provjerava stručna osoba, po mogućnosti prvo u testnom okruženju.
Politika korištenja mora biti kratka i provediva
Zabrana svih AI alata rijetko je održiva. Ako zaposlenici vide korist, vjerojatno će pronaći način da ih koriste izvan službenih procesa. Učinkovitiji pristup je jasno odrediti dopuštenu i nedopuštenu upotrebu te ponuditi odobreni način rada za opravdane poslovne potrebe.
Pravila trebaju odgovoriti na nekoliko praktičnih pitanja: koji su alati odobreni, koje kategorije podataka nikada ne smiju biti unesene, smiju li se alati povezivati s poslovnim računima te tko odobrava novu aplikaciju. Važno je obuhvatiti i vanjske suradnike koji imaju pristup dokumentima, e-pošti ili razvojnim okruženjima.
Politika ne mora biti opsežan dokument koji će rijetko tko pročitati. Treba biti razumljiva zaposlenicima i povezana sa stvarnim situacijama. Primjerice, zaposlenik može koristiti AI za izradu općeg nacrta dopisa, ali ne smije unositi podatke kupca, broj ponude, sadržaj ugovora ni interne financijske podatke bez odobrenog poslovnog rješenja i jasne procjene obrade podataka.
Tehničke kontrole koje smanjuju stvarni rizik
Pravila bez tehničke provedbe ostaju ovisna o dobroj namjeri i pamćenju pojedinca. Za većinu malih i srednjih poduzeća prioritet je urediti postojeće temelje: korisničke račune, pristupne ovlasti, zaštitu e-pošte, sigurnosne kopije i nadzor nad uređajima.
Višefaktorska autentifikacija značajno otežava zloupotrebu lozinke, osobito kada napadač pošalje uvjerljivu poruku za krađu pristupnih podataka. Jednako je važno redovito pregledavati administrativne ovlasti i ukloniti pristupe koji više nisu potrebni. AI alat povezan s korisničkim računom može raditi samo unutar dozvola tog računa, pa preširoke ovlasti povećavaju posljedice svake pogreške ili kompromitacije.
Za organizacije koje rade s većom količinom osjetljivih dokumenata korisno je razmotriti klasifikaciju podataka i pravila koja upozoravaju ili sprječavaju dijeljenje određenog sadržaja izvan organizacije. To nije univerzalno rješenje. Prestroga pravila mogu otežati normalan rad, dok preblaga neće pružiti stvarnu zaštitu. Postavke treba prilagoditi procesima prodaje, financija, uprave i operativnih timova.
Nadzor prijava, zapisa aktivnosti i novih aplikacijskih dozvola omogućuje da se neuobičajeno ponašanje uoči na vrijeme. Primjer može biti prijava iz neuobičajene lokacije, masovno preuzimanje dokumenata ili novo odobrena aplikacija koja traži pristup pošti i datotekama. Bez centralnog pregleda takvi događaji često ostanu nezapaženi dok se ne pojavi problem.
Backup ostaje zadnja linija obrane
AI ne ukida potrebu za provjerenim sigurnosnim kopijama. Naprotiv, brže i uvjerljivije prijevare povećavaju vjerojatnost da će korisnik otvoriti zlonamjernu poveznicu, predati lozinku ili pokrenuti datoteku koja ugrožava podatke.
Sigurnosna kopija vrijedi samo ako se može vratiti u prihvatljivom roku i ako je zaštićena od istog incidenta koji je pogodio primarni sustav. Potrebno je provjeriti obuhvaća li backup servere, poslovne aplikacije, dijeljene datoteke, Microsoft 365 podatke i konfiguracije koje su potrebne za oporavak rada. Povremeno testiranje povrata podataka otkriva probleme prije stvarne potrebe.
Plan oporavka treba definirati i odgovornost: tko odlučuje o isključivanju računa, tko kontaktira IT podršku, kako se obavještavaju zaposlenici te kojim se redoslijedom vraćaju ključni sustavi. U stresnoj situaciji unaprijed dogovorene uloge štede vrijeme i smanjuju rizik dodatnih pogrešaka.
AI zahtijeva upravljanje, ne paniku
Tvrtka ne mora odmah uvoditi složen program umjetne inteligencije niti blokirati svaku novu uslugu. Razuman prvi korak je popisati alate koji se već koriste, utvrditi koje podatke zaposlenici u njih unose i pregledati postojeće pristupe poslovnim računima. Nakon toga mogu se odrediti pravila, tehničke kontrole i odgovorna osoba koja će ih održavati.
CarPen Rebuild u takvim situacijama može pomoći povezati sigurnost e-pošte, upravljanje identitetima, Microsoft 365, backup i mrežnu infrastrukturu u operativan sustav zaštite. Cilj nije otežati rad zaposlenicima, nego omogućiti da korisni alati ne postanu put do podataka, računa i poslovnih procesa koje tvrtka mora zaštititi.
Najbolja obrana od AI rizika nije pretpostavka da će ljudi uvijek prepoznati prijevaru. To je okruženje u kojem su osjetljivi podaci zaštićeni pravilima i ovlastima, neuobičajene aktivnosti vidljive, a postupak provjere dovoljno jednostavan da ga zaposlenici doista koriste.