AI više nije samo “alat” već sve češće utječe na zapošljavanje, kreditne odluke, korisničku podršku, sigurnost i marketing. EU AI Act uvodi okvir obveza i odgovornosti za subjekte koji AI razvijaju, stavljaju na tržište ili ga koriste u poslovanju. Oni koji se na vrijeme pripreme smanjuju regulatorni rizik i lakše uvode AI u procese.
Tko je obveznik?
U praksi se poslovni subjekti najčešće nalaze u ulozi:
- deployer-a (korisnika AI sustava) – koristi AI u poslovnim procesima
- provider-a (razvija/brandira AI) – ako razvija ili stavlja AI pod svojim imenom
- ili sudjeluje u lancu dobave (integratori, distributeri)
Klasifikacija rizika: ključno pitanje
Obveze ovise o razini rizika AI sustava. Posebno osjetljiva kategorija su high-risk sustavi (npr. u određenim područjima zapošljavanja, obrazovanja, zdravstva, kritične infrastrukture). U praksi je prvi korak: napraviti inventuru AI alata i procjenu spadaju li u rizične kategorije.
Governance: tko “drži” AI?
Dobar AI compliance se ne svodi na jedan dokument. Najbolja praksa je:
- imenovati odgovorne osobe (pravna, IT/sigurnost, HR, product)
- postaviti pravila nabave i odobravanja AI alata
- uvesti evidenciju AI sustava i njihove svrhe
Dokumentacija i dokazivost (audit trail)
Regulatorni rizik često nastaje kad poslovni subjekt ne može dokazati:
- zašto je alat uveden
- koje podatke koristi
- kako se kontrolira kvaliteta i pristranost
- tko nadzire izlaze AI-a (human oversight)
AI i GDPR: preklapanja koja se najčešće zanemare
Ako AI obrađuje osobne podatke, GDPR obveze ostaju: pravna osnova, transparentnost, minimizacija, rokovi čuvanja, sigurnost i prava ispitanika. Posebno je važno pitanje automatiziranog odlučivanja i profiliranja.
Praktični koraci pripreme
- Popisati AI alate (uključujući “skrivene” u SaaS-u).
- Odrediti svrhe i procijeniti razinu rizika.
- Uvesti interni postupak odobravanja AI-a i vendor due diligence.
- Uskladiti ugovore s dobavljačima (sigurnost, podizvršitelji, prijenosi podataka).
- Ažurirati obavijesti o privatnosti i interne politike.
- Uvesti trening za timove (HR, product, sales).
