Prema istraživanju SHRM 2025 Talent Trends, provedenom među 2.040 HR stručnjaka, 69% timova već koristi AI za podršku regrutiranju. Godinu ranije taj je udio iznosio 51%.
Istodobno, Pew Research Center utvrdio je da 66% Amerikanaca ne bi željelo prijaviti se za posao u tvrtki u kojoj AI pomaže pri donošenju odluka o zapošljavanju. To je podatak iz 2023. godine. Do 2026. primjena AI-ja samo se dodatno ubrzala, ali povjerenje kandidata nije pratilo isti tempo.
Taj se jaz ne rješava boljom komunikacijom na stranici karijera. Riječ je o problemu upravljanja, nadzora i odgovornosti. I taj je problem već ugrađen u mnoge moderne procese zapošljavanja.
Zašto regruteri sve više koriste AI
Poslovna logika je jasna. Isto istraživanje SHRM-a pokazuje da 89% HR stručnjaka koji koriste AI u regrutiranju navodi da im on štedi vrijeme ili povećava učinkovitost. Kada tim od tri osobe mora zatvoriti desetke pozicija u jednom kvartalu, takav je argument teško zanemariti.
44% HR stručnjaka već koristi AI za provjeru životopisa, a 66% za pisanje opisa radnih mjesta. Timovi koji to rade brže dolaze do kandidata, ranije kontaktiraju pasivne kandidate i manje vremena troše na administrativni dio procesa.
No pitanje nije samo ubrzava li tehnologija proces. Važnije pitanje glasi: pomaže li ona doista donositi bolje odluke?
Primjena raste brzo. Kontrola nad tim sustavima često raste znatno sporije.
Zašto kandidati odustaju od procesa
Problem povjerenja vidljiv je već godinama. Pew Research Center pokazao je da 66% Amerikanaca ne bi željelo prijaviti se za posao ako poslodavac koristi AI kao pomoć pri donošenju odluka o zapošljavanju. To su podaci iz 2023., no od tada se primjena AI-ja ubrzala, a stav kandidata nije se bitno popravio.
Noviji podaci čine problem još konkretnijim. Gartner je 2025. objavio da samo 26% kandidata vjeruje da će ih AI pravedno procijeniti. Istraživanje Greenhousea pokazalo je još oštriji raskorak: 70% menadžera za zapošljavanje vjeruje da AI može pomoći u bržem i boljem donošenju odluka, dok samo 8% kandidata takav proces smatra pravednim. 38% kandidata već je odustalo od selekcijskog procesa upravo zato što je uključivao AI intervju.
Razloga je nekoliko.
Kandidati ne znaju kako se njihovi podaci koriste. Sumnjaju da sustav traži obrasce, a ne razumije kontekst. Najvažnije od svega, ako kandidat misli da je sustav pogriješio, obično ne zna što može učiniti.
Često nema jasne osobe kojoj se može obratiti. Objašnjenje izostaje, a razumljiv put za osporavanje rezultata uopće nije predviđen.
Kada se kandidati počnu prilagođavati AI-ju
Postoji još jedan problem na koji se većina pristupa upravljanju AI-jem još nije prilagodila.
Kandidati su shvatili kako automatizirana selekcija funkcionira i počeli su se prilagođavati sustavu.
Jedna od taktika o kojoj HR stručnjaci sve češće govore jest dodavanje cijelog opisa radnog mjesta u životopis bijelom bojom. Čovjek taj tekst ne vidi, ali sustav za praćenje kandidata, odnosno ATS, ili AI alat za provjeru životopisa može ga pročitati. Sustav pronađe sva potrebna poklapanja ključnih riječi, dodijeli kandidatu gotovo savršen rezultat i označi ga kao vrlo snažnog kandidata. Regruter vidi visok postotak podudaranja, dogovori razgovor i tek tijekom intervjua shvati da kandidat ne zna objasniti alate koje je naveo kao svoju stručnost.
Ni faza intervjua nije zaštićena od toga.
Kandidati koriste alate koji u stvarnom vremenu prepoznaju pitanja, predlažu odgovore na drugom zaslonu ili pomažu oblikovati rečenice tijekom razgovora. Tako nastaje situacija u kojoj regruter koristi AI za selekciju, a kandidat koristi AI kako bi prošao selekciju.
U jednom trenutku AI počinje procjenjivati rezultat rada drugog AI-ja. Stvarnu osobu u tom procesu postaje sve teže vidjeti.
To više nije rubni slučaj. U istraživačkom radu iz 2026., Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening, istraživači su analizirali približno 200.000 stvarnih životopisa prikupljenih tijekom više godina. Otkrili su da je oko 1% životopisa sadržavalo skrivene upute za jezične modele, a učestalost takvih slučajeva primjetno je porasla tijekom posljednje jedne do dvije godine.
Jedan posto može zvučati malo. No za tvrtku koja mjesečno obrađuje tisuće prijava, to već stvara značajan šum u selekcijskom lijevku.
Dublji problem je u tome što je AI selekcija trebala olakšati pronalaženje kvalitetnih kandidata. Međutim, kada se obje strane optimiziraju za AI, postaje teže, a ne lakše, prepoznati tko zaista može obavljati posao.
Upravljanje AI-jem ne rješava taj problem samo po sebi. Ali stvara uvjete da se problem uoči: zabilježene odluke, dokumentirani kriteriji, ljudska provjera u definiranim fazama i, posebno važno, praćenje ishoda.
Primjerice: je li kandidat s visokim rezultatom doista dobro radio nakon šest mjeseci?
Bez takve povratne veze cijeli sustav radi gotovo naslijepo.
Praznina u upravljanju koju većina tvrtki još nije zatvorila
Većina tvrtki koje koriste AI u zapošljavanju nema potpun revizijski trag.
Često ne postoji jasan zapis o tome što je sustav procijenio, zašto je kandidat dobio visok ili nizak rezultat, niti je li čovjek stvarno pregledao preporuku prije nego što je kandidatu poslana odbijenica.
To više nije samo etičko pitanje. Postupno postaje i pravni rizik.
Prema Uredbi (EU) 2024/1689, poznatoj kao EU AI Act, AI sustavi koji se koriste za provjeru, filtriranje, rangiranje ili procjenu kandidata mogu potpasti pod visokorizične slučajeve uporabe iz Priloga III. To je posebno važno kada takvi sustavi značajno utječu na odluke o zapošljavanju.
To može uključivati alate za provjeru životopisa, automatizirano ocjenjivanje intervjua i sustave za rangiranje kandidata. Kada se sustav kvalificira kao visokorizičan, primjenjuju se zahtjevi koji se odnose na upravljanje rizicima, dokumentaciju, testiranje pristranosti, ljudski nadzor, zapisnike i pravo kandidata na objašnjenje. Članak 86 EU AI Acta predviđa pravo osobe da dobije razumljivo objašnjenje o tome kako je odluka donesena uz pomoć AI-ja utjecala na nju.
Nakon dogovora u okviru Digital Omnibusa 2026. uveden je razdvojeni vremenski okvir. Za samostalne visokorizične AI sustave iz Priloga III, u koje često mogu spadati alati za selekciju i provjeru kandidata, ključni datum postaje 2. prosinca 2027. Za AI sustave ugrađene u regulirane proizvode iz Priloga I rok se pomiče na 2. kolovoza 2028. Europska komisija objavila je i posebne smjernice za klasifikaciju visokorizičnih AI sustava.
Smjer se nije promijenio. Odgoda ne znači da se može čekati. Ona daje vrijeme da se sustav izgradi ispravno.
U SAD-u se sličan pomak već događa na razini gradova i saveznih država. Primjerice, NYC Local Law 144 na snazi je od 2023. i zahtijeva godišnju neovisnu reviziju pristranosti za automatizirane alate za donošenje odluka o zapošljavanju ako se koriste u New Yorku. Kazne za kršenje mogu početi od 500 dolara i rasti iz dana u dan.
Zapošljavanje prema vještinama kao put prema povjerenju
Jedan od strukturnih načina za smanjenje problema jest promijeniti ono što AI zapravo procjenjuje.
Vještine su znatno bolji pokazatelj buduće uspješnosti na poslu od diploma ili formalnih oznaka. Pristup koji se temelji na vještinama može smanjiti oslanjanje na slabe posredne signale, poput obrazovanja, prethodnog poslodavca ili sličnosti naziva radnog mjesta.
No to funkcionira samo ako su kriteriji strukturirani, dokumentirani i dosljedno primijenjeni.
Zapošljavanje prema vještinama samo po sebi ne uklanja pristranost automatski. Ono uklanja jedan čest izvor pristranosti samo ako je provedba ozbiljna.
Tvrtke koje koriste strukturiranu procjenu vještina prijavljuju bolje stope zadržavanja zaposlenika u usporedbi s pristupima u kojima se najveća težina daje obrazovanju ili formalnim pokazateljima.
Problem je u velikom raskoraku između onoga što tvrtke tvrde i onoga što se stvarno događa. 85% poslodavaca kaže da koristi zapošljavanje prema vještinama. No istraživanje Harvard Business Schoola i Burning Glassa pokazuje da je stvarni porast zapošljavanja osoba bez diplome nakon uklanjanja zahtjeva za diplomom iznosio samo 0,14%. To znači da su mnoge tvrtke uklonile zahtjev za diplomom iz teksta oglasa, ali su logiku filtriranja u sustavu ostavile gotovo istom.
Pravo zapošljavanje prema vještinama mijenja ono što AI procjenjuje.
Kada se procjena temelji na dokazanoj sposobnosti, a ne na blizini ključnih riječi, teže ju je zaobići bijelim tekstom u životopisu ili odgovorima koje je generirao AI. Sustav tada traži dokaze stvarnog rada, a ne samo dobro pripremljenu prezentaciju.
Što treba arhitekturi HR tehnologija spremnoj za reviziju
Većina HR timova razumije da AI alati trebaju nadzor. Znatno manje timova razumije kako taj nadzor treba izgledati na razini arhitekture sustava.
Sustav koji mora izdržati regulatornu provjeru, interni pregled i upite kandidata treba nekoliko osnovnih elemenata.
Podrijetlo podataka. Svaki podatak o kandidatu koji se koristi za ocjenjivanje ili rangiranje mora imati jasno podrijetlo: odakle je došao, kada je prikupljen, je li kandidat dao privolu i kroz koje je promjene prošao prije nego što je ušao u model.
Zapisnici odluka. Svaka preporuka AI-ja mora biti zabilježena s vremenom, verzijom modela, korištenim ulaznim značajkama i rezultatom. Takvi zapisi potrebni su kako bi se kasnije moglo objasniti što se dogodilo i omogućiti ljudska provjera.
Objašnjive preporuke. Sustav mora uz svaku ocjenu dati razumljivo objašnjenje. Ne samo “ocjena: 72”, nego jasno objašnjenje što se podudaralo, što nedostaje i što nije bilo procijenjeno.
Ljudska odluka uz bilježenje. AI preporučuje. Čovjek donosi odluku. Ako se čovjek odmakne od preporuke AI-ja, i to mora biti zabilježeno. Takva povratna veza pomaže i u nadzoru i u poboljšanju modela.
Praćenje pristranosti i kvalitete. Nije dovoljno provjeriti model samo na početku. Treba pratiti kako se ponaša tijekom vremena. Posebno je važno pratiti ishod: je li kandidat s visokim rezultatom zaista dobro radio nakon zapošljavanja? Bez toga nije moguće razumjeti degradira li model zbog manipulacija, promjene podataka ili novog ponašanja kandidata.
Kontrola pristupa. Potrebno je jasno odrediti razine pristupa: podacima kandidata, logici ocjenjivanja i razlozima odbijanja. Svaka takva radnja treba biti vezana uz ulogu, zabilježena u sustavu i prikladna za provjeru.
Za to nije uvijek potrebno graditi sustav ispočetka. Ali gotovo uvijek je potreban pregled arhitekture i dodatni sloj upravljanja iznad postojećih alata.
Ako vaš proizvod koristi AI u zapošljavanju, već vam treba revizija
Uredba (EU) 2024/1689 primjenjuje se na sustave koji utječu na odluke o zapošljavanju, neovisno o tome gdje je dobavljač registriran. No obveze se razlikuju ovisno o ulozi tvrtke u lancu.
Ako ste pružatelj, odnosno razvijate i stavljate na tržište AI alat za zapošljavanje, na vas se mogu odnositi šire obveze: sustav upravljanja rizicima, tehnička dokumentacija, ocjena sukladnosti, provjera pristranosti, nadzor nakon stavljanja na tržište i registracija u bazi podataka EU-a za AI sustave.
Ako ste korisnik sustava, primjerice poslodavac ili HR tim koji koristi alat treće strane za automatiziranu selekciju, vaše obveze mogu biti uže, ali su stvarne: ljudski nadzor, jasno informiranje kandidata, zapisi o odlukama na koje je utjecao AI i procjena učinka na temeljna prava u slučajevima šire primjene.
Mnoge tvrtke zapravo imaju obje uloge. Poslodavac koji razvija vlastiti sustav za ocjenjivanje kandidata može biti pružatelj. Isti taj poslodavac, ako koristi vanjski ATS za drugi dio procesa, istodobno je korisnik sustava.
Većina pravnih i HR timova još nije jasno nacrtala tu granicu.
Datum 2. prosinca 2027. za samostalne visokorizične sustave iz Priloga III daje više vremena od početnog rasporeda. Ali ne mijenja narav posla koji treba obaviti.
Kako graditi AI alate za zapošljavanje kojima kandidati zaista vjeruju
Četiri stvari razlikuju alate koji grade povjerenje od onih koji ga narušavaju.
Transparentnost prije početka procesa. Kandidati ne moraju razumjeti model na tehničkoj razini. Ali trebaju znati koje čimbenike sustav uzima u obzir, a koje ne, prije nego što se prijave. Kratko objašnjenje jasnim jezikom bitno mijenja doživljaj procesa.
Objašnjivi rezultati. Svaka preporuka treba imati razumljivo obrazloženje. Ne “ocjena: 67”, nego “niža ocjena zbog nedostatka potvrde za X; Y nije procijenjen”. To podržava zahtjeve EU AI Acta i smanjuje osjećaj da je kandidata odbacio neproziran sustav.
Stvaran put za prigovor. Većina tvrtki nema odgovor na pitanje kandidata: “Kome se mogu obratiti ako mislim da je sustav pogriješio?” Ta praznina stvara pravni rizik i postupno narušava povjerenje.
Ljudska odluka kao dio dizajna sustava. AI preporučuje. Čovjek odlučuje. Ta se odluka bilježi. Takav pristup s vremenom poboljšava sustav i istodobno stvara osnovu za nadzor.
HR timovi koji aktivno uvode AI nisu u krivu. Kandidati koji odustaju od netransparentnih procesa također nisu u krivu.
U zoni rizika nalaze se tvrtke koje su uvele sloj učinkovitosti, ali ispod njega nisu izgradile sloj odgovornosti. Sada to vide kroz slabiju kvalitetu signala, gubitak povjerenja kandidata i približavanje regulatornih zahtjeva.
Revizija AI sustava počinje inventarom: koji se AI elementi nalaze u vašem procesu zapošljavanja, na koje odluke utječu, koje podatke koriste i je li išta od toga dokumentirano.
Nakon toga slijede tokovi podataka, mapiranje točaka odlučivanja, arhitektura zapisnika, mehanizmi objašnjivosti, ljudski nadzor i karta rizika koja pokazuje što treba promijeniti prvo.
To je konkretan tehnički angažman, a ne apstraktna vježba usklađenosti.
Allmatics provodi takve revizije za tvrtke koje razvijaju ili koriste AI u reguliranim okruženjima. Ako želite razumjeti što vaš AI u zapošljavanju zapravo radi i gdje se nalaze vaši rizici, od toga treba početi.