Umjetna inteligencija u ulozi poslodavca: Regulacija u zakonodavstvu EU-a i RH

1. Algoritamsko upravljanje

Algoritamsko upravljanje moglo bi se definirati kao korištenje algoritama za automatizaciju i optimizaciju upravljanja u raznim sustavima, uključujući radne procese. Takva vrsta upravljanja primjenjuje se sve intenzivnije u raznim vrstama poslova. Rad preko digitalnih radnih platformi (taksi i dostavne službe), logistika i skladišni poslovi, uredski i drugi poslovi koji podrazumijevaju rad na računalu, „call“ centri i sl. samo su neki od primjera u kojima se pronalaze barem začetci algoritamskog vođenja radnih procesa.

Jedan od najpoznatijih primjera ranog uvođenja algoritamskog menadžmenta u radne procese je kompanija Amazon. U njihovim skladištima radni procesi su strogo automatizirani, a svaki pokret radnika prati se putem interakcije s barkodovima na proizvodima. Sustav bilježi brzinu rada i precizno evidentira vrijeme provedeno izvan skeniranja – primjerice tijekom pauza. Na temelju tih podataka automatski se ocjenjuje radna učinkovitost zaposlenika te se, bez uključivanja „ljudskog“ menadžera, donose razne odluke vezane uz radnike, potencijalno uključujući i odluke o otkazu.¹ Zanimljivo je spomenuti podatke iz izvješća američkog odbora Senata za zdravstvo, obrazovanje, rad i mirovine, prema kojemu je Amazon 2019. prijavio 10 ozljeda na 100 radnika, dok je ukupna stopa ozljeda (uključujući neprijavljene) iznosila gotovo 45 na 100 ².

Još jedan važan primjer algoritamskog menadžmenta nalazimo u platformskom radu, poput usluga prijevoza (npr. Uber) ili dostave hrane (npr. Glovo), gdje radnicima upravljaju automatizirani sustavi i aplikacije. Uber, primjerice, prati pokazatelje poput broja prihvaćenih vožnji, vremena reakcije, točnosti dolaska, odabranih ruta i sl. te na temelju tih podataka automatski odlučuje o nagradama ili suspenzijama vozača (radnika) – najčešće bez transparentnosti ili sudjelovanja „ljudskih“ menadžera.³ Sličan sustav primjenjuju i platforme za dostavu hrane, poput Glova, gdje algoritmi upravljaju dostavljačima na gotovo identičan način⁴.

Naime, nije sporno da algoritmi postaju dio modernog sustava rada te da sa sobom nose brojne prednosti kako za poslodavce, tako i za radnike. Međutim, bez pravodobne regulacije njihova upotreba otvara niz rizika za radnozaštitne institute - uključujući smanjenje transparentnosti, automatizirano odlučivanje bez ljudskog nadzora i mogućnosti žalbe, narušavanje privatnosti i zdravlja radnika te ugrožavanje njihova dostojanstva.

U nastavku slijedi prikaz postojećeg pravnog okvira Europske unije i Republike Hrvatske kojim se nastoji odgovoriti na opisane izazove.

2. Pravni okvir Europske unije

Direktiva (EU) 2024/2831 Europskog parlamenta i Vijeća od 23. listopada 2024. o poboljšanju radnih uvjeta u radu putem platforme (u daljnjem tekstu: Direktiva) predstavlja temeljni dokument u reguliranju algoritamskog upravljanja radnicima na digitalnim platformama. Svrha Direktive jest osigurati bolje radne uvjete i zaštitu osobnih podataka osoba koje obavljaju rad putem digitalnih radnih platformi unutar EU.⁵

Direktiva sadrži niz ključnih odredbi kojima se reguliraju automatizirani sustavi:

• Članak 7. zabranjuje digitalnim platformama prikupljanje i obradu osjetljivih osobnih podataka radnika automatiziranim sustavima, osobito izvan radnog vremena;
• Članak 8. propisuje obvezu dubinske procjene učinka takvih sustava na privatnost i uključivanje radnika ili njihovih predstavnika u taj proces;
• Članak 9. uvodi obvezu transparentnosti algoritama, informiranja radnika i relevantnih tijela o sustavima za praćenje i odlučivanje te kriterijima na temelju kojih se odluke donose;
• Članak 10. nalaže redovitu evaluaciju učinka algoritamskih sustava na radne uvjete, uz obvezan ljudski nadzor i mogućnost poništavanja odluka;
• Članak 11. daje pravo radnicima na jasno obrazloženje automatiziranih odluka te na njihovo preispitivanje;
• Članak 12. propisuje obvezu procjene rizika za sigurnost i zdravlje radnika te sprečavanja neprimjerenog pritiska ili narušavanja fizičkog i mentalnog zdravlja.

Direktiva je stupila na snagu 1. prosinca 2024., a države članice dužne su uskladiti nacionalno zakonodavstvo s njezinim odredbama do 2. prosinca 2026. godine.

Osim Direktive, treba istaknuti i Opću uredbu o zaštiti osobnih podataka (dalje u tekstu: Opća uredba).⁶ Članci 13., 14. i 15. obvezuju voditelje obrade da ispitanicima pruže informacije o obradi osobnih podataka, uključujući postojanje automatiziranog odlučivanja, svrhu, podatke i logiku obrade te moguće posljedice. Članak 22. jamči pravo da osoba ne bude podložna odluci utemeljenoj isključivo na automatiziranoj obradi, osim ako za to postoji zakonska osnova, privola ili nužnost za izvršenje ugovora, uz obvezne zaštitne mjere poput ljudske intervencije, prava na očitovanje i mogućnosti osporavanja odluke, a posebne kategorije podataka mogu se koristiti samo pod strogo propisanim uvjetima.

Treći postojeći važan instrument je Akt o umjetnoj inteligenciji (Uredba (EU) 2024/1689)⁷. Iako ne uređuje izravno radne odnose, algoritamsko upravljanje radnicima klasificira kao visokorizični sustav umjetne inteligencije (Prilog III.), što podrazumijeva obveze poput procjene rizika, osiguravanja transparentnosti, ljudskog nadzora i sl. Akt također zabranjuje sustave UI koji manipuliraju ponašanjem radnika ili provode pretjerani nadzor, čime se štiti fizičko i mentalno zdravlje te dostojanstvo na radu.

Akt o umjetnoj inteligenciji nadopunjuje Opću uredbu i Direktivu, stvarajući početan regulatorni okvir za odgovornu uporabu algoritama u radnom okruženju.

3. Pravni okvir Republike Hrvatske

Glava IV.a Zakona o radu⁸ (dalje u tekstu: ZOR) koja je stupila na snagu 01.01.2024. uređuje rad putem digitalnih radnih platformi. U okviru te glave, uređene su određene pojedinosti upotrebe automatiziranog sustava upravljanja u organizaciji platformskog rada.

Prema članku 221.g ZOR-a, poslodavac koji koristi algoritamski sustav upravljanja dužan je:

• upoznati radnika s organizacijom rada i načinom donošenja odluka putem algoritma;
• osigurati transparentnost i dostupnost podataka o radu putem digitalne platforme;
• imenovati osobu zaduženu za nadzor sigurnosti i radnog opterećenja radnika;
• imenovati osobu ovlaštenu za preispitivanje automatiziranih odluka na zahtjev radnika;
• omogućiti profesionalnu komunikaciju s kolegama, poslodavcem i drugim sudionicima radnog procesa;
• informirati radnika o načinu dodjeljivanja poslova, praćenju i ocjenjivanju rada, kao i o ostalim pravima iz radnog odnosa – uključujući pristup poslovima, radnom vremenu, uvjetima rada te sigurnosti i zdravlju na radu.

Sljedeći članak⁹ propisuje i obvezu procjene rizika rada putem digitalnih platformi, uz izričitu zabranu pretjeranog intenziteta rada koji bi mogao štetiti fizičkom ili mentalnom zdravlju radnika. Ako radnik smatra da mu je na taj način narušeno pravo na sigurnost ili zdravlje, ima pravo zatražiti zaštitu ili preispitivanje konkretne mjere ili odluke. ZOR također jasno regulira obvezu ljudskog nadzora nad automatiziranim sustavima upravljanja. Radnik koji smatra da mu je u takvom sustavu povrijeđeno neko pravo iz radnog odnosa, ima pravo zatražiti pisano obrazloženje, zaštitu i preispitivanje donesene odluke.¹⁰ Člankom 221.j propisuje se i zaštita privatnosti radnika – digitalna platforma ne smije obrađivati podatke o privatnim razgovorima, emocionalnom stanju ili zdravstvenom stanju radnika, osobito izvan radnog vremena, osim ako to nije izričito dopušteno zakonom.

4. Zaključak

Zaključno, algoritamsko upravljanje radom otvara novu fazu transformacije radnih odnosa. Nesumnjivo je da takva tehnologija može doprinijeti većoj efikasnosti i produktivnosti odnosno omogućiti radnicima da se usmjere samo na aspekte posla koji zahtijevaju ljudsku prosudbu i interakciju. No, u isto vrijeme, nove tehnologije otvaraju i niz pravnih i etičkih pitanja koja se odnose na transparentnost i ljudska prava. Automatizirano odlučivanje bez ljudske kontrole, narušavanje privatnosti, povećani intenzitet rada i smanjena transparentnost samo su neki od rizika koji mogu utjecati na dostojanstvo, sigurnost i zdravlje radnika. Europska unija prepoznala je te izazove te je kroz nekoliko zakonodavnih akata – spomenute Direktive, Opće uredbe i Akta o umjetnoj inteligenciji – postavila temeljne standarde za odgovornu i pravednu primjenu algoritamskih sustava. Hrvatsko zakonodavstvo, kroz novije odredbe ZOR-a, također prati europske trendove, naglašavajući važnost ljudskog nadzora, transparentnosti i zaštite privatnosti.

Iako su ovi propisi važan korak prema zaštiti prava radnika u digitaliziranom okruženju, regulatorni okvir i dalje je u razvoju. Potrebno je nastaviti pratiti tehnološki napredak, jačati mehanizme nadzora i osigurati dosljednu provedbu u svim vrstama poslova kako bi se postigla (i održala) ravnoteža između inovacija i temeljnih prava radnika.

Ana Grudić, univ. mag. iur.