U aprilu 2021. godine, Europska komisija je predstavila prijedlog prvog zakona o umjetnoj inteligenciji (AI Act) u Europi, čime je postavljen temelj za sigurnu i odgovornu primjenu AI tehnologija širom kontinenta. Ovaj zakon predstavlja važnu prekretnicu u regulaciji AI sistema i postavlja stroge standarde za sigurnost, transparentnost, etiku i pravednost.

AI Act se temelji na pristupu zasnovanom na riziku, razvrstavajući AI sisteme prema njihovom potencijalu da nanesu štetu ili povrijede ljudska prava. Ovaj pristup omogućava regulaciju proporcionalnu rizicima povezanim s određenim upotrebama AI tehnologija.

Kategorije rizika

AI Act prepoznaje četiri glavne kategorije rizika: neprihvatljiv rizik, visok rizik, ograničeni rizik i minimalni rizik.

1. Neprihvatljiv rizik: AI sistemi koji predstavljaju prijetnju za sigurnost, sredstva za život ili prava ljudi bit će zabranjeni. Primjeri uključuju sisteme koji koriste subliminalne tehnike za manipulaciju ponašanjem korisnika ili one koje omogućavaju društveno bodovanje sličan kineskom modelu.
2. Visok rizik: Ovi sistemi su dopušteni uz stroge zahtjeve i nadzor. Uključuju AI tehnologije korištene u kritičnim sektorima poput zdravstva, transporta i obrazovanja, koje moraju zadovoljiti zahtjeve za transparentnost, sigurnost i etiku, uključujući procjene rizika i planove za ublažavanje štetnih efekata.
3. Ograničeni rizik: Ovi sistemi imaju manje strog nadzor, ali korisnici moraju biti informirani o upotrebi AI tehnologije. Primjeri uključuju chatbotove i sisteme za prepoznavanje emocija. Ključna je transparentnost prema korisnicima kako bi bili svjesni da komuniciraju s AI.
4. Minimalni rizik: Ovi sistemi ne zahtijevaju posebne regulacije jer predstavljaju minimalan rizik za korisnike. Primjeri uključuju AI sisteme za filtriranje spam e-pošte ili preporuke filmova.

Posljedice i očekivanja

Implementacija AI Act-a donosi nekoliko važnih posljedica za različite sektore u Europi. Prvo, postavlja se visoki standard za sigurnost i etiku u razvoju i primjeni AI tehnologija, što bi moglo povećati povjerenje javnosti u AI sisteme, potaknuti inovacije i osigurati konkurentnost Europe na globalnom tehnološkom tržištu.

Drugo, zakon pruža jasne smjernice za tvrtke koje razvijaju i koriste AI sisteme, smanjujući pravnu nesigurnost i olakšavajući ulazak novih igrača na tržište. Međutim, tvrtke će također morati uložiti dodatne resurse kako bi ispunile ove zahtjeve, što može predstavljati izazov, posebno za manje tvrtke i startupe.

Treće, AI Act promiče odgovornost i transparentnost u korištenju AI-a, zahtijevajući redovite procjene rizika, dokumentaciju algoritama i mehanizama za povratne informacije te mogućnost revizije od strane nadzornih tijela.

Na kraju, AI Act ima za cilj zaštititi prava i slobode građana, smanjujući rizik od zloupotrebe AI tehnologija. To uključuje zaštitu privatnosti, sprječavanje diskriminacije i osiguranje da AI sistemi ne krše temeljna ljudska prava.

Ovaj zakon predstavlja prvi korak u sveobuhvatnoj regulaciji umjetne inteligencije, postavljajući primjer za druge zemlje i regije. Europska unija ovim zakonom pokazuje svoju predanost odgovornoj i etičkoj upotrebi AI tehnologija, balansirajući inovaciju i zaštitu javnog interesa.