Evropska unija je 1. avgusta 2024 vstopila v novo obdobje regulacije umetne inteligence z uvedbo Akta o umetni inteligenci (AI Act), prvega celovitega zakonodajnega okvira na svetu, ki obravnava tveganja in priložnosti umetne inteligence (AI). Ta zgodovinski korak je zasnovan za zagotavljanje varnosti in spoštovanja temeljnih pravic državljanov, hkrati pa spodbuja inovacije in konkurenčnost v evropskem digitalnem prostoru.

Glavni cilji in razvrstitev tveganj

Namen Akta o umetni inteligenci je ustvariti usklajen notranji trg za umetno inteligenco v EU, ki temelji na zaupanju in varnosti. Uredba razvršča umetnointeligenčne sisteme v štiri kategorije glede na stopnjo tveganja:

• Nesprejemljivo tveganje: Prepovedani so sistemi, ki predstavljajo resno grožnjo za temeljne pravice, kot so sistemi za socialno točkovanje in manipulativne igrače za otroke.

• Visoko tveganje: Sistemi, ki vplivajo na ključne družbene funkcije, kot so zdravstvo, zaposlovanje in kazenski pregon, morajo izpolnjevati stroge zahteve glede kakovosti podatkov, sledljivosti, dokumentacije in kibernetske varnosti.

• Omejeno tveganje: Sistemi, ki zahtevajo večjo preglednost, kot so klepetalni boti, morajo uporabnikom razkriti, da komunicirajo z AI, in označiti vsebine, ki so umetno ustvarjene.

• Minimalno tveganje: Večina AI sistemov, kot so filtri za neželeno pošto, spada v to kategorijo in so večinoma izvzeti iz strogih regulacijskih zahtev.

Pristop k varnosti in skladnosti

Akt o umetni inteligenci predvideva vzpostavitev regulativnega okvira, ki bo omogočil nadzor nad skladnostjo in varnostjo AI sistemov v EU. Države članice morajo do 2. avgusta 2025 imenovati pristojne organe za nadzor trga, medtem ko bo Evropski urad za umetno inteligenco, ustanovljen februarja 2024, ključni organ na ravni EU, odgovoren za izvajanje akta in zagotavljanje enotnosti pri njegovi uporabi.

Prihodnji izzivi in koraki

Čeprav se bodo glavne določbe akta začele uporabljati 2. avgusta 2026, bodo nekatere prepovedi, povezane z nesprejemljivimi AI sistemi, stopile v veljavo že po šestih mesecih. Poleg tega bo začel veljati tudi Pakt za umetno inteligenco, prostovoljna pobuda, ki razvijalce spodbuja k zgodnjemu izpolnjevanju obveznosti iz akta.

Akt o umetni inteligenci postavlja Evropsko unijo na vodilno mesto pri regulaciji AI, kar bo zagotovilo, da bo razvoj umetne inteligence potekal na način, ki je skladen z evropskimi vrednotami in temeljnimi pravicami, hkrati pa bo ustvarjal ugodno okolje za nadaljnje inovacije in gospodarski napredek.

Zakonodaja, ki je zdaj v veljavi, odraža vizijo varne, etične in trajnostne umetne inteligence, ki bo Evropi omogočila, da postane globalni vodja na tem hitro razvijajočem se področju.

Vir: European Artificial Intelligence Act comes into force (europa.eu) in AI Act | Shaping Europe’s digital future (europa.eu).