EU je korak bliže provedbi strože regulacije umjetne inteligencije

Zakon o umjetnoj inteligenciji opsežan je dokument na kojem se radi već godinama, a poseban je interes izazvao nakon eksplozije alata generativne umjetne inteligencije.

To je dovelo do brojnih značajnih promjena Zakona u posljednjem trenutku.

Uočene su nove potencijalne opasnosti do kojih može doći do bržeg razvoja raznih servisa temeljenih na umjetnoj inteligenciji.

Mjere usmjerene na kontrolu AI sustava

Zastupnici Europskog parlamenta proširili su klasifikaciju visokorizičnih područja kako bi uključila štetu po zdravlje ljudi, sigurnost, temeljna prava ili okoliš.

Također su dodani AI sustavi za utjecaj na birače u političkim kampanjama i sustavi preporuka koje koriste platforme društvenih medija (s više od 45 milijuna korisnika prema Zakonu o digitalnim uslugama) na popis visokog rizika.

Klasifikacija visokorizičnih područja sada uključuje:

• Sustavi daljinske biometrijske identifikacije u “realnom vremenu” u javno dostupnim prostorima
• Sustavi daljinske biometrijske identifikacije, s jedinim iznimkom za provođenje zakona za kazneni progon teških zločina i samo nakon sudskog odobrenja
• Sustavi biometrijske kategorizacije koji koriste osjetljive karakteristike (npr. spol, rasa, etnička pripadnost, status državljanstva, religija, politička orijentacija)
• Prediktivne policijske sustave (temeljene na profiliranju, lokaciji ili kriminalnom ponašanju u prošlosti)
• Sustave za prepoznavanje emocija u provedbi zakona, upravljanju granicama, na radnom mjestu iu obrazovnim institucijama
• Neselektivno prikupljanje biometrijskih podataka s društvenih medija ili CCTV snimaka radi stvaranja baze podataka za prepoznavanje lica (kršenje ljudskih prava i prava na privatnost)

Nacrt Zakona je osim zabrane usmjeren i na kontrolu takozvanih AI sustava “opće namjene” kao što su GPT-4 i ChatGPT, ali i AI generatori slika Stable Diffusion, Midjourney i DALL-E.

Koliko je tržište EU značajno dovoljno govori činjenica da se tehnološke tvrtke često pridržavaju propisa specifičnih za EU na globalnoj razini kako bi se smanjile probleme održavanja višestrukih skupova standarda, prenosi The Verge.

Prema tome, novi bi Zakon mogao koristiti i korisnike u SAD-u, UK i drugdje.