Akt o umjetnoj inteligenciji Europskoga parlamenta
- Detalji
- Objavljeno: Utorak, 19 Prosinac 2023 10:18
Tim se pravilima , utvrđuju obveze za pružatelje i korisnike koji upotrebljavaju sustave umjetne inteligencije
Akt o umjetnoj inteligenciji promiče prihvaćanje antropocentrične i pouzdane umjetne inteligencije te štiti zdravlje, sigurnost, temeljna prava i demokraciju od njezinih štetnih učinaka.
Europski parlament donio je u svoje pregovaračko stajalište o Aktu o umjetnoj inteligenciji s 499 glasova za, 28 glasova protiv i 93 suzdržanih uoči pregovora s državama članicama o konačnoj verziji propisa. Njime bi se trebalo osigurati da je umjetna inteligencija koja se razvija i upotrebljava u Europi u potpunom skladu s pravima i vrijednostima EU-a, uključujući područja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti.
Zabranjene prakse umjetne inteligencije
Tim se pravilima, u kojima se slijedi pristup temeljen na riziku, utvrđuju obveze za pružatelje i korisnike koji upotrebljavaju sustave umjetne inteligencije ovisno o razini rizika sustava umjetne inteligencije. Stoga bi sustavi umjetne inteligencije čija je razina rizika za sigurnost ljudi neprihvatljiva trebali biti zabranjeni, poput sustava za vrednovanje građana (klasifikacija ljudi na temelju njihova ponašanja ili osobnih karakteristika). Zastupnici su nadopunili popis zabranivši nametljive i diskriminirajuće upotrebe sustava umjetne inteligencije poput:
sustava za daljinsku biometrijsku identifikaciju „u stvarnom vremenu” na javnim mjestima
sustava za „naknadnu” daljinsku biometrijsku identifikaciju, osim ako je to podložno prethodnom sudskom odobrenju te je strogo nužno za ciljano pretraživanje povezano s određenim već počinjenim teškim kaznenim djelom
sustava za biometrijsku kategorizaciju koji koriste osjetljive značajke (npr. rod, rasu, etničko podrijetlo, državljanstvo, vjeroispovijest, političku orijentaciju)
sustava za prognostički rad policije (koji se temelje na izradi profila, lokaciji ili prethodnom kriminalnom ponašanju pojedinca)
sustava za prepoznavanje emocija u području kaznenog progona i upravljanja granicama te u obrazovnim ustanovama i
neciljanog prikupljanja snimaka lica s interneta ili nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica (pri čemu se krše temeljna ljudska prava uključujući pravo na privatnost).
Visokorizični sustavi umjetne inteligencije
Zastupnici su osigurali da klasifikacija visokorizičnih aplikacija sad uključuje umjetnu inteligenciju koja predstavlja znatnu opasnost za zdravlje, sigurnost i temeljna prava ljudi te za okoliš. Na taj popis dodani su i sustavi umjetne inteligencije koji se koriste za utjecanje na glasače i rezultate izbora i u sustavima za preporučivanje koje koriste platforme društvenih medija (s više od 45 milijuna korisnika).
Obveze za sustave umjetne inteligencije opće namjene
Dobavljači temeljnih modela (brzo razvijajuća funkcija u području umjetne inteligencije) trebali bi procijeniti i ublažiti moguće rizike (za zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava) te registrirati svoje modele u bazi podataka EU-a prije nego što ih stave na tržište EU-a. Sustavi generativne umjetne inteligencije koji se temelje na takvim modelima, poput ChatGPT-a trebali bi ispunjavati uvjete o transparentnosti (s izjavom da se radi o sadržaju generiranom s pomoću umjetne inteligencije te uz pomoć kako razlikovati tzv. deep-fake slike od stvarnih) i osigurati zaštitu od generiranja nezakonitog sadržaja. Detaljni sažeci podataka zaštićenih autorskim pravima koji se koriste za njihovo osposobljavanje također bi trebali biti dostupni javnosti.
Poticanje inovacija i zaštita prava građana
Kako bi se potaknule inovacije u području umjetne inteligencije te podržala mala i srednja poduzeća, zastupnici su dodali iznimke za istraživačke aktivnosti i komponente umjetne inteligencije dostupne na temelju licencija otvorenog koda. Novi propis potiče regulatorna izolirana okruženja ili stvarna okruženja koja utvrđuju javna tijela kako bi se sustavi umjetne inteligencije testirali prije upotrebe.
Konačno, Parlament želi unaprijediti pravo građana da podnesu tužbu povezanu s umjetnom inteligencijom te da dobiju objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje bitno utječu na njihova temeljna prava. Zastupnici također žele revidirati ulogu Ureda Unije za umjetnu inteligenciju koji bi trebao pratiti primjenu pravila o umjetnoj inteligenciji.
Izjave
Nakon glasanja suizvjestitelj Brando Benifei (S&D, Italija) izjavio je: „Sve oči su danas uprte u nas. Dok velika tehnološka poduzeća upozoravaju na vlastite kreacije, Europa je krenula naprijed i predložila konkretan odgovor na rizike koje predstavlja umjetna inteligencija. Želimo da se upotrebljava pozitivni potencijal umjetne inteligencije za kreativnost i produktivnost, no borit ćemo se i za zaštitu našeg položaja i suzbijanje prijetnji našoj demokraciji i našoj slobodi tijekom pregovora s Vijećem. ”.
Suizvjestitelj Dragoş Tudorache (Renew, Rumunjska) rekao je: „Akt o umjetnoj inteligenciji dat će smjer u cijelom svijetu za razvoj i upravljanje umjetnom inteligencijom, čime će se osigurati da se ta tehnologija, koja će radikalno transformirati naša društva s pomoću golemih koristi koje ona može ponuditi, razvija i upotrebljava u skladu s europskim vrijednostima demokracije, temeljnih prava i vladavine prava.”
Sljedeći koraci
Parlament sad može započeti pregovore s Vijećem o konačnoj verziji propisa koji će započeti danas poslije podne.
Konferencija za medije
Suizvjestitelji Brando Benifei (S&D, Italija) i Dragoş Tudorache (Renew, Rumunjska) održat će konferenciju za medije, zajedno s predsjednicom Roberto Metsolom danas, 14. lipnja u 13.30 sati kako bi pojasnili rezultate današnjeg glasanja i sljedeće korake.
Unaprjeđivanjem tog zakonodavstva zastupnici odgovaraju na prijedloge građana s Konferencije o budućnosti Europe o osiguravanju ljudskog nadzora nad procesima povezanima s umjetnom inteligencijom (prijedlog 35. točka 3.; o potpunom iskorištavanju potencijala pouzdane umjetne inteligencije (35. točka 8.); te o upotrebi umjetne inteligencije i tehnologija prevođenja za prevladavanje jezičnih prepreka (37. točka 3.).
hrvatski-fokus.hr
