AI tehnologije koja je obećala preobrazbu svakodnevnog života i potaknula upozorenja o egzistencijalnim opasnostima za čovječanstvo, javlja AP i drugi mediji.

Nako nekoliko mjeseci najave za ovaj “AI act” i pregovaranja, pregovarači iz Evropskog parlamenta i 27 zemalja članica Unije prevladali su velike razlike u kontroverznim točkama, uključujući generativnu umjetnu inteligenciju i policijsku upotrebu nadzora prepoznavanja lica, kako bi potpisali okvirni politički sporazum za Zakon o umjetnoj inteligenciji.

“Dogovor!” tvitao je europski povjerenik Thierry Breton malo prije ponoći. “EU postaje prvi kontinent koji je postavio jasna pravila za korištenje umjetne inteligencije.”

Rezultat je došao nakon maratonskih razgovora iza zatvorenih vrata, s početnom sesijom koja je trajala 22 sata prije nego što je drugi krug započeo u petak ujutro. Nacrt uredbe ima za cilj osigurati da su sistemi umjetne inteligencije koji se stavljaju na europsko tržište i koriste u EU sigurni te poštuju temeljna prava i vrijednosti EU-a. Ovaj značajan prijedlog također ima za cilj potaknuti ulaganja i inovacije u umjetnoj inteligenciji u Europi.

Dužnosnici su bili pod pritiskom kako bi osigurali političku pobjedu za vodeći zakon. Grupe civilnog društva su ga, međutim, hladno prihvatile dok čekaju tehničke detalje koje će trebati riješiti u nadolazećim sedmicama. Rekli su da dogovor nije otišao dovoljno daleko u zaštiti ljudi od štete koju uzrokuju sistemi umjetne inteligencije.

“Današnji politički dogovor označava početak važnog i potrebnog tehničkog rada na ključnim detaljima Zakona o umjetnoj inteligenciji, koji još uvijek nedostaju”, rekao je Daniel Friedlaender, voditelj europskog ureda Udruge računalne i komunikacijske industrije, lobističke skupine tehnološke industrije.

EU je rano preuzeo vodstvo u globalnoj utrci za izradu zaštitnih ograda za umjetnu inteligenciju kada je 2021. predstavio prvi nacrt svog pravilnika. Međutim, nedavni procvat generativne umjetne inteligencije natjerao je europske dužnosnike na muku da ažuriraju prijedlog koji je trebao poslužiti kao nacrt za svijet.

Evropski parlament još će morati glasati o aktu početkom sljedeće godine, ali s postignutim dogovorom to je formalnost, rekao je za Associated Press u petak navečer Brando Benifei, talijanski zakonodavac koji suvodi pregovore tijela.

“Jako je jako dobar”, rekao je u tekstualnoj poruci nakon što su ga pitali uključuje li sve što želi. “Očito smo morali prihvatiti neke kompromise, ali sveukupno vrlo dobre.” Eventualni zakon ne bi u potpunosti stupio na snagu najranije 2025. godine, a prijeti strogim financijskim kaznama za kršenja do 35 miliona eura ili 7% globalnog prometa tvrtke. Međutim, jop nije sasvim jasno šta ovaj zakon donosi i čekaju se detalji.

Generativni AI sistemi poput OpenAI-jevog ChatGPT-a eksplodirali su u svijesti svijeta, zadivljujući korisnike sposobnošću stvaranja teksta koji podsjeća na tekst koji pišu ljudi, fotografija i pjesama, ali izazivajući strahove o rizicima koje tehnologija koja se brzo razvija predstavlja za radna mjesta, privatnost i zaštitu autorskih prava, pa čak i ljudski život sebe.

Sada su SAD, Ujedinjeno Kraljevstvo, Kina i globalne koalicije poput Grupe 7  uskočile sa svojim prijedlozima za regulisanje umjetne inteligencije, iako još uvijek nisu dostigle Evropu.

Budući da se sistemi umjetne inteligencije razvijaju i distribuišu kroz složene lance , kompromisni sporazum uključuje promjene koje pojašnjavaju raspodjelu odgovornosti i uloga različitih sudionika u tim lancima, posebno pružatelja i korisnika sistema AI. Također pojašnjava odnos između odgovornosti prema Zakonu o umjetnoj inteligenciji i odgovornosti koje već postoje prema drugom zakonodavstvu, kao što je relevantno zakonodavstvo EU-a o zaštiti podataka ili sektorsko zakonodavstvo.

Za neke upotrebe umjetne inteligencije rizik se smatra neprihvatljivim i stoga će ti sistemi biti zabranjeni u EU-u. Privremeni sporazum zabranjuje, na primjer, kognitivnu bihevioralnu manipulaciju, neciljano brisanje slika lica s interneta ili CCTV snimaka, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, društveno bodovanje (social scoring), biometrijsku kategorizaciju za izvođenje osjetljivih podataka, kao što su seksualna orijentacija ili religija i uvjerenja i neke slučajeve prediktivnog rada policije za pojedince, navodi se na stranicama European Council.

Glavni elementi privremenog sporazuma

U poređenju  s početnim prijedlogom Komisije, glavni novi elementi privremenog sporazuma obuhvataju:

• pravila o visokorizičnim modelima umjetne inteligencije opće namjene koji mogu uzrokovati sustavni rizik u budućnosti, kao i o visokorizičnim sustavima umjetne inteligencije
• revidirani sistem upravljanja s nekim ovlastima provedbe na razini EU-a
• proširenje popisa zabrana, ali uz mogućnost korištenja daljinske biometrijske identifikacije od strane tijela kaznenog progona u javnim prostorima, podložno zaštitnim mjerama
• bolju zaštitu prava kroz obvezu za implementatore visokorizičnih sistema umjetne inteligencije da provedu procjenu učinka na temeljna prava prije stavljanja sustava umjetne inteligencije u upotrebu.

​Privremeni sporazum također pojašnjava da se uredba ne odnosi na područja izvan djelokruga prava EU-a i ni u kojem slučaju ne bi trebala utjecati na nadležnosti država članica u nacionalnoj sigurnosti ili na bilo koji subjekt kojemu su povjerene zadaće u ovom području. Nadalje, zakon o umjetnoj inteligenciji neće se primjenjivati na sustave koji se koriste isključivo u vojne ili odbrambene svrhe. Sporazum predviđa da se uredba neće primjenjivati na sisteme umjetne inteligencije koji se koriste isključivo u svrhu istraživanja i inovacija ili na ljude koji koriste umjetnu inteligenciju iz neprofesionalnih razloga.

Kompromisni sporazum predviđa vodoravni sloj zaštite, uključujući klasifikaciju visokog rizika, kako bi se osiguralo da sistemi umjetne inteligencije koji vjerovatno neće uzrokovati ozbiljna kršenja temeljnih prava ili druge značajne rizike ne budu obuhvaćeni. Sistemi umjetne inteligencije koji predstavljaju samo ograničeni rizik bili bi podvrgnuti vrlo malim obvezama transparentnosti, na primjer otkrivanje da je sadržaj generisala umjetna inteligencija kako bi korisnici mogli donositi informisane odluke o daljnjoj upotrebi.

*naslovna slika je generisana pomoću AI

Prevela i prilagodila Jelena Kalinić, izvori navedini u linkovima.

Izvor: naukagovori.ba