Evropa dosegla začasni dogovor o regulaciji umetne inteligence
Evropa je v petek dosegla začasni dogovor o prelomnih pravilih Evropske unije, ki urejajo uporabo umetne inteligence (AI). Dogovor vključuje tudi regulacijo vladne uporabe umetne inteligence pri biometričnem nadzoru ter načine reguliranja sistemov umetne inteligence, kot je ChatGPT.
S tem političnim dogovorom EU kaže na svojo ambicijo postati prva velika svetovna sila, ki bo uveljavila zakone za regulacijo umetne inteligence. Dogovor, dosežen po skoraj 15-urnih pogajanjih, sledi skoraj 24-urni razpravi prejšnji dan med državami EU in poslanci Evropskega parlamenta.
V prihodnjih dneh se bodo obe strani še dogovorili o podrobnostih, ki bi lahko oblikovale končno zakonodajo. Evropski komisar Thierry Breton je na tiskovni konferenci povedal: “Evropa se je postavila kot pionir, saj razume pomen svoje vloge svetovnega postavljavca standardov. To je, verjamem, zgodovinski dan.”
Sporazum postavlja zahteve za osnovne modele, kot je ChatGPT, in sisteme umetne inteligence za splošne namene (GPAI). Ti morajo izpolnjevati obveznosti glede preglednosti, vključno s tehnično dokumentacijo, skladnostjo z avtorskimi pravicami EU ter razkritjem podrobnih povzetkov o vsebini, ki se uporablja za usposabljanje.
Kodeks ravnanja
Modeli z velikim vplivom in sistemskim tveganjem bodo morali izvajati ocene modelov, ocenjevati in ublažiti sistemska tveganja, izvajati kontradiktorno testiranje, poročati Evropski komisiji o resnih incidentih, zagotavljati kibernetsko varnost ter poročati o energetski učinkovitosti. GPAI s sistemskim tveganjem se lahko zanašajo na kodekse ravnanja.
Vladam bo uporaba biometričnega nadzora v realnem času v javnih prostorih dovoljena le v primerih žrtev določenih kaznivih dejanj, preprečevanja resničnih, trenutnih ali predvidljivih groženj, kot so teroristični napadi, ter iskanja ljudi, osumljenih najhujših kaznivih dejanj.
Sporazum prepoveduje kognitivno vedenjsko manipulacijo, nenamerno črtanje podob obraza z interneta ali posnetkov CCTV, socialno točkovanje ter sisteme biometrične kategorizacije za sklepanje o političnih, verskih, filozofskih prepričanjih, spolni usmerjenosti in rasi.
Potrošniki bodo imeli pravico vlagati pritožbe in prejemati smiselna pojasnila, globe za kršitve pa se bodo gibale od 7,5 milijona evrov (8,1 milijona dolarjev) ali 1,5 odstotka prometa do 35 milijonov evrov ali 7 odstotka svetovnega prometa.
Kritike zakonodaje
Kritike zakonodaje prihajajo tako s strani poslovne skupine DigitalEurope, ki jo vidijo kot dodatno breme za podjetja, kot tudi od skupine za pravice zasebnosti European Digital Rights, ki opozarja na možnost legalizacije javnega prepoznavanja obrazov v živo v celotni EU.
Zakonodaja naj bi začela veljati v začetku prihodnjega leta, ko jo bosta uradno ratificirali obe strani, uporabljati pa naj bi se dve leti po tem. Evropska ambiciozna pravila umetne inteligence prihajajo, ko podjetja, kot je OpenAI, nadaljujejo z raziskovanjem novih uporab svoje tehnologije, kar sproža tako pohvale kot skrbi.
Zakonodaja EU bi lahko služila kot model za druge vlade in alternativa lahkemu pristopu Združenih držav ter začasnim pravilom Kitajske.