EU določila, kaj bo umetna inteligenca lahko in kaj ne bo smela početi
Po skoraj 37 urah neprekinjenih razprav v Bruslju smo od EU birokratov dočakali dolgo pričakovani izid pogajanj o umetni inteligenci. Zbralo se je sto predstavnikov iz različnih evropskih držav, razpravljali pa so o tehničnih podrobnostih zakonskega okvira za regulacijo umetne inteligence. Po napetih pogajanjih je iz Bruslja končno prišel “beli dim”.
Zavedajoč se potencialnih nevarnosti, ki jih za človekove pravice in demokracijo predstavlja umetna inteligenca, so soustvarjalci zakonodajnega svežnja dosegli sporazum o prepovedi njene uporabe v najbolj občutljivih in kontroverznih primerih. Kljub temu pa so pazili, da je dovolj prostora za razvoj tehnologije in podjetništva, kot je navedeno v uradnem sporočilu za javnost.
Ne bo dovoljeno
Po novih pravilih umetne inteligence ne bo dovoljeno uporabljati pri kategorizaciji biometričnih sistemov, ki vključujejo občutljive podatke, kot so politična prepričanja, verska prepričanja, spolna usmerjenost in rasa. Prav tako je prepovedana nenadzorovana uporaba fotografij iz interneta ali nadzornih kamer za namene prepoznavanja obrazov.
Strogo je prepovedana tudi uporaba zaznavanja čustev na delovnem mestu ali v izobraževalnih ustanovah. Poleg tega se zagovarja vzpostavitev sistema socialnega točkovanja na podlagi osebnih lastnosti in vedenja državljanov. Prepovedani so tudi sistemi umetne inteligence, ki manipulirajo s človeškim vedenjem ali zaobidejo človekovo svobodno voljo.
Med trialogom, pogajanji med Evropskim parlamentom in predstavniki držav članic, se je največ razpravljalo o vprašanju nadzora nad umetno inteligenco. Na koncu so se dogovorili za tri strogo določene izjeme, ki bodo policiji in obveščevalnim službam dovoljevale uporabo agresivnih metod le v primeru terorističnih napadov ali ogrožanja nacionalne varnosti.
Zakon naj bi začel veljati leta 2025
Zakon naj bi začel veljati šele leta 2025, vendar natančna časovnica še ni določena. Podjetja, ki ne bodo spoštovala uredbe, se bodo soočila z globo v višini sedmih odstotkov svojih letnih prihodkov, kar bi lahko znašalo do 40 milijonov evrov.
Osrednji element dogovora je sistem več ravni, ki bo najvišjo regulacijo uveljavljal le za modele umetne inteligence, ki predstavljajo največje tveganje za zdravje, varnost in človekove pravice. Trenutno le model GPT-4 izpolnjuje ta kriterij.
Evropski poslanec Brando Benifei, ki je vodil pogajalsko skupino parlamenta, je poudaril, da je cilj sprejeti pravni okvir, ki bo omogočil razvoj umetne inteligence v skladu s človekovimi pravicami. Poudaril je pomen zaupanja v to tehnologijo.
Thierry Breton, nekdanji komisar in odgovoren za področje umetne inteligence, je sporazum označil za “zgodovinskega” in poudaril vodilno vlogo EU pri urejanju tega področja v svetu. Predsednica Evropskega parlamenta Roberta Metsola pa verjame, da bo zakon služil kot vzor drugim državam pri regulaciji umetne inteligence v prihodnosti.
Profesorica prava na univerzi Columbia Ana Bradford pa opozarja, da bodo podjetja, ki se bodo morala prilagoditi temu zakonu, verjetno lobirala za razširitev podobnih določb tudi na druge trge, da se izognejo prilagajanju vsakemu trgu posebej.