Tehnološki velikani podpisali pakt za boj proti zlorabi AI
Na Münchenski varnostni konferenci so vodilna tehnološka podjetja, vključno z Meta, OpenAI, TikTok, Microsoft, Amazon in X Elona Muska, podpisala pakt o prostovoljnem sprejetju “razumnih previdnostnih ukrepov” za boj proti uporabi orodij umetne inteligence (AI), ki bi lahko motila demokratične volitve po svetu. Skupaj z Adobe, Google, IBM in dvanajstimi drugimi podjetji so se zavezali k novemu okviru za obravnavo globokih ponaredkov, ustvarjenih z AI, ki namenoma zavajajo volivce.
Nick Clegg, predsednik globalnih zadev za Meta, je poudaril, da nobeno tehnološko podjetje, vlada ali organizacija civilne družbe ne more sama nasloviti izzivov, ki jih prinaša AI in njena potencialna zloraba. Sporazum, čeprav v veliki meri simboličen, se osredotoča na boj proti nerealističnim slikam, zvokom in videom, ki lažno predstavljajo politične kandidate ali širijo napačne informacije o volilnem postopku.
Podpisniki se niso zavezali k odstranjevanju globokih ponaredkov, temveč k identifikaciji in označevanju zavajajoče vsebine AI. Prav tako so se dogovorili o delitvi najboljših praks in zagotavljanju hitrih ter sorazmernih odzivov na širjenje takšne vsebine na njihovih platformah.
Pomanjkanje zavezujočih zahtev
Nejasnost zavez in pomanjkanje zavezujočih zahtev v nedavno podpisanem paktu med vodilnimi tehnološkimi podjetji je sprožila mešane odzive med zagovorniki in strokovnjaki. Čeprav je raznolikost podpisnikov pokazatelj širokega priznavanja problema, kritiki izpostavljajo, da sporazum morda ni dovolj strikten. Rachel Orey iz Bipartisan Policy Center je izrazila razočaranje nad nezadostno močjo jezika v sporazumu. Priznala je, da je pomembno, da podjetja prepoznavajo svojo vlogo v zaščiti demokratičnih volitev.
Nick Clegg, predstavnik enega od podpisnikov, je poudaril, da sporazum ne želi vsiliti enotnih pravil vsem podjetjem, temveč priznava individualne politike vsakega podjetja v boju proti zlorabam AI. Ob tem je dodal, da industrija prepoznava nemogočnost soočenja z izzivi AI z ignoriranjem ali minimalnimi ukrepi.
Sporazum je pritegnil tudi pozornost političnih voditeljev, kot je Vera Jourova iz Evropske komisije. Jourova je sporazum označila za korak v pravo smer, kljub njegovim omejitvam. Jourova je opozorila na nevarnosti, ki jih dezinformacije, podprte z AI, predstavljajo za demokracijo, in pozvala politike k odgovorni uporabi tehnologije.
Poskusi manipulacije
Ob tem se zavedanje o vmešavanju AI v volitve širi, saj so države po vsem svetu že izkusile poskuse manipulacije. Med slednje spadajo tudi robotski klici in generirani zvočnimi posnetki, ki poskušajo vplivati na volilne izide. Incidenti kažejo na nujnost učinkovitih ukrepov proti zlorabam AI v političnih procesih.
V luči teh dogodkov podpisniki sporazuma poudarjajo pomen preglednosti svojih politik in izobraževanja javnosti o možnih nevarnostih AI ponaredkov. Večina sodelujočih podjetij je že napovedala uvedbo zaščitnih ukrepov in tehnologij za prepoznavanje ter označevanje vsebin, generiranih z AI. Omenjeno pomeni pomemben korak k večji osveščenosti in varnosti uporabnikov.
Kljub tem prizadevanjem pa ostaja pritisk na podjetja, da nadaljujejo z razvojem in implementacijo učinkovitejših rešitev za boj proti zlorabi AI. V ZDA se to še posebej odraža v odsotnosti zakonodaje, ki bi urejala uporabo AI v politiki. Podjetja so zdaj tako v veliki meri prepuščena lastni regulaciji.
Pravila za boj proti dezinformacijam
Zvezna komisija za komunikacije (FCC) je nedavno razglasila, da so robotski klici, ki uporabljajo zvočne posnetke, ustvarjene z umetno inteligenco, nezakoniti. Omenjeno pa ne velja za zvočne globoke ponaredke, ki se širijo prek družbenih omrežij ali so del oglaševalskih kampanj.
Podjetja, kot je Meta, so sicer vzpostavila pravila za boj proti dezinformacijam na svojih platformah, posebej tistim, ki zadevajo volitve, vključno z napačnimi informacijami o volilnih procesih. Kljub temu je nedavni sporazum o boju proti dezinformacijam, ki vključuje podjetja kot so Anthropic, Inflection AI, ElevenLabs, Arm Holdings, McAfee, TrendMicro in Stability AI, sprožil razpravo o učinkovitosti in zadostnosti obstoječih ukrepov.
Jeff Allen iz Inštituta Integrity in Lisa Gilbert iz Public Citizen sta med kritiki, ki menijo, da sporazum ni dovolj strikten. Allen bi rad videl dodatne ukrepe, kot so spremembe v sistemu priporočanja vsebin, ki ne bi dajale prednosti angažiranosti. Gilbert meni, da bi morala podjetja zadržati razvoj nekaterih tehnologij, dokler niso vzpostavljeni ustrezni zaščitni ukrepi.
V luči tega sporazuma je presenetljiva tudi vključitev podjetja X, ki ga vodi Elon Musk, ki je znan po svojem stališču do svobode govora. Linda Yaccarino, izvršna direktorica X, je poudarila zavezo podjetja k zaščiti svobodnih in poštenih volitev ter boju proti grožnjam umetne inteligence in k zagotavljanju svobode govora in preglednosti.
Pomemben je tudi opazni izostanek podjetja Midjourney, priljubljenega generatorja slik AI, kar odpira vprašanja o obsegu sodelovanja in zavezanosti različnih akterjev v tehnološki industriji k skupnim prizadevanjem za preprečevanje zlorabe AI.
[Vir: Euronews]; Foto: Portal24 (AI)