Bo OpenAi ChatGPT beseda označil z vodnim žigom?
OpenAI, ustvarjalec znanega jezikovnega modela ChatGPT, je razvil orodje za označevanje besedila z vodnimi žigi, ki bi lahko pripomoglo k skladnosti z novim zakonom o umetni inteligenci (AI) v EU. Kljub temu podjetje orodja še ni izdalo, domnevno zaradi bojazni pred izgubo uporabnikov.
Zakon o umetni inteligenci, ki je začel veljati 1. avgusta 2024, od ponudnikov sistemov umetne inteligence, kot je ChatGPT, zahteva, da izhode sistema označijo kot umetno ustvarjene ali spremenjene. Ta zahteva bo obvezna od 2. avgusta 2026.
Wall Street Journal (WSJ) je poročal, da je OpenAI že eno leto pripravljen uvesti orodje za besedilni vodni žig, vendar zaradi strahu pred izgubo uporabnikov okleva. Podjetje je v nedeljski posodobitvi objave v spletnem dnevniku potrdilo, da je razvilo “zelo natančno” orodje za besedilni vodni žig, vendar še vedno raziskuje alternativne rešitve. Podjetje je poudarilo, da tehtajo tveganja uporabe takšnega orodja, saj raziskave kažejo, da bi lahko metoda nesorazmerno vplivala na nekatere skupine, kot so govorci angleščine, ki jim ni materni jezik.
Učinkovitost in globalni Izzivi
OpenAI prav tako dvomi o učinkovitosti vodnih žigov proti globaliziranim posegom, kot so prevajalski sistemi in preoblikovanje besedil z drugimi generativnimi modeli. To bi lahko zmanjšalo pomen vodnih žigov pri preprečevanju zlorab s strani slabih akterjev. Po poročanju WSJ je OpenAI že od novembra 2022 razpravljal in izvajal ankete med uporabniki glede uvedbe orodja za vodne žige. Raziskava je pokazala, da bi skoraj 30 odstotkov zvestih uporabnikov ChatGPT manj uporabljalo chatbota, če bi OpenAI uvedel vodne žige, tekmeci pa ne. Kljub temu je druga raziskava pokazala, da štirje od petih ljudi po vsem svetu podpirajo zamisel o orodju za odkrivanje umetne inteligence.
Funkcionalnost orodja za vodne žige
Orodje za vodne žige bi digitalno označilo vse vsebine, ki jih ustvari ChatGPT, kar bi otežilo zlorabo umetno ustvarjene vsebine ali njeno uporabo za goljufanje. Zloraba tovrstnih vsebin je povzročila velike težave pri delodajalcih, učiteljih in profesorjih, ki iščejo načine za preprečevanje zlorab. WSJ je poročal, da orodje za vodne žige ne pušča vidnih sledi v besedilu, vendar ga orodje za zaznavanje umetne inteligence lahko označi kot vsebino, ustvarjeno z AI. Trenutna orodja za odkrivanje umetne inteligence so nekoliko nezanesljiva, kar otežuje označevanje vsebine, ustvarjene z AI.
Skladnost z zakonom o AI
Vodni žig je omenjen v osnutku Pakta o umetni inteligenci, naboru prostovoljnih zavez, ki jih lahko podjetja podpišejo, da se pripravijo na skladnost z zakonom o umetni inteligenci. Evropska komisija upa, da bo septembra organizirala dogodek, na katerem se bodo podjetja javno zavezala Paktu. “Organizacije se lahko zavežejo, da bodo […] oblikovale generativne sisteme umetne inteligence, tako da bo vsebina, ustvarjena z umetno inteligenco, označena s tehničnimi rešitvami, kot so vodni žigi in identifikatorji metapodatkov,” piše v osnutku pakta.
Prejšnji teden je OpenAI javno izjavil, da se zavezuje spoštovati zakon o umetni inteligenci EU, ki od ponudnikov generativnih modelov umetne inteligence, kot je ChatGPT, zahteva, da zagotovijo, da so rezultati sistema umetne inteligence označeni v strojno berljivi obliki in zaznavni kot umetno ustvarjeni ali manipulirani.
[Vir: Euractiv]; Portal24; Foto: Freepik