OpenAI razmišlja o možnosti ustvarjanja “odraslih vsebin”
OpenAI, ameriško podjetje znano po razvoju umetne inteligence, kot je ChatGPT, preučuje možnost, da bi svojim uporabnikom dovolilo ustvarjanje vsebin, ki niso primerne za mlajše, vključno z erotiko in drugimi eksplicitnimi vsebinami. Podjetje je sicer potrdilo, da bo prepoved uporabe svojih izdelkov za ustvarjanje deepfake vsebin za odrasle ostala v veljavi.
Aktivisti izražajo zaskrbljenost, da bi takšen korak lahko ogrozil poslanstvo OpenAI, ki je ustvariti “varno in koristno” umetno inteligenco. Podjetje je v izjavi za javnost pojasnilo, da razmišlja o “odgovornem” omogočanju “odraslih” vsebin, vključno z erotiko, ekstremnimi prikazi nasilja, žaljivkami in neprimernim jezikom. “Raziskujemo možnost, da bi odgovorno zagotovili opcijo za ustvarjanje NSFW vsebin v starostno primernih kontekstih,” so zapisali pri OpenAI. “Veselimo se boljšega razumevanja pričakovanj uporabnikov in družbe glede vedenja modela na tem področju.”
Joanne Jang, zaposlena v OpenAI, je v intervjuju za NPR izpostavila, da je pomembno, da se začne razprava o tem, ali bi bilo ustvarjanje erotičnega besedila in golih slik v izdelkih OpenAI sploh dovoljeno. “Želimo zagotoviti, da imajo ljudje nadzor v okvirih zakona, ne da bi omogočali deepfake,” je poudarila Jang. Jang dodala, da se končna odločitev o tem, kaj se šteje za pornografijo, razlikuje glede na posameznikovo definicijo. “To so pogovori, ki jih želimo imeti,” je dejala.
Omenila je tudi, da obstajajo “kreativni primeri, kjer je vsebina, ki vključuje spolnost ali goloto, relevantna za uporabnike”, vendar bo to raziskano v “starostno primernem kontekstu”.
Razpravo je dodatno spodbudilo nedavno širjenje pornografskih deepfake vsebin, kot je bilo vidno na platformi X, prej znanem kot Twitter, kjer so bile objavljene nazorne deepfake slike priljubljene pevke Taylor Swift. V Veliki Britaniji pa Laburistična stranka razmišlja o prepovedi orodij, ki omogočajo ustvarjanje golih podob ljudi.
Opozorila o zlorabi umetne inteligence za ustvarjanje neprimernih slik otrok
Internet Watch Foundation (IWF), dobrodelna organizacija, ki se ukvarja z zaščito otrok pred spolno zlorabo na spletu, je izdala opozorilo, da pedofili izkoriščajo tehnologijo umetne inteligence za ustvarjanje golih slik otrok. Tehnologija, ki jo uporabljajo, je prosto dostopna na internetu, kar dodatno otežuje boj proti takšnim zlorabam.
Beeban Kidron, zagovornik varnosti otrok na spletu, je ostro kritiziral podjetje OpenAI. Obtožuje ga, da z razvojem in dostopnostjo svojih orodij za umetno inteligenco “hitro spodkopava svoje poslanstvo”, ki se nanaša na razvoj umetne splošne inteligence, namenjene varni in koristni rabi. Kidron je izrazila razočaranje nad tem, kako se tehnološki sektor osredotoča na komercialna vprašanja, kot je erotika, namesto da bi sprejel praktične korake za preprečevanje škode, ki jo njihovi izdelki lahko povzročajo. “Tehnološki sektor bi moral prevzeti večjo odgovornost,” je dejala.
Clare McGlynn, profesorica prava na Univerzi Durham in strokovnjakinja za zakonodajo o pornografiji, je izrazila dvom o zavezah tehnoloških podjetij, da bodo odgovorno ravnala pri proizvodnji vsebin za odrasle. Njen skepticizem se je povečal po nedavnem razburjenju, ko je bila tehnologija OpenAI, vgrajena v Microsoftov izdelek Microsoft Designer, obtožena za ustvarjanje nepooblaščenih globokih ponaredkov znanih osebnosti.
Pravila OpenAI jasno prepovedujejo “spolno eksplicitno ali sugestivno vsebino”
OpenAI ima sicer politike, ki zahtevajo, da uporabniki njihovih izdelkov “upoštevajo veljavne zakone”, vključno z zakoni proti izkoriščanju ali škodovanju otrok. Pravila OpenAI jasno prepovedujejo “spolno eksplicitno ali sugestivno vsebino”, razen v znanstvenih ali izobraževalnih kontekstih.
Mira Murati, glavna tehnološka direktorica OpenAI, je izjavila, da podjetje še ni odločeno, ali bo dovolilo svojemu orodju za izdelavo videa Sora ustvarjanje golih slik. “Raziskujemo, kje so meje prilagodljivosti, ki jih orodje lahko zagotavlja, in pri tem sodelujemo z umetniki in ustvarjalci iz različnih področij,” je pojasnila Murati.
[Vir: The Guardian]; Portal24; Foto: Pexels