xAI razkriva ozadje spornih odgovorov klepetalnega robota Grok
Podjetje xAI, ki ga vodi Elon Musk, je po incidentu s klepetalnim robotom Grok, ki je neprimerno odgovarjal na vprašanja, javno objavilo sistemske ukaze, ki usmerjajo njegovo delovanje. Do nepravilnosti je prišlo, ko je Grok na platformi X nenapovedano začel omenjati temo “genocida belcev” v Južni Afriki, tudi pri nepovezanih vprašanjih.
xAI je v izjavi pojasnil, da je bila vzrok za to nepooblaščena sprememba v sistemskih ukazih, ki jo je izvedel neznani zaposleni. Podjetje je sprožilo ukrepe za preprečevanje podobnih dogodkov v prihodnje.
Neodobrena sprememba povzročila polemiko
Incident se je zgodil 14. maja ob približno 3.15 po pacifiškem času, ko je nepooblaščena oseba spremenila sistemske ukaze Groka. Ti ukazi so robotu narekovali, naj podaja specifične odgovore o politični temi, kar je po navedbah xAI kršilo njihove interne politike in vrednote.
Uporabniki platforme X so hitro opazili, da Grok v odgovorih na vprašanja, povezana z baseballom ali spremembami imena storitve HBO Max, omenja sporno temo o Južni Afriki. Po poročanju portala The Verge so se pojavile kritike, da takšno vedenje spodkopava zaupanje v nevtralnost umetne inteligence. xAI je hitro ukrepal in odstranil sporne odgovore, ki so se pojavljali več ur, preden so težavo odpravili.
xAI obljublja večjo transparentnost
V odzivu na incident je xAI napovedal korake za povečanje transparentnosti in zanesljivosti Groka. Podjetje je začelo objavljati sistemske ukaze na platformi GitHub, kjer lahko javnost spremlja spremembe in podaja povratne informacije.
Poleg tega so uvedli dodatne nadzorne mehanizme, da zaposleni ne bi mogli spreminjati ukazov brez predhodnega pregleda. Po navedbah CNN Business bo xAI vzpostavil tudi 24-urno ekipo za spremljanje Grokovih odgovorov, da bi hitreje zaznali morebitne nepravilnosti, ki jih avtomatizirani sistemi ne bi ujeli.
Muskova vpletenost
Dogodek je sprožil špekulacije o vplivu Elona Muska, saj je znan po svojih javnih izjavah o domnevnem “genocidu belcev” v Južni Afriki, kjer je odraščal. Kritiki, kot poroča The Verge, so izrazili dvom o nevtralnosti xAI, saj naj bi Muskov vpliv na Groka odražal njegove osebne poglede.
xAI ni razkril identitete zaposlenega, odgovornega za spremembo, kar je dodatno spodbudilo razprave o notranjih procesih podjetja. Incident je izpostavil ranljivost umetne inteligence za manipulacijo, slednje pa odpira vprašanja o potrebi po strožjem nadzoru nad tovrstnimi tehnologijami.
Miha D. Kovač
Portal24; Foto: Portal24/ustvarjeno z Grok3 (xAI