Kako ChatGPT določi kaj bo njegov naslednji odgovor?
Klepetalni roboti, kot je ChatGPT, lahko tvorijo jasne, slovnično pravilne stavke z naravnim besednim tokom. Vendar strokovnjaki opozarjajo, da dobro izvedenega govora ne smemo zamenjati z resničnimi mislimi, čustvi ali nameni.
Strokovnjaki menijo, da klepetalni roboti delujejo bolj kot stroji, ki izvajajo matematične izračune in statistične analize. Za ustvarjanje ustreznih besed in stavkov uporabljajo kontekstualne informacije. Obsežno usposabljanje, ki vključuje povratne informacije človeških annotatorjev, je ključnega pomena pri simuliranju funkcionalnih pogovorov.
ChatGPT in podobni roboti se usposabljajo na podlagi obsežnih pogovorov, ki stroje učijo, kako komunicirati s človeškimi uporabniki. Podjetje OpenAI, ki je odgovorno za ChatGPT, na svoji spletni strani navaja, da njegovi modeli prejemajo navodila iz različnih virov, vključno z uporabniki in licenčnim gradivom.
Kako delujejo klepetalni boti?
Klepetalni roboti z umetno inteligenco, kot je ChatGPT podjetja OpenAI, temeljijo na velikih jezikovnih modelih (LLM). Ti modeli so usposobljeni na podlagi velikih količin besedil iz objavljenih pisnih del in spletnih virov, ki so jih ustvarili predvsem ljudje.
Strokovnjaki pojasnjujejo, da so ti sistemi usposobljeni za besedna zaporedja, kar jim omogoča razumevanje pomena posameznih besed v teh zaporedjih. Zato sistemi LLM ne pridobivajo le dejanskega znanja, temveč tudi razumejo vzorce govora in način, kako se besede ponavadi uporabljajo skupaj.
Da bi zagotovili ustrezne odzive in preprečili škodljiva sporočila, klepetalne robote dodatno usposabljajo ljudje. Določijo se lahko smernice za preprečevanje ustvarjanja strupenih, političnih ali mnenjskih vsebin. Po mnenju Kristiana Hammonda, profesorja računalništva in direktorja Centra za napredek varnosti strojne inteligence na univerzi Northwestern, je ta metoda priporočljiva. Hammond poudarja njeno učinkovitost.
Ko klepetalnemu robotu zastavite preprosto stvarno vprašanje, z algoritmi prikliče informacije. Hitro izbere najboljše odgovore in enega naključno predstavi. Ob ponovitvi istega vprašanja lahko dobite nekoliko drugačne odgovore.
Klepetalni robot lahko vprašanja tudi razdeli na dele in nanje odgovarja zaporedno. Za pomoč pri zagotavljanju popolnega odgovora uporabi svoje prejšnje odgovore.
Če na primer robota prosite, naj navede predsednika ZDA z enakim imenom kot glavni moški igralec v filmu Camelot, bo morda najprej omenil Richarda Harrisa. Nato bi na podlagi tega odgovora kot odgovor na vaše prvotno vprašanje navedel Richarda Nixona, pravi Hammond.
Po Hammondovih besedah robot svoje prejšnje odgovore vključi v naslednje pozive.
Vendar pazite, kaj klepetalni roboti ne vedo.
Klepetalni bot se znajde pred izzivom, ko mu zastavite vprašanje, na katerega ne pozna odgovora. Ne zaveda se svojih omejitev, zato mora ugibati. Posledično lahko posreduje informacije, kot da so resnične. Ta pojav imenujemo “halucinacija”, pri kateri si klepetalni robot izmisli dejstva. William Wang, izredni profesor računalništva na kalifornijski univerzi v Santa Barbari in eden od vodij skupine za obdelavo naravnega jezika, to opisuje kot pomanjkanje metakognicije – zavedanja o tem, kaj je modelu neznano.
Vir Foto: Pexels