Aktivisti PauseAI: Umetna inteligenca bi lahko povzročila propad človeštva
Strokovnjaki za umetno inteligenco (UI) so izrazili zaskrbljenost zaradi nevarnosti umetne inteligence, in sicer, da bi lahko UI povzročila propad človeštva. Skupina aktivistov PauseAI je v to trdno prepričana in si prizadeva, da bi EU preprečila uvajanje naprednih sistemov umetne inteligence.
Orodja, kot je ChatGPT, so sprožila zaskrbljenost zaradi UI, vključno z izgubo delovnih mest in dezinformacijami med volitvami.
300 članov skupine PauseAI skrbi, da bi ti sistemi lahko presegli človeško inteligenco in manipulirali z nami. Njihova deaktivacija bi se lahko izkazala za težavno zaradi njihove potencialne odpornosti.
PauseAI, ki ga je ustvaril inženir programske opreme Joep Meindertsma, je bil predstavljen maja. Meindertsma se je namreč odločil, da se bo začasno umaknil z mesta direktorja tehnološkega podjetja. Želel se je osredotočiti izključno na PauseAI.
Ob tem je izrazil zaskrbljenost: “Resnično verjamem, da v prihodnjih mesecih obstaja možnost, da izumimo zelo inteligenten stroj. To bi neizogibno privedlo do propada človeštva, kot ga trenutno razumemo. To spoznanje me je prisililo, da sem se preusmeril od tekočega dela na področju podatkovnih baz in se raje vključil v to politično gibanje. Popolnoma sem zavezan, da se mu bom posvetil po svojih najboljših močeh, saj sem sam precej zaskrbljen.”
Joep Meindertsma je najbolj zaskrbljen zaradi možnosti, da bi umetna inteligenca odkrila ranljivosti ničelnega dne v zvezi s kibernetskimi vprašanji. Hekerji so vešči odkrivanja varnostnih pomanjkljivosti v programski opremi in sistemih, znanih kot zero-day exploits.
To je zaskrbljujoče, če bodo sistemi umetne inteligence postali bolj avtonomni in se bodo povezali s kritično infrastrukturo, kot so električna omrežja ali orožje. V takem primeru bi lahko superinteligentni sistemi umetne inteligence povzročili opustošenje teh sistemov, kar bi vodilo v vsesplošni kaos.
Ustanovitelj skupine PauseAI je zaskrbljen. Evropsko unijo poziva, naj organizira mednarodni vrh. Namen vrha je obravnavati omenjeno problematiko.
Izrazil je najpomembnejši cilj: zbrati proaktivno vlado, organizirati vrh in uveljaviti začasni moratorij na nevarne sisteme.
“Za takšen ukrep je potrebno mednarodno sodelovanje, saj bi se pri izvajanju le na nacionalni ravni soočili s številnimi argumenti, ki temu nasprotujejo. Države se podobno kot podjetja ukvarjajo s konkurenčnimi prizadevanji. Zgolj vljudna zahteva, naj podjetja zaustavijo razvoj umetne inteligence, bi se zaradi velikih konkurenčnih pritiskov, s katerimi se soočajo, izkazala za nezadostno. Prav zato moramo sklicati ta vrh.”
PauseAI ni edini, ki je zaskrbljen. Junija je predsednik vlade Združenega kraljestva Rishi Sunak prepoznal nevarnost ustvarjanja “ultrainteligentne” umetne inteligence brez ustreznih varnostnih ukrepov.
350 vodstvenih delavcev, raziskovalcev in inženirjev na področju umetne inteligence je podpisalo odprto pismo, v katerem so opozorili, da bi umetna inteligenca lahko povzročila propad človeštva.
Neprofitni Center za varnost umetne inteligence je poudaril, da je treba varovanje pred izumrtjem, ki ga lahko povzroči umetna inteligenca, na svetovni ravni, obravnavati prednostno.
Nekateri medtem trdijo, da UI še ni dovolj napredna, da bi predstavljala eksistenčno grožnjo. Menijo, da so za zdaj glavna skrb pristranskost in nenatančni odzivi.
Meredith Whittaker, vodja podjetja Signal, se je na Twitterju posmehnila trditvam vodilnih delavcev v tehnološkem sektorju, ki pretiravajo z zmogljivostmi svojih izdelkov.
Sam Altman, izvršni direktor organizacije OpenAI, ki stoji za ChatGPT, poudarja pomen regulacije umetne inteligence, čeprav priznava njene potencialne koristi za človeštvo.