Kibernetska varnost: Kako AI vpliva na realnost in demokracijo?

Sodobna tehnologija umetne inteligence (AI) prinaša nove izzive na področju kibernetske varnosti, še posebej v luči prihajajočih kritičnih volitev po svetu. Strokovnjaki opozarjajo, da bi lahko vsebina, ustvarjena z umetno inteligenco, izkrivila naše dojemanje realnosti, kar vpliva na osnovne demokratične procese. Zaskrbljenost izhaja iz sposobnosti generativnih orodij AI, ki olajšajo ustvarjanje lažne vsebine, ki je na prvi pogled težko ločljiva od pristne.

Kljub široki razpravi o potencialnih nevarnostih, ki jih prinaša umetna inteligenca, pa nekateri strokovnjaki menijo, da so te grožnje morda pretirane. Martin Lee, tehnični vodja Ciscove varnostno obveščevalne in raziskovalne skupine Talos, je za CNBC izpostavil, da “globoki ponaredki”, čeprav predstavljajo močno tehnologijo, morda niso tako vplivni kot tradicionalne lažne novice. Lee poudarja, da so dezinformacije, ki jih ustvari AI, ključno tveganje, vendar je realna moč teh tehnologij v njihovi sposobnosti za ustvarjanje dvoma in zmede.

Tehnične omejitve in priložnosti

Generativna orodja AI imajo svoje omejitve. Visualna vsebina, kot so slike ustvarjene z AI, lahko vsebuje očitne napake, kot so osebe z več rokami ali okončine, ki se združujejo z ozadjem. Kljub temu je strokovnjakom včasih težko razlikovati med sintetično ustvarjenimi zvoki in resničnimi glasovnimi posnetki. Matt Calkins, izvršni direktor tehnološkega podjetja Appian, priznava, da so današnja orodja pogosto “dolgočasna” in omejena v uporabnosti, vendar verjame, da bo s časom AI postala bolj učinkovita in s tem tudi potencialno nevarnejša.

Calkins opozarja, da je potrebno bolj resno pristopiti k regulaciji tehnologije, saj bi lahko AI v prihodnosti postala močno orodje za dezinformacije. Predlaga, da bi lahko regulativni ukrepi sledili po tem, ko bo AI ustvarila nekaj izjemno “žaljivega”, kar bi spodbudilo zakonodajne ukrepe. Trenutno pa demokracije ostajajo reaktivne namesto proaktivne v soočanju z izzivi, ki jih prinaša umetna inteligenca.

Kako prepoznati lažne novice?

Lee iz Cisca svetuje, da morajo biti ljudje zavedni o teh napadih in se naučiti uporabljati razpoložljive tehnike za prepoznavanje dezinformacij. Preden verjamemo vsebini, ki sproži čustveni odziv, bi se morali ustaviti in razmisliti o verjetnosti informacij. Pomembno je preveriti, ali ugledni mediji poročajo o istem dogodku ali temi, in v primeru dvoma informacije ignorirati ali prijaviti.

[Vir: CNBC]; Portal24; Foto: Pixabay