Umetna inteligenca v bioterorizmu je vedno večja grožnja
Zakon EU o umetni inteligenci opozarja na izziv usklajevanja inovacij in tveganja. Esvelt in Mueller opozarjata na njegov pomen za grožnje bioterorizma, ki jih povzroča umetna inteligenca. Ta nauk je še posebej pomemben v sedanjih okoliščinah.
Ureditev umetne inteligence postaja vse bolj sporna točka v mednarodni politiki. EU se je dogovorila o zakonu o umetni inteligenci; to odraža svetovni trend. Združene države Amerike so izdale obsežen izvršni ukaz o umetni inteligenci. Podobno je Združeno kraljestvo gostilo vrh o varnosti UI s ključnimi osebnostmi. Glavni poudarek v teh razpravah je tveganje bioterorizma s pomočjo umetne inteligence, zlasti možnost, da bi posamezniki uporabili umetno inteligenco za dostop do virusov, ki povzročajo pandemijo.
Nedavni neformalni poskus Esvelta in Muellerja poudarja nujnost tega vprašanja. Udeležencem sta naročila, naj uporabijo spremenjen model velikega jezika, ki mu je bila odvzeta zaščita, da bi ugotovili, kako si priskrbeti pandemski patogen. V treh urah so udeleženci opisali več ključnih korakov za sprožitev velikega izbruha. Zaskrbljujoče je, da je model vseboval navodila za pridobivanje virusne DNK in izogibanje sedanjim metodam pregledovanja. V kolikšni meri sedanji modeli umetne inteligence nenamerno spodbujajo bioterorizem z združevanjem javno dostopnih informacij, je treba še ugotoviti.
Kljub trenutnim omejitvam te ugotovitve kažejo, da lahko modeli umetne inteligence v prihodnosti ponudijo podrobne smernice. Ta navodila bi lahko zlonamernim uporabnikom pomagala pri ustvarjanju in sproščanju pandemičnega virusa. Takšni izidi so možni, če ne bodo vzpostavljeni zanesljivi zaščitni ukrepi.
Vprašanje zajema tudi dostopnost tehnologije sinteze DNK. Danes ponudniki genske sinteze ponujajo segmente DNK za manj kot 200 EUR, za nalogo, ki je nekoč zahtevala na tisoče ur in si je prislužila Nobelovo priznanje. Ta tehnologija, ki je ključna za hiter napredek pri cepivih z mRNA in drugih področjih biološke znanosti, predstavlja tudi tveganje: zlonamerneži bi jo lahko izkoristili za ustvarjanje pandemičnih patogenov.
Vloga EU
Mnoga podjetja sicer preverjajo naročila za nevarna zaporedja DNK, ta praksa ni splošna. Glede na hiter razvoj umetne inteligence bi morali oblikovalci politike EU razmisliti o obveznem celovitem pregledovanju vseh naročil za sintezo genov zaradi nevarnih zaporedij kot nujnem previdnostnem ukrepu.
Hiter razvoj modelov umetne inteligence, ki temeljijo na jeziku, je sprožil zaskrbljenost glede njihove morebitne zlorabe v bioterorizmu. Ti sistemi umetne inteligence lahko svetujejo pri izkoriščanju vrzeli za pridobitev DNK za patogene, sposobne pandemije. Izvršni direktor podjetja Anthropic in Yoshua Bengio, ugledna osebnost na področju umetne inteligence, sta opozorila na nujnost tega vprašanja ameriške zakonodajalce oziroma oblikovalce politik EU.
Eden od učinkovitih protiukrepov je obvezno preverjanje vseh naročil za sintezo genov glede nevarnih zaporedij. Trenutno storitve sinteze DNK ponuja manj kot sto specializiranih podjetij. Ta koncentracija predstavlja priložnost za posredovanje politike. Če bi EU tem podjetjem naložila, da naročila preverijo glede na podatkovno zbirko znanih pandemskih patogenov in uveljavijo protokole “poznaj svojo stranko”, bi lahko znatno ovirala dostop do nevarnih bioloških materialov.
Združene države so sprejele proaktivne ukrepe v tej smeri. Izvršilni ukaz nalaga subjektom, ki jih financira zveza, da upoštevajo nove smernice za pregledovanje bioloških sintez. Vendar EU še ni uvedla podobnih predpisov. Glede na vse večjo nevarnost bioterorizma je izvajanje obveznega pregledovanja sinteze genov ključnega pomena.
Več kot 80 odstotkov industrijskih ponudnikov sicer podpira takšne zahteve, ostajajo pomisleki glede stroškov in vprašanj intelektualne lastnine. Te pomisleke bi morala odpraviti skorajšnja sprostitev brezplačnih presejalnih orodij, ki ohranjajo zasebnost.
Dvojna vloga umetne inteligence
Predlagani sistem pregledovanja mora izpolnjevati več meril. Zagotavljati mora zasebnost s šifriranjem, imeti mora visoko stopnjo natančnosti z minimalnimi lažnimi alarmi in pooblaščenim laboratorijem omogočati učinkovit dostop do potrebnih zaporedij DNK. Poleg tega bi moral sistem stalno posodabljati svojo podatkovno zbirko z novo ugotovljenimi potencialnimi patogeni, kar bi spodbudilo uporabo naprednih metod presejanja. Priporočljivo je tudi vgraditi pregledovanje v nove naprave za sintezo DNK.
Pandemija SARS-CoV-2 je primer potencialne škode zaradi zlorabe sinteze genov, tveganje, ki se je z napredkom umetne inteligence še povečalo. Čeprav je genska sinteza po meri gonilo pomembnega napredka v biotehnologiji in medicini, lahko njena zloraba povzroči katastrofalne posledice.
Ker se EU spopada z usklajevanjem inovacij in zmanjševanjem tveganja, kot je razvidno iz njenega zakona o umetni inteligenci, je nujno takojšnje ukrepanje proti bioterorizmu, ki ga omogoča umetna inteligenca. Z obveznim preverjanjem sinteze genov lahko EU znatno zmanjša ta tveganja in zagotovi varen razvoj biotehnologije.