Kako hekerji uporabljajo generativno umetno inteligenco pri svojih napadih in kaj lahko storimo glede tega

Generativna umetna inteligenca (AI) je zadnje čase v središču pozornosti. Klepetalni robot ChatGPT, ki ga poganja umetna inteligenca, in drugi sistemi, ki podpirajo obdelavo naravnega jezika, kot je VALL-E, so širši javnosti prinesli generativno umetno inteligenco ter sprostili njene prednosti in slabe učinke.

Eden glavnih pomislekov glede generativne umetne inteligence je dejstvo, da jo je mogoče uporabiti za nadgradnjo zlonamernih podvigov in ustvarjanje bolj sofisticiranih kibernetskih napadov. Torej, kako hekerji uporabljajo generativno umetno inteligenco v svojih napadih in kaj to pomeni za prihodnost kibernetske varnosti?

Kaj je Generative AI in kako deluje?

Kot pove že ime, je generativni AI vrsta umetne inteligence, ki je sposobna generirati novo vsebino – slike, besedilo, zvok in sintetične podatke.

Eden znanih primerov je ChatGPT, klepetalni robot, ki ga poganja umetna inteligenca in s katerim lahko vodite človeško podobne pogovore in pridobite nekaj vrhunskih filmskih priporočil – to je, če si ne morete zamisliti bolj smiselne misije za pošiljanje ChatGPT na.

Naj vam damo idejo ali dve – lahko bi naj vam ChatGPT napiše vsa ta težka e-poštna sporočila, izkoristiti ChatGPT kot orodje za prevajanje, in celo spremenite ChatGPT v svojega zdravega pomočnika pri načrtovanju obrokov. Skratka, v nekaj sekundah lahko ta chatbot pripravi na videz novo, prepričljivo vsebino in jo predstavi na precej politično korekten način.

Vendar pa generativna umetna inteligenca še ne more biti ustvarjalna na način, kot bi lahko bil človek. To je zato, ker uporablja nenadzorovane in delno nadzorovane algoritme strojnega učenja za obdelavo ogromno podatkov in ustvarjanje izhodov po meri.

Na primer, če želite naročiti Picassovo sliko pri generativnem AI, kot je DALL-E 2, boste morali vnesti svoj opis v označenem polju – recimo »Picassova Guernica, vendar z mačjimi mladiči« – in ostanite tam nekaj sekund. V tem času bo umetna inteligenca uporabila vse posebne lastnosti umetnikovega sloga, ki se ga je naučila prej, dodajte mačje mladiče za dobro mero in si omislite nekaj izvirnega – dobili smo tisto sliko, ki jo lahko rahlo vidite nad.

Kako hekerji uporabljajo generativno umetno inteligenco pri svojih napadih?

Slabe fante so vedno privlačili dobri algoritmi. Zato ni presenetljivo, da izkoriščajo generativno umetno inteligenco za krepitev svojih napadov. Z uporabo metod ML, kot so okrepljeno učenje in generativna kontradiktorna omrežja, kibernetski kriminalci lahko pripravijo nove, bolj sofisticirane kibernetske napade, ki lahko prebijejo standardne kibernetska obramba.

Eden od primerov te sprevrženosti je »najboljši« klepetalni robot OpenAI, as Kibernetski kriminalci uporabljajo ChatGPT za pisanje zlonamerne programske opreme. Na začetku se je ChatGPT zdel samo zabava in igra, zdaj pa je razkrit kot ena glavnih groženj varnosti in zasebnosti. Če radi klepetate s ChatGPT, je pametno paziti na kibernetski kriminalci lahko počnejo s ChatGPT.

Skratka, ChatGPT in druga generativna orodja umetne inteligence so olajšala življenje kibernetskim kriminalcem in otežila varnostnim ekipam. Nekateri načini, na katere akterji kibernetskih groženj uporabljajo AI v svojih napadih, vključujejo:

• Izdelava boljše, bolj izpopolnjene zlonamerne programske opreme: V rokah hekerjev se lahko generativni AI uporablja za ustvarjanje zlonamerne programske opreme, ki jo je težko zaznati, in izvajanje napadov. V kombinaciji z modeli umetne inteligence lahko zlonamerna programska oprema prikrije svoj namen, dokler ne izpolni svojega slabega namena.
• Pisanje prilagojenih lažnih e-poštnih sporočil, ki jih poganja AI: S pomočjo generativne umetne inteligence e-poštna sporočila z lažnim predstavljanjem nimajo več znakov prevare, kot so slabo črkovanje, slaba slovnica in pomanjkanje konteksta. Poleg tega lahko z umetno inteligenco, kot je ChatGPT, akterji groženj sprožijo lažno predstavljanje z izjemno hitrostjo in obsegom.
• Ustvarjanje globoko lažnih podatkov: Ker lahko ustvari prepričljive imitacije človeških dejavnosti, kot so pisanje, govor in slike – generativni AI se lahko uporablja pri goljufivih dejavnostih, kot so kraje identitete, finančne goljufije in dezinformacije.
• Razbijanje CAPTCHA in ugibanje gesel: CAPTCHA, ki jo uporabljajo spletna mesta in omrežja za prečesavanje botov, ki iščejo nepooblaščen dostop, jo lahko hekerji zdaj zaobidejo. Z uporabo ML lahko opravijo tudi druge ponavljajoče se naloge, kot so ugibanje gesel in napadi s surovo silo.
• Sabotiranje ML pri odkrivanju kibernetskih groženj: Če je varnostni sistem preobremenjen s preveč lažnimi pozitivnimi rezultati, ga lahko heker preseneti s pravim kibernetskim napadom.

Kako se lahko borimo proti generativni grožnji z umetno inteligenco?

Ko bodo kibernetski napadi postajali bolj sofisticirani in njihove posledice resnejše, se bodo tradicionalni varnostni sistemi spremenili v stvari pretekle dobe. Z zmožnostjo učenja iz prejšnjih napadov in prilagajanja je umetna inteligenca neprecenljiva prednost tako za kibernetske kriminalce kot za njihove nasprotnike.

Uporaba umetne inteligence v kibernetski varnosti ima nekaj resnih prednosti, kot je hitrejše odkrivanje groženj, prepoznavanje groženj in odziv na grožnje – zato se zdi gašenje ognja z ognjem pravi odgovor. Preden se kibernetski kriminalci naučijo zadati uničujoče udarce posameznikom in podjetjem po vsem svetu v svetu morajo strokovnjaki za kibernetsko varnost naučiti svoje sisteme, ki jih poganja AI, da se zaščitijo pred temi napadi.

Vendar pa ni vse odvisno od AI. Navsezadnje lahko okrepimo tudi lastno varnost in zasebnost s preizkušenimi metodami, kot so večfaktorska avtentikacija (MFA), biometrična tehnologija, uporaba upravitelja gesel, uporaba najbolje šifrirana orodja za sodelovanje, in dobra, stara zdrava pamet.

Boj proti AI z AI

Bomo torej v bližnji prihodnosti priča vojnam za kibernetsko varnost AI? No, upamo, da ne. Ker pa umetna inteligenca še naprej napreduje in postaja dostopna vsem – kibernetskim kriminalcem in strokovnjakom za kibernetsko varnost – bo vloga umetne inteligence in strojnega upravljanja v prihodnjih letih postala večja.