Kaj je FraudGPT? Kako se zaščititi pred tem nevarnim klepetalnikom

Vzpon umetne inteligence (AI) je dvorezen meč. Kot vsaka transformativna tehnologija ponuja umetna inteligenca ogromen potencial, a tudi ogromna tveganja. Kljub odločnemu prizadevanju za regulacijo umetne inteligence se zdi, da so akterji groženj prehiteli krivuljo.

Novo orodje v slogu ChatGPT, FraudGPT, postaja vse bolj priljubljeno med kiberkriminalci, kar jim omogoča avtomatizacijo in boljšo izvedbo velikega dela njihovih operacij goljufij. Vsakdo lahko postane žrtev, zato je pomembno, da ste obveščeni. Tukaj je vse, kar do zdaj vemo o FraudGPT.

Kaj je FraudGPT?

FraudGPT je orodje umetne inteligence, ki ga poganja velik jezikovni model, ki je še posebej natančno prilagojen za pomoč kibernetskim kriminalcem pri izvajanju kibernetskega kriminala. Orodje umetne inteligence, ki temelji na naročnini, omogoča akterjem groženj, da olajšajo svoje kriminalne dejavnosti, kot so kartiranje, lažno predstavljanje in ustvarjanje zlonamerne programske opreme.

Čeprav podrobnosti o orodju ostajajo zelo omejene, so raziskovalci Netenricha, podjetja za varnostne raziskave, na temnem spletu odkrili več oglasov, ki oglašujejo to orodje. Glede na raziskovalno poročilo podjetja Netenrich, se naročnine gibljejo med 200 USD na mesec in 1700 USD letno.

Za boljšo predstavo o orodju si lahko FraudGPT predstavljate kot ChatGPT, vendar za goljufijo. Toda kako točno deluje FraudGPT in kako ga uporabljajo kibernetski kriminalci?

Kako deluje FraudGPT?

FraudGPT se v svojem bistvu ne razlikuje bistveno od katerega koli orodja, ki ga poganja velik jezikovni model. Z drugimi besedami, samo orodje je interaktivni vmesnik za kriminalce za dostop do posebne vrste jezikovnega modela, ki je bil prilagojen za izvrševanje kibernetskih zločinov.

Še vedno ne razumete? Tukaj je groba predstava o čem govorimo. V prvih dneh lansiranja ChatGPT je bilo mogoče klepetalni robot AI uporabiti za skoraj vse, vključno s pomočjo kibernetskim kriminalcem pri ustvarjanju zlonamerne programske opreme. To je bilo mogoče, ker je bil osnovni jezikovni model ChatGPT učen na naboru podatkov, ki je verjetno vseboval vzorce širokega nabora podatkov, vključno s podatki, ki bi lahko pomagali kriminalnemu podvigu.

Veliki jezikovni modeli se običajno napajajo z dobrimi stvarmi, kot so znanstvene teorije, zdravstvene informacije in politika, do tistih, ki niso tako dobri, kot so vzorci kode zlonamerne programske opreme, sporočila kartic in lažnega predstavljanja ter druge kriminalne materialov. Ko imamo opravka z vrstami naborov podatkov, potrebnih za usposabljanje jezikovnih modelov, kakršen je tisti, ki poganja ChatGPT, je skoraj neizogibno, da bi model vseboval vzorce neželenih materialov.

Kljub običajno natančnim prizadevanjem za odstranitev nezaželenih materialov v naboru podatkov se nekateri izmuznejo, in običajno so še dovolj, da modelu omogočijo ustvarjanje materialov za olajšanje kibernetski kriminal. Zato z desnico hiter inženiring, lahko dobite orodja, kot so ChatGPT, Google Bard in Bing AI, ki vam bodo v pomoč pri pisanju prevarantskih e-poštnih sporočil ali računalniške zlonamerne programske opreme.

Če lahko orodja, kot je ChatGPT, kibernetskim kriminalcem pomagajo storiti kazniva dejanja kljub vsem prizadevanjem, da bi bili ti klepetalni roboti z umetno inteligenco varni, zdaj pomislite na moč, ki bi jo lahko prineslo orodje, kot je FraudGPT, saj je bilo posebej natančno nastavljeno na zlonamerne materiale, da je primerno za kibernetski kriminal. Kot da bi zlobni dvojček ChatGPT dal na steroide.

Torej bi lahko kriminalci za uporabo orodja preprosto pozvali klepetalnega robota, kot bi storili s ChatGPT. Lahko bi ga prosili, da na primer napiše e-poštno sporočilo z lažnim predstavljanjem za Jane Doe, ki dela v podjetju ABC, ali pa bi ga morda prosili, naj z uporabo C++ napiše zlonamerno programsko opremo za krajo vseh datotek PDF iz računalnika z operacijskim sistemom Windows 10. Kriminalci bi si v bistvu samo izmislili zlobno mehanizacijo in pustili, da klepetalni robot opravi težko delo.

Kako se lahko zaščitite pred goljufijami GPT?

Kljub temu, da gre za novo vrsto orodja, grožnja, ki jo predstavlja FraudGPT, ni bistveno drugačna. Lahko bi rekli, da uvaja več avtomatizacije in učinkovitosti že uveljavljenih metod izvrševanja kibernetske kriminalitete.

Kriminalci, ki uporabljajo orodje, bi vsaj teoretično lahko pisali bolj prepričljiva lažna e-poštna sporočila, boljši načrt prevare in ustvarjajo učinkovitejšo zlonamerno programsko opremo, vendar se večinoma še vedno zanašajo na uveljavljene načine izvajanja svojih nečednih načrti. Posledično še vedno veljajo uveljavljeni načini zaščite:

• Bodite previdni pri nezaželenih sporočilih, ki zahtevajo informacije ali vas usmerjajo, da kliknete povezave. Ne posredujte informacij ali kliknite povezav v teh sporočilih, razen če preverite vir.
• Obrnite se neposredno na podjetja prek neodvisne, preverjene številke, da preverite zakonitost. Ne uporabljajte kontaktnih podatkov, navedenih v sumljivih sporočilih.
• Uporabite močna, edinstvena gesla, ki jih je težko razbiti in sprejmite dvostopenjsko avtentikacijo, ko je na voljo za vse račune. Nikoli ne delite gesel ali kod, ki so vam poslane.
• Redno preverjajte izpiske računa za sumljive dejavnosti.
• Posodabljajte programsko opremo in uporabljajte protivirusna orodja ali orodja za zaščito pred zlonamerno programsko opremo.
• Uničite dokumente, ki vsebujejo osebne podatke ali finančne podatke, ko jih ne potrebujete več.

Za več informacij o tem, kako se zaščititi, preberite naš vodnik kako se zaščititi v dobi umetne inteligence.

Bodite obveščeni, da se zaščitite

Pojav orodij, kot je FraudGPT, nas opominja, da kljub vsemu dobremu, kar nam lahko naredi AI, še vedno predstavlja zelo močno orodje v rokah akterjev groženj.

Medtem ko vlade in velika podjetja za umetno inteligenco divje tekmujejo, da bi sprejeli boljše načine za regulacijo umetne inteligence, je Pomembno je, da se zavedate grožnje, ki jo umetna inteligenca trenutno predstavlja, in sprejmete potrebne varnostne ukrepe za zaščito sebe.