Microsoft spremeni odprtokodno orodje za ocenjevanje varnosti protivirusne inteligencije

Microsoft je svoje odprtokodno orodje za oceno varnostnega tveganja AI, Counterfit, omogočil vsem, da začnejo uporabljati orodje brezplačno. Trenutno lahko organizacije uporabljajo Counterfit za avtomatizacijo ocen varnostnega tveganja, s čimer zagotovijo, da je zaščita, ki jo uporabljajo, na pragu.

Microsoft je prvotno razvil Counterfit kot notranje orodje, ki lahko hitro oceni varnost umetne inteligence in sistemov strojnega učenja. Začel se je kot zbirka skriptov, preden se je hitro spremenil v generično avtomatizacijo umetne inteligence, ki jo lahko operater uporablja za "napad več sistemov umetne inteligence" hkrati.

Microsoft zdaj redno uporablja Counterfit kot glavno orodje v svojih operacijah redke ekipe AI. Ker je Counterfit okolje, model in podatki agnostik, lahko orodje poda natančno oceno brez impedance.

Samo orodje je zasnovano za uporabo na področju varnosti. Counterfit uporablja podoben potek dela kot druga priljubljena orodja rdečih ekip, kot sta Metasploit ali PowerShell Empyre, z obsežno podporo za skriptiranje, vnaprej naložene algoritme za napad, iskanje ranljivosti, napredno beleženje in še več, do katerih lahko dostopate prek ukazne vrstice.

Microsoft je veliko sodeloval z varnostnimi strokovnjaki in velikimi organizacijami, da bi tudi Counterfit bolje razvil. Na Spletni dnevnik Microsoft Security, Matilda Rhode, višja raziskovalka kibernetske varnosti, Airbus, je dejala:

AI se vedno bolj uporablja v industriji; nujno je, da se zavarujemo to tehnologijo naprej, še posebej, da razumemo, kje je mogoče v problematičnem prostoru realizirati napade na vesoljski prostor. Izdaja odprtokodnih orodij organizacije, kot je Microsoft, za ocenjevanje izvajalcev varnosti varnost sistemov umetne inteligence je dobrodošla in očiten znak, da industrija sprejema to težavo resno.

Tu lahko najdete odprtokodno kodo Microsoftova protipostavka na njihovem uradnem GitHubu.

Sorodno: Dela, ki jih še niste poznali, je opravljal AI

Zakaj je ponarejena koristna?

Tudi za podjetje v velikosti Microsofta izpolnjevanje učinkovitih varnostnih ocen ni enostavno, še posebej, če so ta podjetja ogromni voditelji Fortune 500, vlade, neprofitne organizacije in še več. Prejšnja Microsoftova študija je pokazala, da veliko podjetij ne more natančno preizkusiti svojih sistemov umetne inteligence.

Ugotovili smo, da je 25 od 28 podjetij navedlo, da nima pravih orodij za zaščito svojih sistemov umetne inteligence in da varnostni strokovnjaki iščejo posebna navodila v tem prostoru.

Counterfit olajša dokončanje teh ocen in avtomatizira postopek analize in testiranja.

Sorodno: Načini uporabe tehnologije umetne inteligence za izboljšanje poslovanja

Poleg tega nedavno objavljeno Gartnerjeva študija Sprejetje varnosti AI je med najpomembnejše varnostne ukrepe, ki jih lahko sprejme podjetje za izboljšanje zaščite. Ista študija je ugotovila, da se bodo "do leta 2024 organizacije, ki izvajajo namenske kontrole obvladovanja tveganj z umetno inteligenco, uspešno izognile negativnim rezultatom umetne inteligence dvakrat pogosteje kot tistim, ki jih ne."

Skratka, Counterfit, ki postane odprtokodno orodje za ocenjevanje varnosti umetne inteligence, bi moral pomagati narediti svet nekoliko varnejši.

Ta 4 protivirusna orodja uporabljajo AI za zaščito vašega sistema

Ali mora vaša naslednja protivirusna naročnina vključevati umetno inteligenco ali je to le še ena modna beseda o varnosti?

Preberite Naprej

O avtorju