Ali ima ChatGPT kakšne varnostne težave?

Januarja 2023, le dva meseca po lansiranju, je ChatGPT (Generative Pre-trained Transformer) postal najhitreje rastoča aplikacija vseh časov, saj je zbrala več kot 100 milijonov uporabnikov.

Napredni klepetalni robot OpenAI je morda ponovno spodbudil zanimanje javnosti za umetno inteligenco, a le redki so resno razmišljali o možnih varnostnih tveganjih, povezanih s tem izdelkom.

ChatGPT: varnostne grožnje in težave

Tehnologija, ki podpira ChatGPT in druge chatbote, je morda podobna, vendar je ChatGPT v svoji kategoriji. To je odlična novica, če ga nameravate uporabljati kot nekakšnega osebnega pomočnika, vendar zaskrbljujoča, če pomislite, da ga uporabljajo tudi akterji groženj.

Kibernetski kriminalci lahko uporabite ChatGPT za pisanje zlonamerne programske opreme, ustvarjanje prevarantskih spletnih mest, ustvarjanje lažnih e-poštnih sporočil, ustvarjanje lažnih novic itd. Zaradi tega lahko ChatGPT predstavlja večje tveganje za kibernetsko varnost kot korist, npr

Bleeping Computer daj v analizo.

Hkrati obstajajo resni pomisleki, da ima sam ChatGPT določene neodpravljene ranljivosti. Na primer, marca 2023 so se pojavila poročila o tem, da si lahko nekateri uporabniki ogledajo naslove pogovorov drugih. Kot The Verge je takrat poročal, izvršni direktor OpenAI Sam Altman pojasnil, da je težavo povzročila "napaka v odprtokodni knjižnici".

To samo poudarja, kako pomembno je omejite, kar delite s ChatGPT, ki privzeto zbira osupljivo količino podatkov. Tehnološki velikan Samsung se je tega naučil na težji način, ko je skupina zaposlenih, ki so klepetalnega robota uporabljali kot pomočnika, po nesreči izdala zaupne informacije.

Je ChatGPT grožnja vaši zasebnosti?

Varnost in zasebnost nista eno in isto, vendar so tesno povezani in se pogosto križajo. Če je ChatGPT varnostna grožnja, potem je tudi grožnja zasebnosti in obratno. Toda kaj to pomeni v bolj praktičnem smislu? Kakšni so varnostni in zasebnostni pravilniki ChatGPT?

Milijarde besed so bile postrgane iz interneta, da bi ustvarili obsežno bazo podatkov ChatGPT. Ta baza podatkov je v nenehnem stanju širitve, saj ChatGPT shranjuje vse, kar uporabniki delijo. Neprofitna organizacija s sedežem v ZDA Zdrava pamet je ChatGPT ocenil z oceno zasebnosti 61 odstotkov, pri čemer je opozoril, da chatbot zbira podatke, ki omogočajo osebno identifikacijo (PII), in druge občutljive podatke. Večina teh podatkov je shranjenih ali deljenih z nekaterimi tretjimi osebami.

V vsakem primeru morate biti še posebej previdni pri uporabi ChatGPT če ga uporabljate za delo, ali za obdelavo občutljivih informacij. Splošno pravilo je, da z botom ne delite tistega, za kar ne želite, da javnost izve.

Obravnavanje varnostnih tveganj, povezanih s ChatGPT

Umetna inteligenca bo nekoč regulirana, a težko si je predstavljati svet, v katerem ne bi predstavljala varnostne grožnje. Kot vsa tehnologija je tudi ta lahko – in bo – zlorabljena.

Klepetalni roboti bodo v prihodnosti postali sestavni del iskalnikov, glasovnih pomočnikov in družabnih omrežij. Malwarebytes. Imeli bodo vlogo v različnih panogah, od zdravstva in izobraževanja do financ in zabave.

To bo korenito spremenilo varnost, kot jo poznamo. Toda kot je Malwarebytes tudi opozoril, lahko ChatGPT in podobna orodja uporabljajo tudi strokovnjaki za kibernetsko varnost; na primer za iskanje hroščev v programski opremi ali "sumljivih vzorcev" v omrežni dejavnosti.

Ozaveščanje je ključno

Česa bo ChatGPT sposoben čez pet ali deset let? Lahko samo špekuliramo, a zagotovo vemo, da umetna inteligenca ne pelje nikamor.

Ko se bodo pojavili še naprednejši chatboti, se bodo morale celotne industrije prilagoditi in naučiti, kako jih uporabljati odgovorno. To vključuje industrijo kibernetske varnosti, ki jo že oblikuje umetna inteligenca. Ozaveščanje o varnostnih tveganjih, povezanih z umetno inteligenco, je ključnega pomena in bo pomagalo zagotoviti, da se te tehnologije razvijajo in uporabljajo na etičen način.