Glede na to, kako globoki ponaredki so potencialno uničujoči za ugled nekoga in jih je težko opaziti, ko so narejeni pravilno, so velika skrb za varnost. Zdaj si Microsoft prizadeva pomagati ustaviti globoke ponaredke z izdajo orodja, ki jih lahko zazna.
Nevarnost globokih ponaredkov je tako velika, da jo je povzročila Facebook za prepoved vse vsebine deepfake. Vendar je največja ovira, kako so narejeni deepfakes prepričljivi; kot tak je iskanje in potrditev deepfakea zelo težko.
Facebook prepoveduje deepfakes in Photoshopped fotografije. Ideja je odstraniti manipulirane medije, namenjene zavajanju uporabnikov.
Kot poročajo dne Microsoft o vprašanjih, podjetje želi to spremeniti s svojim novim orodjem. Imenuje se Microsoft Video Authenticator in analizira videoposnetke, da bi poiskal "šive", ki so ostali od globokega ustvarjanja. Ti šivi so človeškim očem nevidni, vendar jih računalnik lahko zazna z analizo po posnetkih.
Da bi preprečili, da bi zlonamerni agenti preusmerili tehnologijo, Microsoft Video Authenticator ne bo javna izdaja. Namesto tega Microsoft distribuira svoj sistem novicam in političnim organizacijam. Tako lahko te organizacije z orodjem ločijo resnično od ponarejenega.
Vendar pa je Microsoft napovedal drugo tehnologijo za prepoznavanje globokih ponaredkov. Podjetje predlaga sistem, v katerem lahko ustvarjalec vsebine svoje videoposnetke označi z edinstvenim "podpisom". Če če je video urejen, bo ustvaril drugačen podpis kot izvirnik in tako določil a deepfake.
Avtorica knjige Deep Fakes and the Infocalypse Nina Schick je povedala naslednje:
Edina resnično razširjena uporaba, ki smo jo do zdaj videli, je pornografija brez soglasja proti ženskam. Toda sintetični mediji naj bi postali povsod v približno treh do petih letih, zato moramo ta orodja razvijati naprej. Ker pa se zmogljivosti zaznavanja izboljšujejo, se bo tudi zmogljivost generiranja izboljšala - nikoli ni zgodilo se bo, da bo Microsoft izdal eno orodje, ki lahko zazna vse vrste videoposnetkov manipulacija.
Deepfake so pomemben problem za medijsko verodostojnost in podjetja potrebujejo pot do tega povej, kaj je resnično iz tega, kar je fikcija. Microsoft je izdal orodje za pomoč pri opazovanju urejenih videoposnetkov. Toda ali bo orodje zadoščalo za sledenje razvijalcem deepfake, še ni razvidno.
Če niste prepričani, kaj so deepfakeji in zakaj so pomembni, si vsekakor splača vzeti nekaj časa, da se naučite o njih. Globoke ponaredke bodo v tem desetletju postale enakovredne "Photoshopping" slike in lahko povzročijo resno škodo, če se zlonamerno uporabljajo.
Lažni videoposnetki, ustvarjeni z umetno inteligenco, popolnoma spodkopavajo naše razumevanje svetovnih dogodkov. Tukaj je opisano, kako lahko deepfake vse spremenijo.
- Internet
- Varnost
- Tehnične novice
- Microsoft
- Lažne novice
- Globoke ponaredke
- Spletna varnost
Diplomirani inženir računalništva z globoko strastjo do vseh stvari. Potem ko je delal za indie studio za igre, je našel svojo strast do pisanja in se odločil, da bo s svojimi veščinami pisal o vseh tehničnih stvareh.
Naročite se na naše novice
Pridružite se našemu glasilu za tehnične nasvete, preglede, brezplačne e-knjige in ekskluzivne ponudbe!
Še en korak…!
Potrdite svoj e-poštni naslov v e-poštnem sporočilu, ki smo vam ga pravkar poslali.
