Umetna inteligenca in strojno učenje lahko delata čudeže, od ustvarjanja umetnosti do avtomatizacije skrbniških del. Vendar so tudi tveganje, saj lahko slabe igralce okrepijo s triki, kot je deepfake.
Ker se ta posebna tehnologija razvija, je dobro, da se naučite, kako globoke ponaredke dejansko delujejo in kdo bi jih sploh želel uporabljati – tako legitimno kot nezakonito.
Zakaj je pomembno razumeti, kako in zakaj se uporabljajo Deepfake
Glavne aplikacije tehnologije deepfake se v glavnem vrtijo okoli smešnih, pornografskih ali filmskih materialov, vendar je študija dokazala, da deepfakes lahko zavedejo prepoznavanje obraza. Že to je razlog za skrb in previdnost.
Bolj ko se tehnologija uporablja v vsakdanjem življenju in velikih projektih, bolje se njeni razvijalci naučijo ustvarjati brezhibne lažne videoposnetke ljudi, tako znanih kot družinskih članov.
Razumevanje kako se zaščititi pred deepfake videi je zdaj obvezna, glede na to, kako vneto industrije sprejemajo prednosti tehnologije, zlasti v zabavi.
Hollywood ga je uporabil pri več projektih že dolgo prej Metaphysic's deepfake AGT vstop, ki je svetu pokazal, kako hitro in učinkovito je lahko ustvarjanje deepfake. Tukaj je opisano, kaj postopek vključuje.
Kako delujejo Deepfakes?
V smislu tega, kaj se skriva za globokimi ponaredki, je namig v imenu: globoko učenje, znanost o umetnih nevronskih mrežah (ANN). Kaj ti naredijo za algoritme deepfake, je absorbiranje podatkov, učenje iz njih in ustvarjanje novih podatkov v obliki obrazne mimike ali celega obraza, prekritega z vašim.
Razvijalci programske opreme deepfake običajno uporabljajo eno od dveh vrst ANN: samodejne kodirnike ali generativna kontradiktorna omrežja (GAN).
Samodejni kodirniki se naučijo posnemati množico podatkov, ki jim jih posredujejo, predvsem fotografije obrazov in izrazov, ter poustvariti zahtevane nize podatkov. Vendar so le redko natančne kopije.
GAN-ji pa imajo pametnejši sistem, ki vključuje generator in diskriminator. Prvi reproducira podatke, ki se jih je naučil, v globoke ponaredke, ki morajo nato preslepiti drugega.
Diskriminator primerja kreacije generatorja z resničnimi slikami in ugotavlja njihovo učinkovitost. Najboljše deepfake so seveda tiste, ki popolnoma posnemajo človeško vedenje.
Kako torej nastanejo deepfake s to tehnologijo? Algoritmi za aplikacijami, kot so Preoblikovati in DeepFaceLab nenehno se učijo iz podatkov, ki gredo skozi njih, tako da lahko učinkovito prilagodijo obrazne poteze in izraze ali položijo en obraz čez drugega.
Programska oprema je v bistvu urejevalnik videa, posebej zasnovan za manipulacijo obrazov. Nekatere aplikacije so bolj zapletene od drugih, a na splošno lahko naredite karkoli, od tega, da nekoga postarate do tega, da se montirate v filme.
Toda tehnologija ima še vedno pomanjkljivosti. Ustvarjanje Deepfake je lahko bolj zapleteno kot kako nastajajo lažni video posnetki v živo, vendar ga je mogoče prav tako preprosto zaznati kot lažno.
Kako prepoznati Deepfake
Ker globoke ponaredke večinoma izdelajo stroji, poteze ali manire digitalnega obraza niso vedno videti naravne. Morda so tudi napake v nastavitvi videa. Z drugimi besedami, lažne posnetke lahko prepoznate, če veste, kaj iskati.
Tukaj je nekaj opozorilnih znakov:
- Nenaravno mežikanje: Strojno učenje pogosto spregleda mežikanje z očmi ali povzroči, da je videti nerodno.
- Zamegljene ali nestabilne funkcije: Nečiji lasje, usta ali brada so lahko rahlo zamegljeni ali se premikajo na nenavaden, pogosto pretiran način.
- Pomanjkanje ali napačna predstavitev čustev: Slabe globoke ponaredke so brezčutne ali slabo posnemajo čustva.
- Nerodna govorica telesa: Če oseba v videoposnetku premika glavo ali telo na popačen ali nepovezan način, je to lahko deepfake.
- Napačne barve in osvetlitev: Razbarvanja, nerazložljive svetlobe in sence so zanesljivi znaki lažnega videa.
- Neskladni predmeti: Med prilagajanjem videa lahko programska oprema deepfake naredi napake, kot je spreminjanje oblike oblačil, nakita in predmetov v ozadju.
- Slab zvok: Deepfakes lahko popačijo govor in zvoke v videu.
Izkoristite največ načine za odkrivanje globokih ponaredkov tako da se naučite, za kaj so takšni videoposnetki običajno narejeni, in ste pozorni na podrobnosti v posnetkih, ki jih vidite na spletu – upočasnite, če je mogoče.
Poleg tega se razvija vedno več orodij, npr Microsoft Authenticator in Sensity's Forenzično zaznavanje Deepfake, ki videoposnetke analizirajo na minutni ravni.
Kdo uporablja Deepfakes?
Filmski ustvarjalci vse pogosteje uporabljajo globoke ponaredke, da bi postarali ali zamenjali obraze igralcev, kot v Vojni zvezd. Umetniki uspejo portrete oživiti in jih pripraviti do govora in petja.
Tržniki eksperimentirajo s tehnologijo deepfake za promocijsko vsebino, ki ne zahteva najemanja igralcev. Podjetja, kot je WPP, ga uporabljajo tudi v svojih videoposnetkih za usposabljanje.
Tehniki na splošno ustvarjajo smešne videoposnetke, kjer zamenjajo obraze s prijatelji ali postavijo enega igralca na drugega v priljubljenih filmih. Sylvester Stallone je prevzel Sam doma, Joker Heatha Ledgerja pa se je pojavil v Viteški zgodbi.
Na žalost, če raziščete, za kaj se še uporablja tehnologija deepfake, boste našli veliko zlonamernih primerov. Ustvarjalci Deepfake radi širijo dezinformacije in žaljiva sporočila ter ciljajo na znane osebnosti in jih umeščajo v filme za odrasle. Ljudi celo izsiljujejo z lažnimi posnetki.
V svoji trenutni nebrzdani obliki je deepfake sinonim za tveganje za pravice do zasebnosti ljudi, varnost, in celo avtorske pravice, na primer, ko algoritem jasno uporablja fotografijo ali umetniško delo, ki ni javno na voljo.
Zato se države in blagovne znamke odrekajo. Od leta 2021, glede na Zemljevid Cyber Civil Rights Initiative Od zakonov o globokem ponarejanju v ZDA zdaj štiri zvezne države zatirajo objavljene videoposnetke globokega ponarejanja, ki nekoga prikazujejo na ekspliciten ali drugače škodljiv način.
Kitajska si prav tako prizadeva kriminalizirati globoke ponaredke, ki škodujejo ljudem in družbi, bodisi s kršenjem pravic posameznikov ali širjenjem lažnih novic. celo je sporočila Meta leta 2020, da zavajajoči, manipulirani videoposnetki niso bili dobrodošli.
Poleg predpisov si uradni organi po vsem svetu prizadevajo za boljše odkrivanje in preprečevanje kaznivih dejanj deepfake. The Poročilo Inštituta Rathenau o tem, kako bi morala evropska politika obravnavati globoke ponaredke, podpira programsko opremo z orodji, kot so prepoznavanje govorca in obraza, zaznavanje živahnosti glasu in analiza obraznih potez.
Naučite se, kako vas Deepfakes zavajajo
Deepfake so že postale mainstream, v dobrem in slabem. Torej, uživajte v smešnih in navdihujočih videoposnetkih, medtem ko se pripravljajte na boj proti morebitnim zlonamernim.
Na koncu dneva, kaj je deepfake, kot je ta, če ne orodje, ki je zasnovano, da vas prevara? Če veste, kaj iskati in kako reagirati, ima manj moči nad vami.
Na primer, poleg lažnih novic in računov boste lahko opazili globoke ponaredke na družbenih omrežjih ter se izognili napačnim informacijam, poskusom lažnega predstavljanja in več. Ko se tehnologija zaznavanja in preprečevanja globokih ponaredkov izboljšuje, vam bo na voljo več podpore.
