Kaj je PhotoDNA in kako deluje?

Internet je olajšal marsikaj, od ohranjanja stikov s prijatelji in družino do zaposlitve in celo dela na daljavo. Prednosti tega povezanega računalniškega sistema so ogromne, vendar obstaja tudi slaba stran.

Za razliko od nacionalnih držav je internet globalno omrežje, ki ga ne more nadzorovati nobena vlada ali oblast. Posledično nezakonit material konča na spletu in neverjetno je težko otrokom preprečiti trpljenje in ujeti odgovornih.

Tehnologija PhotoDNA, ki jo je skupaj razvil Microsoft, je korak k ustvarjanju varnejšega spletnega prostora za otroke in odrasle.

Kaj je PhotoDNA?

PhotoDNA je orodje za identifikacijo slik, prvič razvito leta 2009. Čeprav je v prvi vrsti storitev podprta s strani Microsofta, jo je skupaj razvil profesor Hany Farid z Dartmouth Collegea, strokovnjak za digitalno analizo fotografij. Namen PhotoDNA je prepoznati nezakonite slike, vključno z materialom za spolno zlorabo otrok, splošno znanim kot CSAM.

Ker so pametni telefoni, digitalni fotoaparati in hitri internet postali vse bolj običajni, se je tudi količina CSAM-a na spletu. V poskusu identifikacije in odstranitve teh slik, poleg drugega nezakonitega materiala, zbirka PhotoDNA vsebuje milijone vnosov za znane podobe zlorabe.

Microsoft upravlja s sistemom, bazo pa vzdržuje ameriški Nacionalni center za pogrešane in izkoriščane otroke (NCMEC), organizacija, namenjena preprečevanju zlorabe otrok. Slike pridejo v bazo podatkov, ko so prijavljene NCMEC.

Čeprav ni edina storitev za iskanje znanih CSAM, je PhotoDNA ena najpogostejših metod, vključno z mnogimi digitalnimi storitvami, kot so Reddit, Twitter in večina izdelkov v lasti Googla.

PhotoDNA je bilo treba v prvih dneh fizično nastaviti lokalno, vendar Microsoft zdaj upravlja storitev v oblaku PhotoDNA Cloud. To omogoča manjšim organizacijam brez obsežne infrastrukture, da se lotijo ​​odkrivanja CSAM.

Kako deluje PhotoDNA?

Ko uporabniki interneta ali organi kazenskega pregona naletijo na slike zlorabe, se o tem prijavijo NCMEC prek CyberTipline. Ti so katalogizirani in podatki se posredujejo organom pregona, če tega še niso storili. Slike se naložijo v PhotoDNA, ki se nato loti ustvarjanja razpršitve ali digitalnega podpisa za vsako posamezno sliko.

Da bi prišli do te edinstvene vrednosti, se fotografija pretvori v črno -belo, razdeljeno na kvadratke, programska oprema pa analizira nastalo senčenje. Edinstvena razpršitev je dodana v zbirko podatkov PhotoDNA, ki jo delijo med fizičnimi namestitvami in oblakom PhotoDNA.

Ponudniki programske opreme, organi pregona in druge zaupanja vredne organizacije lahko skeniranje PhotoDNA izvajajo v svojih izdelkih, programski opremi v oblaku ali drugih medijih za shranjevanje. Sistem pregleda vsako sliko, jo pretvori v vrednost razpršitve in jo primerja z razpršitvami baze podatkov CSAM.

Če se najde ujemanje, je odgovorna organizacija opozorjena, podrobnosti pa so poslane organom pregona v kazenski pregon. Slike so odstranjene iz storitve, uporabnikov račun pa ukinjen.

Pomembno je, da se podatki o vaših fotografijah ne shranjujejo, storitev je popolnoma avtomatizirana brez človeškega vpletanja in slike ne morete znova ustvariti iz vrednosti razpršitve.

Od leta 2015 lahko organizacije uporabljajo PhotoDNA tudi za analizo video posnetkov.

Avgusta 2021 je Apple prestopil korak z večino drugih podjetij Big Tech in napovedal, da bodo uporabili svoja storitev za iskanje uporabniških iPhonov za CSAM.

Razumljivo je, da so bili ti načrti deležni precejšnjega odziva, ker so očitno kršili stališče družbe, ki je prijazno do zasebnosti, in mnogi ljudje so bili zaskrbljeni, da bi skeniranje postopoma vključevalo tudi ne-CSAM, kar bi sčasoma privedlo do zapora za zakon izvršbo.

Ali PhotoDNA uporablja prepoznavanje obraza?

Dandanes smo dovolj seznanjeni z algoritmi. Ta kodirana navodila nam prikazujejo ustrezne, zanimive objave na naših virih v družabnih medijih, podpirajo sisteme za prepoznavanje obrazov in se celo odločijo, ali nam bodo ponudili razgovor za službo ali bomo šli na fakulteto.

Morda mislite, da bi bili algoritmi jedro PhotoDNA, vendar bi bilo avtomatiziranje odkrivanja slik na ta način zelo problematično. Na primer, to bi bilo neverjetno invazivno, bi kršilo našo zasebnost, in to ne omenja, da algoritmi niso vedno pravi.

Google je imel na primer dobro dokumentirane težave s programsko opremo za prepoznavanje obrazov. Ko se je Google Photos prvič predstavil, je črne ljudi žaljivo napačno kategoriziral kot gorile. Marca 2017 je nadzorni odbor predstavniškega doma slišal, da so bili nekateri algoritmi za prepoznavanje obrazov v 15 odstotkih primerov napačni in je verjetnost, da bodo črnce napačno identificirali.

Te vrste algoritmov strojnega učenja so vse pogostejše, vendar jih je težko ustrezno spremljati. Programska oprema se dejansko odloča sama, zato morate spremeniti način, kako je prišla do določenega rezultata.

Razumljivo je, da bi bil glede na vrsto vsebine, ki jo išče PhotoDNA, učinek napačne identifikacije katastrofalen. Na srečo se sistem ne zanaša na prepoznavanje obrazov in lahko najde le vnaprej identificirane slike z znano razpršitvijo.

Ali Facebook uporablja PhotoDNA?

Kot lastnik in upravljavec največjih in najbolj priljubljenih družabnih omrežij na svetu se Facebook vsak dan ukvarja z veliko vsebino, ki jo ustvarijo uporabniki. Čeprav je težko najti zanesljive, trenutne ocene, analiza v letu 2013 predlagala, da se na Facebook vsak dan naloži približno 350 milijonov slik.

To bo verjetno veliko višje, saj se je družbi pridružilo več ljudi, podjetje deluje več omrežja (vključno z Instagramom in WhatsApp -om), imamo pa lažji in zanesljivejši dostop do kamer pametnih telefonov internet. Glede na svojo vlogo v družbi mora Facebook zmanjšati in odstraniti CSAM in drugo nezakonito gradivo.

Na srečo se je podjetje tega lotilo že zgodaj in se leta 2011 odločilo za Microsoftovo storitev PhotoDNA. Od objave pred več kot desetletjem je bilo malo podatkov o tem, kako učinkovito je bilo to. Vendar pa 91 odstotkov vseh poročil o CSAM v letu 2018 je bilo iz Facebooka in Facebook Messengerja.

Ali PhotoDNA naredi internet varnejši?

Storitev, ki jo je razvil Microsoft, je nedvomno bistveno orodje. PhotoDNA ima ključno vlogo pri preprečevanju širjenja teh slik in lahko celo pomaga ogroženim otrokom.

Glavna napaka sistema pa je, da lahko išče samo vnaprej določene slike. Če PhotoDNA nima shranjene razpršitve, potem ne more prepoznati zlorabnih slik.

Lažje kot kdaj koli prej je vzeti in naložiti slike zlorabe z visoko ločljivostjo na spletu, zlorabniki pa so čedalje bolj uporabljajo varnejše platforme, kot sta Dark Web in šifrirane aplikacije za pošiljanje sporočil nezakonit material. Če še niste naleteli na temni splet, je vredno prebrati o tveganjih, povezanih s skrito stranjo interneta.

Je temni splet nezakonit?

Kriminalne dejavnosti je mogoče najti prek temnih omrežij, vendar je dejansko nezakonito iti na temni splet?

Preberite Naprej

O avtorju