Zakaj je Apple odstopil od funkcije skeniranja fotografij?

Avgusta 2021 je Apple razkril svoje načrte za skeniranje iPhonov za slike spolne zlorabe otrok. Ta poteza je požela aplavz skupin za zaščito otrok, vendar je med strokovnjaki za zasebnost in varnost vzbudila zaskrbljenost, da bi lahko to funkcijo zlorabili.

Apple je sprva načrtoval vključitev tehnologije skeniranja materiala za spolno zlorabo otrok (CSAM) v sistem iOS 15; namesto tega je za nedoločen čas odložil uvedbo funkcije, da bi prosil za povratne informacije pred njeno popolno izdajo.

Zakaj je torej funkcija odkrivanja CSAM postala vroča razprava in zakaj je Apple odložil uvedbo?

Kaj počne Appleova funkcija skeniranja fotografij?

Apple je napovedal izvajanje funkcije skeniranja fotografij v upanju, da se bo boril proti spolni zlorabi otrok. Vse fotografije v napravah uporabnikov Apple bodo skenirane glede vsebine pedofilije z uporabo algoritma "NueralHash", ki ga je ustvaril Apple.

Poleg tega bi vse naprave Apple, ki jih uporabljajo otroci, imele varnostno funkcijo, ki bo samodejno zameglite slike odraslih, če jih prejme otrok, uporabnika pa dvakrat opozorijo, če jih poskuša odpreti njim.

Razen zmanjšanja izpostavljenosti vsebini za odrasle, če starši registrirajo naprave, ki so v lasti njihovih otrok dodatno varnost, bi bili starši obveščeni, če otrok od koga prejme izrecno vsebino na spletu.

Preberi več: Kaj morate vedeti o Appleovih varovanjih za varnost otrok

Kar zadeva odrasle, ki uporabljajo Siri za iskanje vsega, kar spolno prikazuje otroke, Siri tega ne bo iskala in namesto tega predlagala druge alternative.

Podatki iz katere koli naprave, ki vsebuje 10 ali več fotografij, za katere algoritmi menijo, da so sumljivi, bodo dešifrirani in podvrženi človeškemu pregledu.

Če se izkaže, da se te fotografije ali katera koli druga v napravi ujemajo s čim iz baze podatkov, ki jo ponuja Nacionalni center za pogrešane in izkoriščane otroke, bo prijavljen organom in uporabnikov račun bo blokiran.

Glavni pomisleki glede funkcije skeniranja fotografij

Funkcija odkrivanja CSAM bi začela delovati z uvedbo iOS 15 septembra 2021, vendar v obraz Zaradi velikega negodovanja se je Apple odločil, da si vzame več časa za zbiranje povratnih informacij in to izboljša funkcijo. Tukaj je Appleova celotna izjava glede zamude:

"Prejšnji mesec smo objavili načrte za funkcije, namenjene zaščiti otrok pred plenilci, ki uporabite komunikacijska orodja za njihovo novačenje in izkoriščanje ter omejite širjenje spolne zlorabe otrok Material.

Na podlagi povratnih informacij strank, zagovorniških skupin, raziskovalcev in drugih smo se odločili, da si vzamemo dodaten čas prihodnje mesece za zbiranje prispevkov in izboljšave, preden se sprosti ta kritično pomembna varnost otrok Lastnosti".

Skoraj polovica pomislekov, povezanih z Appleovo funkcijo skeniranja fotografij, se vrti okoli zasebnosti; preostali argumenti vključujejo verjetne netočnosti algoritmov in potencialno zlorabo sistema ali njegovih vrzeli.

Razčlenimo ga na štiri dele.

Potencialna zloraba

Če vemo, da bo vsak material, ki ustreza otroški pornografiji ali znanim podobam spolne zlorabe otrok, napravo postavil na "sumljiv" seznam, lahko sprožijo kibernetske kriminalce.

Osebo lahko namerno bombardirajo z neprimerno vsebino prek iMessagea, WhatsAppa ali katerega koli drugega načina in začasno onemogočijo račun te osebe.

Apple je zagotovil, da se lahko uporabniki pritožijo, če so bili njihovi računi blokirani zaradi nesporazuma.

Notranja zloraba

Čeprav je zasnovana za dobrodelne namene, se lahko ta funkcija za nekatere ljudi spremeni v popolno katastrofo, če njihove naprave so v sistem, z njihovo vednostjo ali brez nje, registrirani svojci, ki jih zanima spremljanje njihove komunikacije.

Tudi če se to ne zgodi, je Apple ustvaril zaledje, ki je ob koncu dneva omogočilo dostop do podatkov uporabnikov. Zdaj je stvar motivacije in odločnosti, da ljudje dostopajo do osebnih podatkov drugih ljudi.

Povezano: Kaj je zadnja vrata in kaj počne?

Ne samo, da olajša hujšo kršitev zasebnosti, ampak tudi utira pot zlorabi, strupenosti ali nadzoru svojci, skrbniki, prijatelji, ljubimci, skrbniki in bivši, da bi še dodatno vdrli v osebni prostor nekoga ali omejili svoboda.

Po eni strani je namenjen boju proti spolni zlorabi otrok; po drugi strani pa se lahko uporabi za nadaljnje ohranjanje drugih vrst zlorab.

Državni nadzor

Apple se je vedno oglašal kot blagovna znamka, ki se bolj zaveda zasebnosti, kot njeni konkurenti. Zdaj pa morda vstopa na spolzko pobočje, da bi morali izpolniti neskončne zahteve po preglednosti podatke o uporabnikih s strani vlad.

Sistem, ki ga je ustvaril za odkrivanje pedofilijske vsebine, lahko uporabimo za odkrivanje kakršne koli vsebine v telefonih. To pomeni, da lahko vlade s kultno miselnostjo uporabnike spremljajo na bolj osebni ravni, če jim pridejo v roke.

Zatiranje ali ne, vpletenost vlade v vaše vsakodnevno in osebno življenje je lahko vznemirjajoča in je poseg v vašo zasebnost. Zamisel, da vas mora zaradi takšnih vdorov skrbeti le, če ste naredili kaj narobe, je napačno razmišljanje in ne vidi zgoraj omenjenega spolzkega pobočja.

Lažni alarmi

Eden največjih pomislekov pri uporabi algoritmov za ujemanje slik z zbirko podatkov so lažni alarmi. Algoritmi za razprševanje lahko pomotoma identificirata dve fotografiji kot ujemajoči se, tudi če nista enaki. Te napake, imenovane "trki", so še posebej zaskrbljujoče v kontekstu vsebine spolne zlorabe otrok.

Raziskovalci so odkrili več trkov v "NeuralHash", potem ko je Apple napovedal, da bo uporabil algoritem za skeniranje slik. Apple je na vprašanja o lažnih alarmih odgovoril tako, da je opozoril, da bo rezultat na koncu pregledal človek, zato ljudem ni treba skrbeti.

Je Appleov premor CSAM trajen?

Predlagana funkcija Apple ima veliko prednosti in slabosti. Vsak od njih je pristen in ima težo. Še vedno ni jasno, kakšne posebne spremembe bi Apple lahko uvedel v funkcijo skeniranja CSAM, da bi zadovoljil svoje kritike.

Optično branje bi lahko omejili na albume iCloud v skupni rabi, namesto da bi vključevali naprave uporabnikov. Malo verjetno je, da bi Apple popolnoma opustil te načrte, saj se podjetje običajno ne nagiba k popuščanju svojih načrtov.

Vendar pa je iz razširjene reakcije in Apple -a, da svoje načrte zadržava, razvidno podjetja bi morala vključevati raziskovalno skupnost od začetka, zlasti za nepreverjene tehnologijo.

Internetna varnost: 50+ nasvetov za zaščito vaših otrok na spletu

Otroci so glavna tarča spletnih plenilcev in kibernetskih ustrahovalcev. Ti priročni nasveti lahko naučijo starše, kako jih zaščititi na spletu.

Preberite Naprej

O avtorju