Apple a jeho skenovanie nevhodného obsahu v iPhone: Výhody aj riziká

V roku 2016 predstavovala až 37 percent svetového objemu dát prenášaného cez internetu pornografia. Odvtedy sa internet rozšíril do našich životov ešte intenzívnejšie, s väčšími mobilnými telefónmi sa prístupnil odkiaľkoľvek a fakticky sa vyžaduje pri väčšine z našej digitálnej komunikácie. Niektoré zdroje tvrdia, že údajne až 70 percent objemu dát streamovaných videí sa týka práve pornografického obsahu. Isté, že je absolútne množstvo obsahu pre dospelých je na vzostupe a môže za to aj rozsiahla amaterizácia pornografie, v ktorej už viac nie sú potrebné štúdiá, produkčné spoločnosti a herecké hviezdy.

Je prirodzené, že spoločne s týmto rastom súvisí aj nárast objemu obsahu detskej pornografie. Je to jeden obrovský svet, s ktorým bežný človek počas svojho života nikdy nepríde do kontaktu. Zdanlivo nekontrolovateľný, ale vo významnej miere už dnes polícii pomáhajú moderné technológie. Aj na Slovensku rastie štatistika: len za prvých deväť mesiacov minulého roka Generálna prokuratúra Slovenskej republiky zaznamenala 90-percentný nárast trestných stíhaní vo vzťahu k detskej pornografii. Zvýšil sa aj počet zistených páchateľov, uviedli Bratislavské noviny.

Moderné technológie sú, zdá sa, najlepším riešením, ako bojovať s detskou pornografiou. Tie totiž vďaka schopnosti spracovávať aj obrazové materiály dokážu identifikovať čokoľvek, čo môže byť  podozrivé, čo v správnych rukách môže viesť k odhaleniam, za ktoré páchatelia trávia roky života vo väzení.

Silnou zbraňou v boji proti šíreniu detskej pornografie (vrátane tej zhotovenej samotnými deťmi) sú mobilné telefóny. Tie síce slúžia aj na vyhotovovanie záznamov, zároveň môžu byť vďaka internetu, cloudu a prepojeniu s produktmi umelej inteligencie čiastočne pod kontrolou.

5. augusta 2021 spoločnosť Apple oznámila, oznámila nový spôsob detekcie tohto materiálu, ktorý zároveň sľubuje lepšiu ochranu súkromia používateľov. A ide o mimoriadny počin, ktorému sa podrobne venoval počítačový vedec Mayank Varia v článku pre magazín The Next Web.

Ako to funguje?

Digitálne súbory môžu byť chránené v akejsi virtuálnej uzamykateľnej skrinke pomocou šifrovania, ktoré súbor skomprimuje, aby ho mohol odhaliť alebo dešifrovať iba niekto, kto má tajný kľúč. Šifrovanie je jedným z najlepších nástrojov na ochranu osobných údajov pri ich prechode na internet.

Môže poskytovateľ cloudových služieb odhaliť materiál zneužívajúci deti, ak sú fotografie skomolené pomocou šifrovania? To závisí od toho, kto má tajný kľúč.

Mnoho poskytovateľov cloudu, vrátane spoločnosti Apple, si uchováva kópiu tajného kľúča, aby vám v prípade zabudnutia hesla mohli pomôcť pri obnove údajov . Pomocou kľúča môže poskytovateľ tiež porovnať fotografie uložené v cloude so známymi obrázkami zneužívania detí, ktoré má k dispozícii Národné centrum pre nezvestné a zneužívané deti.

Lenže poskytovateľ cloudu, ktorý uchováva tajné kľúče, môže zneužiť svoj prístup k vašim údajom alebo sa stať obeťou porušenia ochrany údajov.

Lepším prístupom k bezpečnosti online je šifrovanie typu end-to-end , v ktorom je tajný kľúč uložený iba vo vašom vlastnom počítači, telefóne alebo tablete. V takom prípade nemôže poskytovateľ dešifrovať vaše fotografie. Odpoveď spoločnosti Apple na kontrolu materiálu zneužívajúceho deti, ktorý je chránený šifrovaním typu end-to-end, je nový postup, v ktorom poskytovateľ cloudových služieb, tj Apple a vaše zariadenie, spoločne vykonávajú porovnávanie obrázkov.

Spozorovanie dôkazov bez toho, aby ste sa na ne pozreli

Aj keď to môže znieť ako mágia, s modernou kryptografiou je v skutočnosti možné pracovať s údajmi, ktoré nevidíte.

„Prispel som k projektom, ktoré používajú kryptografiu na meranie rozdielov v mzdách medzi ženami a mužmi bez toho, aby sme sa museli dozvedieť o mzde kohokoľvek, a na odhaľovaní opakujúcich sa páchateľov sexuálnych útokov bez toho, aby sme si prečítali výpovede obetí,“ uvádza Mayank Varia, autor článku pre The Next Web.

Navrhovaná zhoda obrázkov od spoločnosti Apple vo fotkách iCloud používa na skenovanie fotografií kryptograficky chránené výpočty bez toho, aby ich videla. Je založená na nástroji, ktorý sa nazýva súkromná množinová križovatka a ktorú kryptografi skúmali od 80. rokov minulého storočia. Tento nástroj umožňuje dvom ľuďom zobraziť súbory, ktoré majú spoločné, a ostatné skryť.

Takto funguje zhoda s obrázkom. Apple distribuuje všetkým zariadeniam iPhone, iPad a Mac databázu obsahujúcu nerozlúštiteľné kódovania známych obrázkov zneužívania detí. Na každú fotografiu, ktorú nahráte na iCloud, vaše zariadenie použije digitálny odtlačok prsta , ktorý sa nazýva NeuralHash. Tento odtlačok prsta funguje aj keď niekto urobí na fotografii malé zmeny. Vaše zariadenie potom vytvorí akúsi „poukážku“ na vašu fotografiu, ktorej vaše zariadenie nerozumie, a oznámi serveru, či sa nahraná fotografia zhoduje s materiálom zneužívajúcim deti v databáze.

Ak dostatok týchto „poukážok“ zo zariadenia naznačuje zhody so známymi obrázkami zneužívania detí, server sa naučí tajné kľúče na dešifrovanie všetkých zodpovedajúcich fotografií – nie však kľúče pre ostatné fotografie. V opačnom prípade server nemôže zobraziť žiadne z vašich fotografií.

Uskutočnenie tohto postupu párovania na vašom zariadení môže byť pre vaše súkromie lepšie ako predchádzajúce metódy, v ktorých sa párovanie uskutočňuje na serveri.

Nedostatky novej metódy

Technológia skenovania telefónu Apple je navrhnutá tak, aby chránila súkromie. Experti na počítačovú bezpečnosť a technologickú politiku sú školení, aby objavili spôsoby, akými je možné technológiu používať, zneužívať a zneužívať bez ohľadu na úmysel jej tvorcu. V oznámení spoločnosti Apple však chýbajú informácie na analýzu základných komponentov , takže nie je možné vyhodnotiť bezpečnosť jeho nového systému.

Výskumní pracovníci v oblasti bezpečnosti musia vidieť kód spoločnosti Apple, aby overili, či je softvér na porovnávanie pomocou zariadenia verný dizajnu a nespôsobuje chyby. Výskumníci tiež musia otestovať, či je možné oklamať algoritmus spoločnosti Apple NeuralHash tak, aby zmenil odtlačky prstov vykonaním nepostrehnuteľných zmien na fotografii .

Je tiež dôležité, aby spoločnosť Apple vypracovala zásady auditu, na základe ktorých bude spoločnosť zodpovedná za párovanie iba obrázkov zneužívania detí.

Navrhovaná technológia párovania obrázkov navrhovaná spoločnosťou Apple má potenciál zlepšiť digitálne súkromie a bezpečnosť detí. Momentálne experti vyzývajú Apple k dialógu a k možnosti spolupráce na ladení technológie tak, aby bola bezpečná, spoľahlivá a spoločensky zodpovedná.