Apple představil nové kroky pro ochranu dětí, které se týkají jak komunikace přes iMessage (Zprávy), tak i využívání Siri, hledání a kontroverzní detekci závadných fotografií.
V případě Zpráv mohou rodiče nastavit dětskou ochranu tak, že budou upozorněni, když jejich děti odešlou nebo dostanou sexuální fotografie. Pokud rodič systém aktivuje, budou takové fotky rozmazané a dítě je tak neuvidí. Děti dostanou rovněž upozornění, že nejspíše jde o závadný obsah a pokud se ho rozhodnou zobrazit, rodiče budou upozorněni. K detekci sexuálního obsahu se používá umělá inteligence přímo v zařízení. Funkce bude dostupná v iOS 15, iPadOS 15 a macOS 12.
Vylepšení u Siri a hledání posouvají stávající dětskou ochranu při prohlížení webu. Siri a hledání bude upozorňovat, pokud se dotazy budou týkat závadného dětského obsahu spadajícího pod CSAM (Child Sexual Abuse Material), i s pomocnými informacemi a dalšími zdroji o nebezpečnosti a škodlivosti materiálu.
Třetí a hlavní kontroverzní novinkou je detekce závadného dětského obsahu (dětské porno, dětské násilí a další zvěrstva) v rámci CSAM. Apple se spojil s NCMEC (National Center for Missing and Exploited Children), která má k dispozici fotografie hledaných a zneužitých dětí, které byly zajištěné z různých zdrojů a úzce spolupracuje s příslušnými vyšetřovacími orgány v USA.
Systém není tak kontroverzní, jak chybně popisuje mnoho bulvárních webů. Apple má k dispozici hashe závadných fotografií a jakmile dochází k nahrávání fotek třeba z iPhonu, iPadu nebo Macu do iCloudu, operační systém porovná hashe těchto fotografií s fotografiemi, které se začínají uploadovat. Tento proces probíhá přímo na zařízení a závadné hashe tak jsou už předem připravené v zařízení pro interní porovnání.
Architektura systému CSAM
Pokud je detekována shoda hashů, využije Apple techniky šifrování private set intersection a threshold secret sharing, které umožní další rekonstrukci informací nahraných oštítkovaných fotografií v iCloudu a posléze manuální kontrolu vedoucí k případnému zablokování účtu a předání informací NCMEC. Proti blokaci účtu se lze odvolat.
Protože stačí změna jediného pixelu k tomu, aby hash fotky byl zcela jiný, systém má extrémně nízkou chybovost a u jednoho účtu za jeden rok je v oblasti 1 : 1 000 000 000 000. Systém tak nedokáže detekovat nově vytvořený závadný obsah, pouze porovnává hashe již známých závadných fotografií.
Zatím bude novinka spuštěna pouze v Americe, ovšem plány má Apple mnohem větší. Americký trh bude do jisté míry testovací. Fotky amerických uživatelů firmy budou zanalyzovány a obdrží jakousi „bezpečnostní známku“ zda je snímek v pořádku nebo ne.
Nápad ve skutečnosti není zcela nový, všichni velcí poskytovatelé cloudů do jisté míry fotografie porovnávají, zda neobsahují problematický materiál ze známých databází. Apple jde dál především v tom, že plánuje fotografie inovativně analyzovat a šifrovat už těsně před tím, než jsou nahrány na iCloud, tedy roli bude hrát přímo iPhone. Analýze se vyhnou jen snímky uložené lokálně, které uživatelé nenahrají na iCloud.
Nový systém není kontroverzní z pohledu soukromí nebo bezpečnosti, ale spíše možnému dalšímu tlaku ze strany jiných úřadů a států. Začíná to sice hezky a chránit děti je nutné, za chvíli se ale mohou ozvat státy s tím, že chtějí stejným způsobem porovnávat fotky spojené s terorismem, „závadnými osobami“ a podobně, což ne vždy je objektivní zlo. Obzvláště ve státech, kde se zabijí nevhodné osoby demonstrující proti režimu a podobně.
Lze si jen těžko představit, že by Apple k takovému kroku přistoupil, avšak státy jsou schopné vyvinout takové tlaky, které by mohly Apple k tomuto kroku zkrátka donutit. Otázka je, jak Apple dokáže takovým tlakům odolat, protože si lze představit scénáře, že ve hře bude například zákaz prodejů daných zařízení v konkrétním státě.
Podrobné informace o technické implementaci CSAM lze najít v PDF a dalších materiálech dole v článku na stránkách Applu.
Aktualizováno: Apple bude analyzovat fotky na iPhonech a iCloudu, zda neukazují zneužívání dětí - Živě.cz
Read More
No comments:
Post a Comment