Paskaidrots: kā Apple skenēs bērnu izmantošanas attēlus ierīcēs un kāpēc tas sarauj uzacis

Sākotnēji bija paredzēts, ka tie tiks nodoti tiešraidē Amerikas Savienotajās Valstīs, un tās funkcijas ietver jaunu tehnoloģiju izmantošanu, lai ierobežotu CSAM izplatību tiešsaistē, īpaši izmantojot Apple platformu.

Emuāra ziņā Apple paskaidroja, ka izmantos kriptogrāfijas lietojumprogrammas, izmantojot iOS un iPadOS, lai saskaņotu zināmos CSAM attēlus, kas saglabāti iCloud Photo.

Apple par to ir paziņojis programmatūras atjauninājumi vēlāk šogad nodrošinās jaunas funkcijas kas palīdzēs aizsargāt bērnus no plēsējiem, kuri izmanto saziņas rīkus, lai viņus vervētu un ekspluatētu, un ierobežotu bērnu seksuālās vardarbības materiāla (CSAM) izplatību.

Sākotnēji bija paredzēts, ka tie tiks nodoti tiešraidē Amerikas Savienotajās Valstīs, un tās funkcijas ietver jaunu tehnoloģiju izmantošanu, lai ierobežotu CSAM izplatību tiešsaistē, īpaši izmantojot Apple platformu.

Pēc tam tiks nodrošināta bērnu aizsardzība pret sensitīva satura sūtīšanu vai saņemšanu ar mehānismiem, lai brīdinātu vecākus, ja lietotājs ir jaunāks par 13 gadiem. Apple iejauksies arī tad, ja Siri vai Search tiks izmantots, lai meklētu ar CSAM saistītas tēmas. .

Kādas tehnoloģijas Apple dara, lai novērstu CSAM izplatību tiešsaistē?

Emuāra ziņā Apple paskaidroja, ka izmantos kriptogrāfijas lietojumprogrammas, izmantojot iOS un iPadOS, lai saskaņotu zināmos CSAM attēlus, kas saglabāti iCloud Photo. Šī tehnoloģija saskaņos attēlus lietotāja iCloud ar zināmajiem attēliem, ko nodrošina bērnu drošības organizācijas. Un tas tiek darīts, faktiski neredzot attēlu un tikai meklējot to, kas ir līdzīgs pirkstu nospiedumu sērijai. Gadījumā, ja ir sakritības, kas pārsniedz slieksni, Apple ziņos par šiem gadījumiem Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC).

Apple paskaidroja, ka tās tehnoloģija patur prātā lietotāju privātumu, un tādējādi datubāze tiek pārveidota par nelasāmu jaucējvārdu kopu, kas tiek droši glabāta lietotāju ierīcēs. Tā piebilda, ka pirms jebkura attēla augšupielādes iCloud operētājsistēma to saskaņos ar zināmajām CSAM jaucējkodēm, izmantojot kriptogrāfijas tehnoloģiju, ko sauc par privāto kopu krustojumu. Šī tehnoloģija arī noteiks sakritību, neatklājot rezultātu.

Šajā brīdī ierīce izveido kriptogrāfijas drošības kuponu ar spēles rezultātu un papildu šifrētiem datiem un saglabā to iClouds kopā ar attēlu. Sliekšņa slepenā koplietošanas tehnoloģija nodrošina, ka Apple nevar interpretēt šos kuponus, ja vien iCloud Photos konts nepārkāpj zināmā CSAM satura slieksni. Šis slieksnis, kā apgalvoja emuārs, ir noteikts, lai nodrošinātu ārkārtīgi augstu precizitātes līmeni un nodrošina mazāk nekā vienu no triljoniem iespēju gadā, ka konkrēts konts tiek atzīmēts nepareizi. Tātad viens attēls, visticamāk, neizraisīs brīdinājumu.

Bet, ja slieksnis tiek pārsniegts, Apple var interpretēt drošības talonu saturu un manuāli pārskatīt katru ziņojumu, lai noteiktu atbilstību, atspējot lietotāja kontu un nosūtīt ziņojumu NCMEC. Apple teica, ka lietotāji varēs iesniegt apelāciju, ja uzskatīs, ka viņi ir nepareizi atzīmēti.

jack ma cathy zhang

Kā darbojas pārējās funkcijas?

Apple jaunā saziņas drošība ziņojumiem aizmiglos jutīgu attēlu un brīdinās bērnu par satura būtību. Ja tas ir iespējots no aizmugursistēmas, bērnam var arī paziņot, ka viņa vecāki ir brīdināti par skatīto ziņojumu. Tas pats attieksies, ja bērns nolems nosūtīt sensitīvu ziņojumu. Apple teica, ka Messages izmantos ierīcē iebūvēto mašīnmācīšanos, lai analizētu attēlu pielikumus un noteiktu, vai fotoattēls ir seksuāla rakstura un ka Apple nevarēs piekļūt ziņojumiem. Šī funkcija būs pieejama kā atjauninājums kontiem, kas pakalpojumā iCloud ir iestatīti kā ģimenes jaunākajām operētājsistēmas versijām.
Turklāt ar atjauninājumu, kad lietotājs mēģina meklēt iespējamās CSAM tēmas, Siri un Search paskaidros, kāpēc tas varētu būt kaitīgi un problemātiski. Lietotāji saņems arī norādījumus par to, kā iesniegt ziņojumu par bērnu izmantošanu, ja viņi to lūgs.

Kāpēc Apple to dara un kādas ir bažas?

Lielie tehnoloģiju uzņēmumi gadiem ilgi ir bijuši pakļauti spiedienam, lai ierobežotu savu platformu izmantošanu bērnu ekspluatācijai. Daudzos ziņojumos gadu gaitā ir uzsvērts, ka netika darīts pietiekami daudz, lai tehnoloģija neļautu padarīt CSAM saturu plašāk pieejamu.

Tomēr Apple paziņojums tika kritizēts, un daudzi uzsver, ka šī ir tieši tāda novērošanas tehnoloģija, kuru daudzas valdības vēlētos izmantot un kuru labprāt izmanto ļaunprātīgi. Fakts, ka to nāca no Apple, kas ilgu laiku ir bijis privātuma balsts, ir pārsteidzis daudzus.

Arī kriptogrāfijas eksperti, piemēram, Metjū Grīns no Džona Hopkinsa universitātes, ir pauduši bažas, ka sistēma varētu tikt izmantota, lai ierāmētu nevainīgus cilvēkus, nosūtot viņiem attēlus, kuru mērķis ir izraisīt CSAM atbilstību. Pētniekiem ir izdevies to izdarīt diezgan viegli, viņš teica NPR, piebilstot, ka ir iespējams apmānīt šādus algoritmus.

Taču The New York Times citēja Apple galveno privātuma inspektoru Ēriku Neenšvanderu, sakot, ka šīs funkcijas parastajiem lietotājiem nenozīmēs neko citu.

Ja jūs glabājat CSAM materiālu kolekciju, jā, tas jums ir slikti, viņš teica izdevumam.

musa i no Mali neto vērtības

Biļetens| Noklikšķiniet, lai savā iesūtnē iegūtu dienas labākos skaidrojumus

Vai citiem lielajiem tehnoloģiju uzņēmumiem ir līdzīgas tehnoloģijas?

Jā. Faktiski Apple ir salīdzinoši vēls ienācējs, jo Microsoft, Google un Facebook ir brīdinājuši tiesībaizsardzības iestādes par CSAM attēliem. Apple ir atpalikusi, jo jebkura šāda tehnoloģija būtu bijusi pretrunā tās daudzkārt reklamētajai apņemšanās aizsargāt lietotāju privātumu. Rezultātā 2020. gadā, kad Facebook ziņoja NCMEC par 20,3 miljoniem CSAM pārkāpumu, Apple varēja ziņot tikai par 265 gadījumiem, ziņoja The New York Times.

Tikai tagad tas ir spējis atrast tehnoloģiju sweetspot, lai to paveiktu, neietekmējot parastos lietotājus vai vismaz nemierinot tos. Tomēr, kā liecina sākotnējā pretreakcija, tā joprojām ir pastaiga pa virvi.

Dalieties Ar Draugiem: