【悲報】iPhone内の画像から勝手に児童ポルノを通報するAIに「欠陥」がみつかる [512899213]
1: ラクトバチルス(宮崎県) [US]
2021/08/30(月) 17:22:51.60 ID:i8WiV4xt0● BE:512899213-PLT(27000)
sssp://img.5ch.net/ico/anime_karake.gif
Apple社の児童ポルノ検出技術に欠陥が発見されました。
現在Appleは、アメリカにおいて、個人の持つiPhoneやiCloudを勝手にスキャンして、児童ポルノを通報する「NeuralHash」というAIソフトの導入を進めています。
しかし8月18日にコード共有ウェブサイトGitHubのユーザーがシェアした情報によると、肝心のAIソフト（NeuralHash）が「犬と抽象画」を同じ画像と認識していると発見したとのこと。
iPhoneは膨大な数が世に出回っているため、わずかな誤検出率でも、誤認逮捕を引き起こす可能性があります。
しかし、いったいどうしてNeuralHashは犬の写真と抽象画を「同一」と判断してしまったのでしょうか？
ソース
https://nazology.net/archives/95176
関連ニュース
AppleがiPhone内の画像から勝手に児童ポルノを通報すると発表！今年中に米国で開始
https://nazology.net/archives/94197
ドコモがiPhone SE 特価セールを開始、端末のみ22,001円、新規契約またはMNPなら1円 [422186189]
https://hayabusa9.5ch.net/test/read.cgi/news/1630306862/
21: アキフェックス(茸) [JP]
2021/08/30(月) 17:34:04.34 ID:P3+/SvHg0
>>1
児童ポルノ大好きなのは白人様だし白人様だけで完結したらよろし
児童ポルノ大好きなのは白人様だし白人様だけで完結したらよろし
36: カルディオバクテリウム(和歌山県) [GB]
2021/08/30(月) 17:43:14.49 ID:pkckDXa00
>>21
でも韓国じゃ出産直後の乳児レイプが大流行してるんだが
でも韓国じゃ出産直後の乳児レイプが大流行してるんだが
3: アシドバクテリウム(東京都) [US]
2021/08/30(月) 17:23:59.66 ID:4NZmQ0CR0
パトロールしてた例の大学生はまだ元気なのかな
4: アシドバクテリウム(東京都) [US]
2021/08/30(月) 17:24:33.62 ID:6o0iz6TX0
てっぺん薄いのに。すごいねぇ。
6: テルモアナエロバクター(神奈川県) [US]
2021/08/30(月) 17:26:37.35 ID:tAxVMqnJ0
7: レジオネラ(光) [GR]
2021/08/30(月) 17:26:38.15 ID:+iRGCXJp0
どうやって学習させたんですかね
9: ビフィドバクテリウム(東京都) [DE]
2021/08/30(月) 17:27:51.06 ID:nP82WaXb0
>>7
クック「科学のためだ私の秘蔵フォルダを使いたまえ」
社員「おちんちんばっかりじゃないですか！」
クック「科学のためだ私の秘蔵フォルダを使いたまえ」
社員「おちんちんばっかりじゃないですか！」
13: デスルフレラ(東京都) [US]
2021/08/30(月) 17:31:08.39 ID:G1lHi6g+0
>>9
クック「逆に考えるんだ。オチンチンの付いた女の子だと思えば２倍お得じゃないか」
クック「逆に考えるんだ。オチンチンの付いた女の子だと思えば２倍お得じゃないか」
12: パスツーレラ(神奈川県) [KZ]
2021/08/30(月) 17:30:26.79 ID:MPF9Kzkl0
>>7
Appleのやり方は一種のハッシュのようなもので既知のチャイルドポルノ画像と一致するかを調べる仕組みで、
今回のこれはその仕組みだと非常に低い確率だけれども全く異なる画像同士を同じものとしてしまうということ
Appleのやり方は一種のハッシュのようなもので既知のチャイルドポルノ画像と一致するかを調べる仕組みで、
今回のこれはその仕組みだと非常に低い確率だけれども全く異なる画像同士を同じものとしてしまうということ
8: キサントモナス(東京都) [CN]
2021/08/30(月) 17:26:55.79 ID:lf2XQDFS0
日本の端末からが異常に多いんだろうな
19: アナエロプラズマ(日本のどこかに) [ﾆﾀﾞ]
2021/08/30(月) 17:33:24.91 ID:bIT7rA8Q0
>>8
これ日本は対象じゃない。あとロリ関係の日本叩きは印象操作で、圧倒的に欧米だよ
これ日本は対象じゃない。あとロリ関係の日本叩きは印象操作で、圧倒的に欧米だよ
41: エリシペロスリックス(神奈川県) [JP]
2021/08/30(月) 17:46:18.60 ID:WAZdPdOY0
>>8
東南アジアで児童買春してるのはほとんどアメリカ人
東南アジアで児童買春してるのはほとんどアメリカ人
10: フランキア(図書館の中の街) [US]
2021/08/30(月) 17:29:34.26 ID:zbs2E10I0
日本で通報されてる人っているの？
11: シトファーガ(茸) [US]
2021/08/30(月) 17:29:55.05 ID:cBEyvFAk0
実際に運用して人間がダブルチェックしてAIにフィードバックすればすぐに実用的になるだろ
14: ジアンゲラ(岡山県) [US]
2021/08/30(月) 17:31:21.94 ID:Hm/lFCN80
当たり前のように言ってるけど勝手にスキャンするなよ
15: デスルフォバクター(愛知県) [US]
2021/08/30(月) 17:31:31.30 ID:ArKxJWyz0
携帯にエロ画像保存するアホ居るのか?
20: アルテロモナス(大阪府) [RO]
2021/08/30(月) 17:33:56.63 ID:70vkzZeC0
>>15
馬鹿だからな
海外鯖に垢作って保存する知恵もないんだろ林檎信者は
馬鹿だからな
海外鯖に垢作って保存する知恵もないんだろ林檎信者は
30: デスルフォバクター(愛知県) [US]
2021/08/30(月) 17:38:48.39 ID:ArKxJWyz0
>>20
お、おぅ
お、おぅ
16: アキフェックス(東京都) [US]
2021/08/30(月) 17:31:33.88 ID:5ZpeEhgh0
つまり児童のポルノはきわめて抽象的で犬に似ているんだな
23: ハロアナエロビウム(大阪府) [FR]
2021/08/30(月) 17:35:33.93 ID:iz+mCJW60
ゴリラの赤ちゃんの写真を黒人の児童ポルノと判断するとかそんなんだろ
24: シトファーガ(三重県) [GB]
2021/08/30(月) 17:37:00.57 ID:jA5uhfgb0
>>23
黒人をゴリラと判定した機会認識を思い出した
Googleだっけか？
黒人をゴリラと判定した機会認識を思い出した
Googleだっけか？
25: スフィンゴバクテリウム(千葉県) [ﾆﾀﾞ]
2021/08/30(月) 17:37:24.64 ID:qohG4UpA0
33: エリシペロスリックス(埼玉県) [US]
2021/08/30(月) 17:39:41.73 ID:GyG9j/WX0
>>25
これをスルーするような阿呆Aiなんて役に立たないよ
これをスルーするような阿呆Aiなんて役に立たないよ
26: カンピロバクター(東京都) [DE]
2021/08/30(月) 17:37:37.21 ID:RGkIuD+V0
我が子の成長記録が消される欠陥商品なのでは
29: アクチノポリスポラ(東京都) [KR]
2021/08/30(月) 17:38:11.04 ID:MnIPBuVf0
日本で導入されたら9割くらい逮捕されるだろ。
アニメの画像とか持ってたら完全に児ポ判定されるｗ
アニメの画像とか持ってたら完全に児ポ判定されるｗ
31: クテドノバクター(神奈川県) [EU]
2021/08/30(月) 17:38:56.08 ID:YI2SOMCc0
自分の子供とかの写真も消されるのか
32: スネアチエラ(滋賀県) [US]
2021/08/30(月) 17:39:17.28 ID:OZc6Z8lU0
子供のプールでの写真も撮れないって事？
35: アルマティモナス(公衆電話) [US]
2021/08/30(月) 17:41:08.28 ID:4WjZygp/0
なんかサムネでグロ画像になるアレみたいに誤認識する細工を仕込んでるんじゃないの？
39: スピロケータ(東京都) [US]
2021/08/30(月) 17:45:40.10 ID:Qt0carpo0
中国とやってること同じじゃん
42: ミクロコックス(SB-Android) [CL]
2021/08/30(月) 17:51:56.89 ID:D8ckROv40
そのうち脳を勝手にスキャンして逮捕とかなりそう
43: ヴィクティヴァリス(SB-Android) [KR]
2021/08/30(月) 17:52:03.32 ID:blQmv/hg0
娘(幼女)の写真で通報されたらたまらんな
元スレ：