昨年来、世界中の政府が Facebook に対し、アプリ全体のエンドツーエンド暗号化計画を放棄するよう圧力をかけてきました。
本日、Facebook は、金融詐欺師や潜在的な児童虐待者からのメッセージと思われる場合に警告し、Messenger アプリに警告を表示して、違反者をブロックするよう提案する Messenger の新機能を発表しました。 この機能は、Facebookが3月にAndroidで展開を開始し、現在iOSにも導入しているもので、Facebook Messengerの10億人以上のユーザー間のコミュニケーションの機械学習分析を使用して、疑わしい行動を特定します。 しかし重要なのは、この検知はメッセージの内容を分析するのではなく、メタデータに基づいてのみ行われることで、Messengerが秘密の会話機能で提供しているエンドツーエンドの暗号化を損なわないようにするとFacebookは述べている。 Facebookは、このエンドツーエンドの暗号化を、最終的にはデフォルトですべてのMessengerチャットに展開すると述べている。
「Messengerに安全通知を導入し、チャット中にポップアップ表示されるヒントを提供することにより、人々が疑わしい活動を見つけ、何かおかしいと思ったときに誰かをブロックしたり無視する行動をとれるようにします」と、FacebookのプロダクトマネジメントのMessengerプライバシーと安全担当ディレクター、Jay Sullivan氏はブログ投稿で述べています。 「
「ここで実験しているのは良い兆候だと思います」
元Facebook最高セキュリティ責任者のAlex Stamos氏
Facebookは、機械学習による不正使用検出のトリックがどのように機能するのか、あまり詳細を明かしていません。 誰が誰と話しているのか、いつ、どのような頻度でメッセージを送っているのか、関連するアカウントのその他の属性など、基本的に通信内容以外のすべてである。 Facebookの広報担当者はWIREDの電話取材に対し、「機械学習モデルを通じて開発できる、かなり良いシグナルを得ることができますし、それは明らかに時間とともに改善されるでしょう」と語った。
同社のブログ記事では、行動検出メカニズムが乱用者の可能性を発見できるケースとして、大人が多数の未成年者にメッセージや友達リクエストを送信している例を挙げています。
Facebook のあるスクリーンショットでは、たとえば、メッセージ受信者が詐欺師の可能性を知っているかを尋ねる警告が表示されています。 もし「いいえ」と答えた場合、そのメッセージの送り主をブロックすることを提案し、見知らぬ人にお金を送らないようにするためのヒントを提供します。 また、名前と写真を使って友人になりすましている人がいることを検知すると、その人になりすますためのアラートを表示します。
Facebook には、メッセージの内容を見ないという主張の例外が1つあります。 Messengerの不正使用報告メカニズムには、ユーザーがフラグを立てるとFacebookにメッセージが送信される機能が以前から含まれています。 しかし、暗号化されたメッセージの受信者は、いつでも復号化されたバージョンを第三者と共有することを選択できるため、一般的にはエンドツーエンド暗号化の侵害とは見なされません。
今のところ、安全通知機能は、潜在的な悪用をブロックまたは無視することを明示的に提案するだけです。 (ユーザーは、送信者の名前をタップし、「何か変だ」をタップして、何が起こったかを指定するという通常の方法で、虐待行為を報告することができます)。 「我々は人々に即時の行動を与えたかったのです。ブロックは、誰かが被害を避けるために取ることができる最も即時の行動です」とFacebookの広報担当者は言う。 「
Facebook Messenger がメタデータのみに基づく不正使用の警告を追加したことは、「良いスタート」だと、Facebookの元最高セキュリティ責任者の Alex Stamos 氏は言います。 しかし、彼は、同社がもっとできること、すべきことがあると主張しています。 現在 Stanford Internet Observatory を率いる Stamos は、Facebook、Google、Microsoft、Snap などはすべて、ユーザーのデバイスで悪質な行為の兆候を監視するべきだと主張しています。
「私は、クライアントサイドでコンテンツを見ることができるようにすべきだと思います。
Stamos> は、Facebook が警告において単なるブロックではなく、報告を重視した場合、その報告によって法執行機関が重大犯罪者に対して使用できる証拠を作成できるとも指摘します。 10代の女の子をたくさん『友達』にしようとしたことがデータからわかったからといって、誰かを逮捕することはないでしょう」とStamos氏は付け加えます。 「しかし、誰かが実際に子供にヌードのリクエストを送ったとしたら、それはおそらくほとんどの場合、違法です。 捜査令状があれば、その人物を起訴できるかもしれません。
クライアント側のコンテンツ解析の可能性について質問された Facebook の広報担当者は、「この安全機能については考慮されておらず、必要ありません」と述べています。
Facebookは、他の多くのハイテク企業とともに、法執行機関が通信や保存データにアクセスできるメカニズムを暗号化に組み込むよう、トランプ政権と議会から圧力を受け続けています。 3 月には、EARN IT 法と呼ばれる法案が提出されましたが、この法案がそのままの形で可決されれば、強力なエンドツーエンド暗号化を実質的に禁止することになりかねません。 そしてつい今週、ウィリアム・バー司法長官は、昨年12月の大量殺戮事件で3人を殺害したアルカイダ系のモハメド・サイード・アルシャムラニが所有していた2台の古いiPhoneの暗号解除にAppleが協力しなかったと批判しました。
Facebook は、新しい安全通知はそうした政治圧力への対応ではないと主張し、実際、昨年 Mark Zuckerberg がエンドツーエンド暗号メッセージシステムへの統合を発表する以前から作業中だったのだそうです。
しかし、Stamos は、まさにこの種のツールが暗号化の批評家をなだめるために必要であり、暗号化の基本的なプライバシー保証を損なうことなく、さらに必要かつ可能かもしれないと主張しています。 「彼らがここで実験しているのは良い兆候だと思います」とStamos氏は言う。 「これは、道徳的に正しいだけでなく、いくつかのマイナス面を処理する責任があると彼らが考えていることを示すものです。
暗号化された会話に対する Facebook の報告プロセスがどのように機能するかを明確にするため、2020 年 5 月 21 日 2 時 (米国東部標準時) に更新されました。
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: ダイヤモンド・プリンセスで起きたこと
- 自宅で髪を切るためのヒントとツール
- 👁AIが発見したコビド19の治療法の可能性。 おまけ：AIの最新ニュースをお届けします
- 🏃🏽♀️ 健康になるための最高の道具が欲しいですか？ フィットネストラッカー、ランニングギア（シューズやソックスなど）、ベストなヘッドフォンなど、Gearチームが選んだものをチェックしてみてください
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: What happened on the Diamond Princess
- Tips and tools for cutting your hair at home
- 👁 AI uncovers a potential Covid-19 treatment. Plus: Get the latest AI news
- 🏃🏽♀️ Want the best tools to get healthy? Check out our Gear team’s picks for the best fitness trackers, running gear (including shoes and socks), and best headphones