Pelo último ano, governos de todo o mundo têm pressionado o Facebook a abandonar os seus planos de criptografia de ponta a ponta nos seus aplicativos, argumentando que o recurso oferece cobertura para criminosos e, acima de tudo, para predadores de crianças. Hoje o Facebook está lançando novas ferramentas de detecção de abuso e alerta no Messenger, que podem ajudar a lidar com essas críticas – sem enfraquecer as suas proteções.
Facebook anunciou hoje novos recursos para o Messenger, que irão alertá-lo quando as mensagens parecerem vir de golpistas financeiros ou potenciais abusadores de crianças, exibindo avisos no aplicativo Messenger, que fornecem dicas e sugerem que você bloqueie os infratores. O recurso, que o Facebook começou a lançar no Android em março e agora está trazendo para o iOS, usa a análise de aprendizagem de máquina das comunicações entre os mais de bilhões de usuários do Facebook Messenger para identificar comportamentos sombrios. Mas, de forma crucial, o Facebook diz que a detecção ocorrerá apenas com base em metadados – e não na análise do conteúdo das mensagens – para não prejudicar a criptografia de ponta a ponta que o Messenger oferece em seu recurso de Conversas Secretas. O Facebook disse que, por padrão, ele acabará implementando essa criptografia de ponta a ponta em todas as conversas do Messenger.
“Estamos introduzindo avisos de segurança no Messenger que irão aparecer em um chat e fornecer dicas para ajudar as pessoas a detectar atividades suspeitas e tomar medidas para bloquear ou ignorar alguém, quando algo não parece certo”, lê um post de blog do diretor de gerenciamento de produtos do Facebook para a privacidade e segurança do Messenger, Jay Sullivan. “À medida que passamos para a criptografia de ponta a ponta, estamos investindo em ferramentas de preservação de privacidade como essa, para manter as pessoas seguras, sem acessar o conteúdo das mensagens””
“Acho que é um bom sinal de que eles estão experimentando aqui””
Alex Stamos, Ex-Chefe de Segurança do Facebook
Facebook não revelou muitos detalhes sobre como os seus truques de detecção de abuso na aprendizagem da máquina irão funcionar. Mas um porta-voz do Facebook diz ao WIRED que os mecanismos de detecção são baseados apenas em metadados: quem está falando com quem, quando eles enviam mensagens, com que freqüência, e outros atributos das contas relevantes – essencialmente tudo, exceto o conteúdo das comunicações, que os servidores do Facebook não podem acessar quando essas mensagens são criptografadas. “Podemos obter sinais muito bons que podemos desenvolver através de modelos de aprendizagem de máquina, que obviamente irão melhorar com o tempo”, disse um porta-voz do Facebook ao WIRED em uma ligação telefônica. Eles se recusaram a compartilhar mais detalhes em parte porque a empresa diz que não quer inadvertidamente ajudar os maus atores a contornar suas proteções.
O blog da empresa oferece o exemplo de um adulto enviando mensagens ou pedidos de amizade para um grande número de menores como um caso em que seus mecanismos de detecção comportamental podem detectar um provável agressor. Em outros casos, diz o Facebook, ele vai pesar a falta de conexões entre os gráficos sociais de duas pessoas – um sinal de que elas não se conhecem – ou considerar instâncias anteriores onde os usuários denunciaram ou bloquearam alguém como uma pista de que eles estão fazendo algo obscuro.
Uma captura de tela do Facebook, por exemplo, mostra um alerta que pergunta se o destinatário da mensagem conhece um possível golpista. Se eles disserem não, o alerta sugere bloquear o remetente, e oferece dicas sobre como nunca enviar dinheiro a um estranho. Em outro exemplo, o aplicativo detecta que alguém está usando um nome e uma foto de perfil para imitar o amigo do destinatário. Um alerta então mostra os perfis do imitador e do amigo real lado a lado, sugerindo que o usuário bloqueie o fraudador.
Facebook tem uma excepção à sua alegação de que não olha para o conteúdo das mensagens: O mecanismo de denúncia de abuso do Messenger incluiu há muito tempo uma funcionalidade que envia mensagens para o Facebook quando um usuário as sinaliza. Isso dá ao Facebook outra pista potencial sobre qual outro comportamento ruim que o remetente possa estar tramando, mas geralmente não é considerado uma violação da criptografia de ponta a ponta, uma vez que o destinatário de uma mensagem criptografada pode sempre optar por compartilhar a versão descriptografada com um terceiro.1
Por enquanto, o recurso de avisos de segurança apenas irá sugerir explicitamente o bloqueio ou ignorar um potencial abuso. (Os usuários ainda podem denunciar um comportamento abusivo com o método habitual de tocar no nome do remetente e depois “Algo está errado”, especificando então o que aconteceu). “Nós queríamos dar às pessoas uma ação imediata, e o bloqueio é a ação mais imediata que alguém pode tomar para evitar danos”, diz um porta-voz do Facebook. “Denunciar é algo que estamos procurando trazer para o recurso também”
Facebook Messenger, a adição de alertas de abuso baseados apenas em metadados é um “bom começo”, diz Alex Stamos, o ex-chefe de segurança do Facebook. Mas ele argumenta que a empresa poderia e deveria fazer mais. Stamos, que agora lidera o Observatório da Internet de Stanford, argumentou que o Facebook, Google, Microsoft, Snap e outros deveriam todos monitorar os sinais de mau comportamento nos dispositivos dos usuários.
“Acho que eles deveriam ter a aparência do lado do cliente – no conteúdo. E uma vez que eles fazem isso, eles devem alertar as pessoas para serem capazes de relatar”, diz Stamos. Que a análise e a denúncia de conteúdo no dispositivo permitem que o Facebook encontre maus atores mais rapidamente do que a mera verificação de metadados, diz Stamos, enquanto ainda mantém a criptografia de ponta a ponta.
Stamos também observa que se o Facebook enfatizasse a denúncia, em vez do mero bloqueio nos seus alertas, essas denúncias poderiam criar evidências que as autoridades policiais poderiam usar contra criminosos graves. “Você não vai prender alguém porque seus dados mostram que eles tentaram ‘fazer amizade’ com um bando de adolescentes”, acrescenta Stamos. “Considerando que se alguém envia um pedido de nudez a uma criança, isso provavelmente é ilegal na maioria dos casos. Isso poderia ser usado para obter um mandado de busca e possivelmente para processar a pessoa. Você realmente quer o conteúdo das comunicações, e a melhor maneira de fazer isso na criptografia de ponta a ponta é apenas para encorajar o destinatário a relatar a conversa”
Um porta-voz do Facebook, perguntado sobre essa possibilidade de análise de conteúdo do lado do cliente, diz que a medida “não foi considerada e não é necessária para esse recurso de segurança”
Facebook, juntamente com muitas outras empresas de tecnologia, tem sofrido uma pressão crescente por parte da administração Trump e do Congresso para criar mecanismos de criptografia que permitam o acesso das forças da lei às comunicações e aos dados armazenados. Em março, um projeto de lei chamado EARN IT Act foi introduzido que, na prática, poderia proibir a criptografia forte de ponta a ponta se aprovada em sua forma atual. E ainda esta semana, o Procurador Geral William Barr criticou a Apple por não ajudar a decodificar um par de iPhones mais antigos que pertenciam à Al Qaeda-linked Mohammed Saeed Alshamrani, que matou três pessoas em um incidente de tiroteio em massa em dezembro passado.
p>Facebook argumenta que seus novos avisos de segurança não são uma resposta a essa pressão política – que, de fato, eles estão em ação desde antes mesmo de Mark Zuckerberg anunciar a lenta transição da empresa para um sistema unificado de mensagens criptografadas de ponta a ponta no ano passado.
Mas Stamos argumenta que exatamente esse tipo de ferramenta é necessário para apaziguar os críticos da criptografia – e que mais ainda pode ser necessário e possível sem comprometer as garantias fundamentais de privacidade da criptografia. “Eu acho que é um bom sinal que eles estão experimentando aqui”, diz Stamos. “É um reconhecimento de que eles acreditam ter a responsabilidade de lidar com algumas das desvantagens , o que eu acho que não é apenas moralmente correto. É um predicado da sobrevivência da criptografia de ponta a ponta”
1Updated 5/21/2020 às 14h EST para esclarecer como funciona o processo de reportagem do Facebook para conversas criptografadas”.
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: O que aconteceu na Princesa dos Diamantes
- Dicas e ferramentas para cortar o cabelo em casa
- 👁 AI descobre um potencial tratamento Covid-19. Mais: Receba as últimas notícias da IA
- 🏃🏽♀️ Quer as melhores ferramentas para ficar saudável? Confira as escolhas da nossa equipe de equipamentos para os melhores rastreadores de fitness, equipamentos de corrida (incluindo sapatos e meias) e os melhores fones de ouvido
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: What happened on the Diamond Princess
- Tips and tools for cutting your hair at home
- 👁 AI uncovers a potential Covid-19 treatment. Plus: Get the latest AI news
- 🏃🏽♀️ Want the best tools to get healthy? Check out our Gear team’s picks for the best fitness trackers, running gear (including shoes and socks), and best headphones