Facebook Messenger voegt veiligheidswaarschuwingen toe, zelfs in versleutelde chats

In het afgelopen jaar hebben regeringen over de hele wereld druk uitgeoefend op Facebook om af te zien van zijn plannen voor end-to-endencryptie in al zijn apps, met als argument dat deze functie een dekmantel biedt voor criminelen en vooral voor kinderlokkers. Vandaag rolt Facebook nieuwe tools uit voor het opsporen van misbruik en het waarschuwen van misbruik in Messenger, die kunnen helpen deze kritiek te weerleggen zonder de bescherming af te zwakken.

Facebook heeft vandaag nieuwe functies voor Messenger aangekondigd die je waarschuwen wanneer berichten afkomstig lijken te zijn van financiële oplichters of potentiële kindermisbruikers, waarbij waarschuwingen in de Messenger-app worden weergegeven met tips en suggesties om de overtreders te blokkeren. De functie, die Facebook in maart begon uit te rollen op Android en nu uitbrengt op iOS, maakt gebruik van machine learning-analyse van de communicatie tussen de meer dan een miljard gebruikers van Facebook Messenger om verdacht gedrag te identificeren. Maar van cruciaal belang is dat Facebook zegt dat de detectie alleen zal plaatsvinden op basis van metadata – geen analyse van de inhoud van berichten – zodat het de end-to-end-encryptie die Messenger biedt in zijn Secret Conversations-functie niet ondermijnt. Facebook heeft gezegd dat het uiteindelijk die end-to-end-encryptie standaard zal uitrollen naar alle Messenger-chats.

“We introduceren veiligheidsmeldingen in Messenger die opduiken in een chat en tips geven om mensen te helpen verdachte activiteiten te spotten en actie te ondernemen om iemand te blokkeren of te negeren als er iets niet in de haak lijkt,” staat te lezen in een blogpost van Facebook’s directeur productbeheer voor Messenger privacy en veiligheid Jay Sullivan. “Terwijl we naar end-to-end-encryptie gaan, investeren we in privacy-beschermende tools zoals deze om mensen veilig te houden zonder toegang te krijgen tot de inhoud van berichten.”

“Ik denk dat het een goed teken is dat ze hier experimenteren.”

Alex Stamos, voormalig Facebook Chief Security Officer

Facebook heeft niet veel details onthuld over hoe zijn machine-learning misbruikdetectietrucs zullen werken. Maar een woordvoerder van Facebook vertelt WIRED dat de detectiemechanismen alleen gebaseerd zijn op metadata: wie met wie praat, wanneer ze berichten sturen, met welke frequentie, en andere attributen van de relevante accounts – in wezen alles behalve de inhoud van de communicatie, waar Facebooks servers geen toegang toe hebben als die berichten versleuteld zijn. “We kunnen vrij goede signalen krijgen die we kunnen ontwikkelen via machine learning-modellen, die uiteraard in de loop van de tijd zullen verbeteren,” vertelde een woordvoerder van Facebook aan WIRED in een telefoongesprek. Ze weigerden meer details te delen, deels omdat het bedrijf zegt dat het niet onbedoeld slechte actoren wil helpen zijn beveiligingen te omzeilen.

De blogpost van het bedrijf biedt het voorbeeld van een volwassene die berichten of vriendverzoeken stuurt naar een groot aantal minderjarigen als één geval waarin zijn gedragsdetectiemechanismen een waarschijnlijke misbruiker kunnen spotten. In andere gevallen, zegt Facebook, weegt het een gebrek aan connecties tussen de sociale grafieken van twee mensen – een teken dat ze elkaar niet kennen – of beschouwt het eerdere gevallen waarin gebruikers iemand hebben gerapporteerd of geblokkeerd als een aanwijzing dat ze iets schimmigs van plan zijn.

Een screenshot van Facebook laat bijvoorbeeld een waarschuwing zien die vraagt of een ontvanger van een bericht een potentiële oplichter kent. Als de ontvanger nee zegt, wordt voorgesteld de afzender te blokkeren en worden tips gegeven om nooit geld naar een onbekende te sturen. In een ander voorbeeld detecteert de app dat iemand een naam en profielfoto gebruikt om zich voor te doen als een vriend van de ontvanger. Een waarschuwing toont dan de profielen van de imitator en de echte vriend naast elkaar, met de suggestie aan de gebruiker om de fraudeur te blokkeren.

screenshot van facebook messanger — Foto: Facebook

Facebook heeft één uitzondering op haar bewering dat ze niet naar de inhoud van berichten kijkt: Het meldsysteem voor misbruik van Messenger bevat al lange tijd een functie waarmee berichten naar Facebook worden gestuurd als een gebruiker deze markeert. Dat geeft Facebook nog een mogelijke aanwijzing voor ander slecht gedrag van de afzender, maar wordt over het algemeen niet beschouwd als een inbreuk op de end-to-end encryptie, omdat de ontvanger van een versleuteld bericht er altijd voor kan kiezen om de ontsleutelde versie te delen met een derde partij.1

Voorlopig zal de functie voor veiligheidsmeldingen alleen expliciet voorstellen om een potentieel misbruik te blokkeren of te negeren. (Gebruikers kunnen nog steeds misbruik melden door op de gebruikelijke manier op de naam van de afzender te tikken en vervolgens op “Something’s Wrong” te klikken en aan te geven wat er is gebeurd). “We wilden mensen een onmiddellijke actie geven, en blokkeren is de meest onmiddellijke actie die iemand kan nemen om schade te voorkomen,” zegt een woordvoerder van Facebook. “Rapportage is iets wat we ook naar de functie willen brengen.”

Facebook Messenger’s toevoeging van misbruikwaarschuwingen op basis van alleen metadata is een “goed begin”, zegt Alex Stamos, de voormalige chief security officer van Facebook. Maar hij vindt dat het bedrijf meer kan – en moet – doen. Stamos, die nu het Stanford Internet Observatory leidt, heeft betoogd dat Facebook, Google, Microsoft, Snap en anderen allemaal zouden moeten monitoren op tekenen van slecht gedrag op gebruikersapparaten.

“Ik denk dat ze client-side looking-at-content zouden moeten hebben. En zodra ze dat doen, moeten ze mensen vragen om het te kunnen melden,” zegt Stamos. Met die inhoudsanalyse en rapportage op het apparaat kan Facebook slechte actoren sneller vinden dan metadata scannen, zegt Stamos, terwijl de end-to-end-encryptie gehandhaafd blijft.

Stamos merkt ook op dat als Facebook bij zijn waarschuwingen de nadruk legt op rapportage in plaats van louter blokkeren, die meldingen bewijs kunnen opleveren dat de rechtshandhaving kan gebruiken tegen zware criminelen. “Je gaat niet iemand arresteren omdat uit je gegevens blijkt dat hij heeft geprobeerd een groep tienermeisjes te ‘bevrienden’,” voegt Stamos toe. “Terwijl als iemand daadwerkelijk een verzoek om naaktfoto’s naar een kind stuurt, dat in de meeste gevallen waarschijnlijk illegaal is. Dat kan gebruikt worden om een huiszoekingsbevel te krijgen en de persoon mogelijk te vervolgen. Je wilt echt de inhoud van de communicatie, en de beste manier om dat te doen in end-to-end-encryptie is gewoon om de ontvanger aan te moedigen het gesprek te melden.”

Een woordvoerder van Facebook, gevraagd naar die mogelijkheid van client-side inhoudsanalyse, zegt dat de maatregel “niet is overwogen en niet nodig is voor deze veiligheidsfunctie.”

Facebook, samen met tal van andere techbedrijven, is onder toenemende druk komen te staan van de Trump-administratie en het Congres om mechanismen in encryptie in te bouwen die rechtshandhaving toegang geven tot communicatie en opgeslagen gegevens. In maart werd een wetsvoorstel ingediend, de EARN IT Act, dat in de praktijk sterke end-to-end encryptie zou kunnen verbieden als het in zijn huidige vorm wordt aangenomen. En deze week nog bekritiseerde procureur-generaal William Barr Apple voor het niet helpen ontsleutelen van een paar oudere iPhones die toebehoorden aan Al Qaeda-gelinkte Mohammed Saeed Alshamrani, die afgelopen december drie mensen doodde bij een massaschietincident.

Facebook stelt dat de nieuwe veiligheidsmededelingen geen reactie zijn op die politieke druk en dat er al aan werd gewerkt voordat Mark Zuckerberg vorig jaar aankondigde dat het bedrijf langzaam zou overstappen op een geünificeerd, end-to-end versleuteld berichtensysteem.

Maar Stamos stelt dat juist dit soort hulpmiddelen nodig zijn om de critici van encryptie te sussen – en dat er nog meer nodig en mogelijk is zonder de fundamentele privacywaarborgen van encryptie in gevaar te brengen. “Ik denk dat het een goed teken is dat ze hier aan het experimenteren zijn,” zegt Stamos. “Het is een erkenning dat ze vinden dat ze de verantwoordelijkheid hebben om met sommige nadelen om te gaan, wat volgens mij niet alleen moreel juist is. Het is een voorwaarde voor het overleven van end-to-end-encryptie.”

1Update 5/21/2020 om 14:00 EST om te verduidelijken hoe Facebook’s rapportageproces voor versleutelde gesprekken werkt.

Facebook Messenger voegt veiligheidswaarschuwingen toe, zelfs in versleutelde chats

More Great WIRED Stories

More Great WIRED Stories

Geef een antwoord Antwoord annuleren