În ultimul an, guvernele din întreaga lume au făcut presiuni asupra Facebook pentru a renunța la planurile sale de criptare end-to-end în toate aplicațiile sale, argumentând că această funcție oferă acoperire pentru infractori și, mai ales, pentru prădătorii de copii. Astăzi, Facebook lansează noi instrumente de detectare a abuzurilor și de alertă în Messenger, care ar putea contribui la soluționarea acestor critici – fără a-și slăbi protecțiile.
Facebook a anunțat astăzi noi caracteristici pentru Messenger care vă vor alerta atunci când mesajele par să provină de la escroci financiari sau potențiali abuzatori de copii, afișând avertismente în aplicația Messenger care oferă sfaturi și vă sugerează să blocați infractorii. Funcția, pe care Facebook a început să o implementeze pe Android în luna martie și pe care o aduce acum pe iOS, utilizează analiza de învățare automată a comunicațiilor între cei peste un miliard de utilizatori ai Facebook Messenger pentru a identifica comportamentele dubioase. Dar, în mod crucial, Facebook spune că detectarea va avea loc numai pe baza metadatelor – nu pe baza analizei conținutului mesajelor – astfel încât să nu submineze criptarea end-to-end pe care Messenger o oferă în cadrul funcției sale Conversații secrete. Facebook a declarat că, în cele din urmă, va implementa în mod implicit această criptare end-to-end pentru toate conversațiile Messenger.
„Introducem notificări de siguranță în Messenger care vor apărea într-o conversație și vor oferi sfaturi pentru a-i ajuta pe oameni să detecteze activități suspecte și să ia măsuri pentru a bloca sau ignora pe cineva atunci când ceva nu pare în regulă”, se arată într-o postare pe blog a directorului de management al produselor Facebook pentru confidențialitate și siguranță Messenger, Jay Sullivan. „Pe măsură ce trecem la criptarea de la un capăt la altul, investim în instrumente de păstrare a confidențialității precum acesta pentru a menține oamenii în siguranță fără a accesa conținutul mesajelor.”
„Cred că este un semn bun faptul că experimentează aici.”
Alex Stamos, fost director de securitate al Facebook
Facebook nu a dezvăluit multe detalii despre modul în care vor funcționa trucurile sale de detectare a abuzurilor prin învățare automată. Dar un purtător de cuvânt al Facebook a declarat pentru WIRED că mecanismele de detectare se bazează doar pe metadate: cine vorbește cu cine, când trimite mesaje, cu ce frecvență și alte atribute ale conturilor relevante – în esență, orice altceva în afară de conținutul comunicațiilor, la care serverele Facebook nu pot avea acces atunci când aceste mesaje sunt criptate. „Putem obține semnale destul de bune pe care le putem dezvolta prin modele de învățare automată, care, evident, se vor îmbunătăți în timp”, a declarat un purtător de cuvânt al Facebook pentru WIRED în cadrul unei convorbiri telefonice. Aceștia au refuzat să împărtășească mai multe detalii, în parte deoarece compania spune că nu dorește să ajute, fără să vrea, actorii răi să ocolească măsurile sale de protecție.
Postarea de pe blogul companiei oferă exemplul unui adult care trimite mesaje sau cereri de prietenie unui număr mare de minori ca fiind un caz în care mecanismele sale de detectare a comportamentului pot identifica un abuzator probabil. În alte cazuri, spune Facebook, va cântări lipsa conexiunilor între grafurile sociale a două persoane – un semn că nu se cunosc – sau va lua în considerare cazurile anterioare în care utilizatorii au raportat sau au blocat o persoană ca un indiciu că aceasta pune la cale ceva dubios.
O captură de ecran de la Facebook, de exemplu, arată o alertă care întreabă dacă destinatarul unui mesaj cunoaște un potențial escroc. Dacă acesta spune că nu, alerta sugerează blocarea expeditorului și oferă sfaturi despre cum să nu trimită niciodată bani unui străin. Într-un alt exemplu, aplicația detectează faptul că cineva folosește un nume și o fotografie de profil pentru a se da drept prietenul destinatarului. O alertă arată apoi profilul impostorului și cel al prietenului real unul lângă altul, sugerând utilizatorului să blocheze escrocul.
Facebook are o excepție de la afirmația sa că nu se uită la conținutul mesajelor: Mecanismul de raportare a abuzurilor din Messenger include de mult timp o funcție care trimite mesaje către Facebook atunci când un utilizator le semnalează. Acest lucru îi oferă lui Facebook un alt indiciu potențial cu privire la ce alt comportament nepotrivit ar putea avea acel expeditor, dar, în general, nu este considerat o încălcare a criptării de la un capăt la altul, deoarece destinatarul unui mesaj criptat poate alege întotdeauna să împărtășească versiunea decriptată cu o terță parte.1
Pentru moment, funcția de notificări de siguranță va sugera în mod explicit doar blocarea sau ignorarea unui potențial abuz. (Utilizatorii pot în continuare să raporteze un comportament abuziv prin metoda obișnuită de a apăsa pe numele expeditorului și apoi pe „Something’s Wrong” (Ceva nu este în regulă), specificând apoi ce s-a întâmplat). „Am vrut să le oferim oamenilor o acțiune imediată, iar blocarea este cea mai imediată măsură pe care o poate lua cineva pentru a evita răul”, spune un purtător de cuvânt al Facebook. „Raportarea este ceva ce căutăm să aducem, de asemenea, la această funcție.”
Aducerea de către Facebook Messenger a alertelor de abuz bazate doar pe metadate este un „bun început”, spune Alex Stamos, fostul director de securitate al Facebook. Dar el susține că firma ar putea – și ar trebui – să facă mai mult. Stamos, care în prezent conduce Stanford Internet Observatory, a susținut că Facebook, Google, Microsoft, Snap și alții ar trebui să monitorizeze toate semnele de comportament inadecvat pe dispozitivele utilizatorilor.
„Cred că ar trebui să aibă client-side looking-at-content. Și odată ce fac acest lucru, ar trebui să îi îndemne pe oameni să poată raporta acest lucru”, spune Stamos. Acea analiză a conținutului de pe dispozitiv și raportarea permit Facebook să găsească actorii răi mai repede decât simpla scanare a metadatelor, spune Stamos, menținând în același timp criptarea end-to-end.
Stamos notează, de asemenea, că dacă Facebook a pus accentul pe raportare mai degrabă decât pe simpla blocare în alertele sale la, aceste rapoarte ar putea crea dovezi pe care forțele de ordine le-ar putea folosi împotriva infractorilor serioși. „Nu vei aresta pe cineva pentru că datele tale arată că a încercat să se „împrietenească” cu o grămadă de adolescente”, adaugă Stamos. „În timp ce dacă cineva trimite de fapt o cerere de nuduri unui copil, acest lucru este probabil ilegal în majoritatea cazurilor. Acest lucru ar putea fi folosit pentru a obține un mandat de percheziție și, eventual, pentru a urmări în justiție persoana respectivă. Vrei cu adevărat conținutul comunicațiilor, iar cel mai bun mod de a face acest lucru în criptarea end-to-end este doar să încurajezi destinatarul să raporteze conversația.”
Un purtător de cuvânt al Facebook, întrebat despre această posibilitate de analiză a conținutului din partea clientului, spune că măsura „nu a fost luată în considerare și nu este necesară pentru această caracteristică de siguranță.”
Facebook, împreună cu o mulțime de alte companii de tehnologie, a fost supus unei presiuni tot mai mari din partea administrației Trump și a Congresului pentru a încorpora în criptare mecanisme care să permită accesul autorităților de aplicare a legii la comunicații și la datele stocate. În martie, a fost introdus un proiect de lege numit EARN IT Act, care ar putea, în practică, să interzică criptarea puternică de la un capăt la altul, dacă este adoptat în forma sa actuală. Și chiar săptămâna aceasta, procurorul general William Barr a criticat Apple pentru că nu a ajutat la decriptarea unei perechi de iPhone-uri mai vechi care aparțineau lui Mohammed Saeed Alshamrani, legat de Al Qaeda, care a ucis trei persoane într-un incident cu împușcături în masă în decembrie anul trecut.
Facebook susține că noile sale notificări de siguranță nu sunt un răspuns la această presiune politică – că, de fapt, acestea au fost în lucru încă dinainte ca Mark Zuckerberg să anunțe tranziția lentă a companiei către un sistem de mesagerie unificat, criptat de la un capăt la altul, anul trecut.
Dar Stamos susține că exact acest tip de instrument este necesar pentru a-i liniști pe criticii criticilor criptării – și că mai mult poate fi încă necesar și posibil fără a compromite garanțiile fundamentale de confidențialitate ale criptării. „Cred că este un semn bun faptul că experimentează aici”, spune Stamos. „Este o recunoaștere a faptului că ei cred că au responsabilitatea de a se ocupa de unele dintre aspectele negative , ceea ce cred că nu este doar corect din punct de vedere moral. Este o premisă a supraviețuirii criptării de la un capăt la altul.”
1Updated 5/21/2020 at 2pm EST to clarify how Facebook’s reporting process for encrypted conversations works.
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: Ce s-a întâmplat pe Diamond Princess
- Coduri și instrumente pentru a-ți tăia părul acasă
- 👁 AI descoperă un potențial tratament Covid-19. Plus: Obțineți cele mai recente știri despre AI
- 🏃🏽♀️ Vreți cele mai bune instrumente pentru a fi sănătoși? Consultați alegerile echipei noastre Gear pentru cele mai bune trackere de fitness, echipamente de alergare (inclusiv pantofi și șosete) și cele mai bune căști
.
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: What happened on the Diamond Princess
- Tips and tools for cutting your hair at home
- 👁 AI uncovers a potential Covid-19 treatment. Plus: Get the latest AI news
- 🏃🏽♀️ Want the best tools to get healthy? Check out our Gear team’s picks for the best fitness trackers, running gear (including shoes and socks), and best headphones