Facebook Messenger přidává bezpečnostní upozornění - i v šifrovaných chatech

Vlády po celém světě už rok tlačí na Facebook, aby upustil od plánů na end-to-end šifrování ve svých aplikacích, a tvrdí, že tato funkce poskytuje krytí zločincům a především dětským predátorům. Dnes Facebook zavádí nové nástroje pro detekci zneužití a upozornění v aplikaci Messenger, které mohou pomoci tuto kritiku vyřešit – aniž by oslabily její ochranu.

Facebook dnes oznámil nové funkce pro aplikaci Messenger, které vás upozorní, když se zdá, že zprávy pocházejí od finančních podvodníků nebo potenciálních zneuživatelů dětí, a zobrazí v aplikaci Messenger varování, které poskytne tipy a navrhne zablokování pachatelů. Funkce, kterou Facebook začal zavádět v březnu na systému Android a nyní ji přináší i na iOS, využívá k identifikaci podezřelého chování analýzu strojového učení komunikace více než miliardy uživatelů služby Facebook Messenger. Facebook však uvádí, že k detekci bude docházet pouze na základě metadat – nikoli na základě analýzy obsahu zpráv -, aby nedošlo k narušení end-to-end šifrování, které Messenger nabízí ve své funkci Tajné konverzace. Facebook uvedl, že toto end-to-end šifrování nakonec zavede ve výchozím nastavení pro všechny konverzace v aplikaci Messenger.

„Zavádíme v Messengeru bezpečnostní upozornění, která se budou objevovat v chatu a budou poskytovat tipy, které lidem pomohou odhalit podezřelou aktivitu a podniknout kroky k zablokování nebo ignorování někoho, komu se něco nezdá,“ stojí v příspěvku na blogu ředitele produktového managementu pro soukromí a bezpečnost Messengeru společnosti Facebook Jaye Sullivana. „S přechodem na end-to-end šifrování investujeme do nástrojů na ochranu soukromí, jako je tento, abychom zajistili bezpečnost lidí bez přístupu k obsahu zpráv.“

„Myslím, že je dobrým znamením, že zde experimentují.“

Alex Stamos, bývalý šéf bezpečnosti Facebooku

Facebook neprozradil mnoho podrobností o tom, jak budou jeho triky na odhalování zneužití pomocí strojového učení fungovat. Mluvčí Facebooku však serveru WIRED sdělil, že detekční mechanismy jsou založeny pouze na metadatech: kdo s kým komunikuje, kdy posílá zprávy, s jakou frekvencí a dalších atributech příslušných účtů – v podstatě na všem kromě obsahu komunikace, ke kterému servery Facebooku nemají přístup, když jsou tyto zprávy šifrované. „Můžeme získat docela dobré signály, které můžeme rozvíjet pomocí modelů strojového učení, které se samozřejmě budou časem zlepšovat,“ řekl mluvčí Facebooku v telefonickém rozhovoru pro WIRED. Odmítli sdělit další podrobnosti, částečně proto, že společnost tvrdí, že nechce neúmyslně pomáhat špatným aktérům obcházet její ochranná opatření.

Příspěvek na blogu společnosti nabízí příklad dospělého, který posílá zprávy nebo žádosti o přátelství velkému počtu nezletilých, jako jeden z případů, kdy její mechanismy detekce chování mohou odhalit pravděpodobné zneužití. V jiných případech podle Facebooku zváží nedostatek vazeb mezi sociálními grafy dvou lidí – znamení, že se neznají – nebo zváží předchozí případy, kdy uživatelé někoho nahlásili nebo zablokovali, jako vodítko, že chystá něco podezřelého.

Jeden snímek obrazovky od Facebooku například ukazuje upozornění, které se ptá, zda příjemce zprávy zná potenciálního podvodníka. Pokud odpoví, že ne, upozornění navrhuje zablokování odesílatele a nabízí rady, jak nikdy neposílat peníze cizímu člověku. V jiném příkladu aplikace zjistí, že někdo používá jméno a profilovou fotografii, aby se vydával za přítele příjemce. Upozornění pak zobrazí vedle sebe profily vydávajícího se a skutečného přítele a navrhne uživateli, aby podvodníka zablokoval.

screenshot facebook messanger — Fotografie: Facebook

Facebook má jednu výjimku ze svého tvrzení, že se nedívá na obsah zpráv: Zprávy, které uživatel označí, se již dlouho odesílají na Facebook. To dává Facebooku další potenciální vodítko k tomu, jaké další špatné chování může mít daný odesílatel na svědomí, ale obecně se to nepovažuje za porušení end-to-end šifrování, protože příjemce zašifrované zprávy se vždy může rozhodnout sdílet dešifrovanou verzi s třetí stranou.1

screenshot facebookového messangeru — Fotografie: Facebook

Prozatím bude funkce bezpečnostních upozornění pouze výslovně navrhovat zablokování nebo ignorování potenciálního zneužití. (Uživatelé mohou stále nahlásit zneužívající chování obvyklým způsobem: klepnutím na jméno odesílatele a poté na „Něco je špatně“ a následným upřesněním, co se stalo). „Chtěli jsme lidem poskytnout okamžitou akci a zablokování je nejbezprostřednější akce, kterou může někdo podniknout, aby se vyhnul újmě,“ říká mluvčí Facebooku. „Nahlášení je něco, co chceme do této funkce také zavést.“

Přidání upozornění na zneužití v aplikaci Facebook Messenger pouze na základě metadat je „dobrý začátek“, říká Alex Stamos, bývalý šéf bezpečnosti společnosti Facebook. Tvrdí však, že společnost by mohla – a měla – udělat více. Stamos, který nyní vede Stanford Internet Observatory, tvrdí, že společnosti Facebook, Google, Microsoft, Snap a další by měly monitorovat známky špatného chování na zařízeních uživatelů.

„Myslím, že by měly mít na straně klienta možnost prohlížení obsahu. A jakmile to udělají, měly by lidi vyzvat, aby to mohli nahlásit,“ říká Stamos. Tato analýza obsahu na zařízení a hlášení umožní Facebooku najít špatné subjekty rychleji než pouhé skenování metadat, říká Stamos, a přitom zachovat koncové šifrování.

Stamos také poznamenává, že pokud by Facebook ve svých upozorněních kladl důraz spíše na hlášení než na pouhé blokování, mohla by tato hlášení vytvořit důkazy, které by orgány činné v trestním řízení mohly použít proti závažným zločincům. „Nebudete přece někoho zatýkat, protože vaše data ukazují, že se pokoušel ‚spřátelit‘ s partou dospívajících dívek,“ dodává Stamos. „Zatímco pokud někdo skutečně pošle žádost o nahotinky nějakému dítěti, je to pravděpodobně ve většině případů nezákonné. To by se dalo použít k získání povolení k prohlídce a případnému stíhání dané osoby. Opravdu chcete znát obsah komunikace a nejlepší způsob, jak toho dosáhnout v rámci koncového šifrování, je právě vyzvat příjemce, aby konverzaci nahlásil.“

Mluvčí společnosti Facebook na dotaz ohledně této možnosti analýzy obsahu na straně klienta odpověděl, že toto opatření „nebylo zvažováno a není pro tento bezpečnostní prvek nezbytné.“

Facebook je spolu se spoustou dalších technologických společností pod rostoucím tlakem Trumpovy administrativy a Kongresu, aby do šifrování zabudoval mechanismy, které umožní orgánům činným v trestním řízení přístup ke komunikaci a uloženým datům. V březnu byl předložen návrh zákona nazvaný EARN IT Act, který by v praxi mohl zakázat silné end-to-end šifrování, pokud by byl schválen v současné podobě. A právě tento týden kritizoval generální prokurátor William Barr společnost Apple za to, že nepomohla dešifrovat dvojici starších iPhonů, které patřily Mohammedu Saeedu Alshamranimu napojenému na Al-Káidu, který loni v prosinci při masové střelbě zabil tři lidi.

Facebook tvrdí, že jeho nová bezpečnostní upozornění nejsou reakcí na tento politický tlak – že se na nich ve skutečnosti pracovalo ještě předtím, než Mark Zuckerberg loni oznámil pomalý přechod společnosti na jednotný, end-to-end šifrovaný systém zpráv.

Stamos však tvrdí, že právě tento druh nástrojů je nezbytný k uklidnění kritiků šifrování – a že je možná ještě více potřebných i možných, aniž by byly ohroženy základní záruky šifrování v oblasti soukromí. „Myslím, že je dobrým znamením, že se zde experimentuje,“ říká Stamos. „Je to potvrzení toho, že se domnívají, že mají povinnost vypořádat se s některými nevýhodami , což je podle mě nejen morálně správné. Je to předpoklad přežití end-to-end šifrování.“

1Aktualizováno 21. 5. 2020 ve 14:00 EST, aby bylo objasněno, jak funguje proces ohlašování šifrovaných konverzací společností Facebook.

Facebook Messenger přidává bezpečnostní upozornění – i v šifrovaných chatech

More Great WIRED Stories

More Great WIRED Stories

Napsat komentář Zrušit odpověď na komentář