Az elmúlt évben a kormányok világszerte nyomást gyakoroltak a Facebookra, hogy hagyjon fel a végponttól végpontig terjedő titkosításra vonatkozó terveivel az alkalmazásaiban, azzal érvelve, hogy a funkció fedezéket nyújt a bűnözőknek és mindenekelőtt a gyermekrablóknak. Ma a Facebook új visszaélés-felismerő és figyelmeztető eszközöket vezet be a Messengerben, amelyek segíthetnek a kritikák megválaszolásában – anélkül, hogy gyengítenék a védelmét.
A Facebook ma bejelentette a Messenger új funkcióit, amelyek figyelmeztetnek, ha az üzenetek látszólag pénzügyi csalóktól vagy potenciális gyermekbántalmazóktól származnak, és figyelmeztetéseket jelenítenek meg a Messenger alkalmazásban, amelyek tippeket adnak, és javasolják az elkövetők blokkolását. A funkció, amelyet a Facebook márciusban kezdett el bevezetni Androidon, most pedig iOS-re is átviszi, a Facebook Messenger több mint egymilliárd felhasználójának kommunikációjának gépi tanulási elemzését használja a gyanús viselkedések azonosítására. Fontos azonban, hogy a Facebook szerint a felismerés csak a metaadatok alapján történik – nem pedig az üzenetek tartalmának elemzése alapján -, így nem ássa alá a Messenger által a Titkos beszélgetések funkcióban kínált végponttól-végpontig titkosítást. A Facebook azt mondta, hogy ezt a végponttól-végpontig titkosítást végül alapértelmezés szerint minden Messenger-csevegésre kiterjeszti.
“Biztonsági értesítéseket vezetünk be a Messengerben, amelyek felugranak a csevegésben, és tippeket adnak, hogy az emberek észrevegyék a gyanús tevékenységet, és lépéseket tegyenek, hogy blokkoljanak vagy figyelmen kívül hagyjanak valakit, ha valami nem tűnik helyesnek” – olvasható Jay Sullivan, a Facebook Messenger adatvédelmi és biztonsági termékmenedzsmentjéért felelős igazgatójának blogbejegyzésében. “A végponttól-végpontig titkosításra való áttérés során befektetünk az ilyen, az adatvédelmet megőrző eszközökbe, hogy az emberek biztonságban legyenek anélkül, hogy hozzáférnének az üzenetek tartalmához.”
“Szerintem jó jel, hogy itt kísérleteznek.”
Alex Stamos, a Facebook korábbi biztonsági vezetője
A Facebook nem sok részletet árult el arról, hogyan fognak működni a gépi tanulással működő visszaélésfelismerő trükkök. A Facebook szóvivője azonban a WIRED-nek elmondta, hogy a felderítési mechanizmusok kizárólag metaadatokon alapulnak: ki kivel beszélget, mikor és milyen gyakorisággal küld üzeneteket, valamint az érintett fiókok egyéb jellemzői – lényegében minden, kivéve a kommunikáció tartalmát, amelyhez a Facebook szerverei nem férnek hozzá, ha ezek az üzenetek titkosítva vannak. “Elég jó jeleket kaphatunk, amelyeket gépi tanulási modellek segítségével fejleszthetünk, amelyek idővel nyilvánvalóan javulni fognak” – mondta a Facebook szóvivője a WIRED-nek egy telefonhívás során. Részben azért nem kívántak további részleteket megosztani, mert a vállalat szerint nem akarják véletlenül sem segíteni a rossz szereplőket abban, hogy megkerüljék a biztosítékait.”
A vállalat blogbejegyzésében példaként említi, ha egy felnőtt nagyszámú kiskorúnak küld üzeneteket vagy barátkéréseket, mint olyan esetet, amikor a viselkedés-felismerő mechanizmusai kiszúrhatják a valószínűsíthető visszaélést. Más esetekben a Facebook szerint a rendszer mérlegeli a két ember közösségi gráfjai közötti kapcsolatok hiányát – ami annak a jele, hogy nem ismerik egymást -, vagy figyelembe veszi azokat a korábbi eseteket, amikor a felhasználók jelentettek vagy blokkoltak valakit, mint arra utaló jelet, hogy az illető valami gyanús dologra készül.
A Facebook egyik képernyőképén például egy figyelmeztetés látható, amely megkérdezi, hogy az üzenet címzettje ismer-e egy potenciális csalót. Ha nemmel válaszol, a figyelmeztetés javasolja a feladó blokkolását, és tippeket ad arra vonatkozóan, hogy soha ne küldjön pénzt idegennek. Egy másik példában az alkalmazás észleli, hogy valaki egy nevet és profilképet használ, hogy a címzett barátjának adja ki magát. A figyelmeztetés ekkor egymás mellett mutatja a megszemélyesítő és a valódi barát profilját, és azt javasolja a felhasználónak, hogy blokkolja a csalót.
A Facebooknak van egy kivétele az állítása alól, miszerint nem nézi az üzenetek tartalmát: A Messenger visszaélés-bejelentő mechanizmusa már régóta tartalmaz egy olyan funkciót, amely elküldi az üzeneteket a Facebooknak, ha egy felhasználó megjelölte azokat. Ez egy újabb potenciális támpontot ad a Facebooknak arra vonatkozóan, hogy az adott feladó milyen egyéb rossz viselkedésre készülhet, de általában nem tekinthető a végponttól-végpontig titkosítás megsértésének, mivel a titkosított üzenet címzettje bármikor dönthet úgy, hogy a dekódolt változatot megosztja egy harmadik féllel.1
A biztonsági értesítések funkció egyelőre csak kifejezetten javasolja a potenciális visszaélés blokkolását vagy figyelmen kívül hagyását. (A felhasználók továbbra is jelenthetik a visszaélésszerű viselkedést a szokásos módszerrel, a küldő nevére koppintva, majd a “Valami baj van” feliratra kattintva, majd megadva, hogy mi történt.) “Azonnali intézkedést akartunk adni az embereknek, és a blokkolás a legközvetlenebb lépés, amit valaki megtehet, hogy elkerülje a bajt” – mondta a Facebook szóvivője. “A bejelentést is tervezzük a funkcióba bevinni.”
Az, hogy a Facebook Messenger csak a metaadatokon alapuló visszaélési figyelmeztetésekkel bővült, Alex Stamos, a Facebook korábbi biztonsági főnöke szerint “jó kezdet”. De szerinte a vállalat többet is tehetne – és többet is kellene tennie. Stamos, aki jelenleg a Stanford Internet Observatory-t vezeti, amellett érvelt, hogy a Facebooknak, a Google-nak, a Microsoftnak, a Snapnek és másoknak is figyelniük kellene a rossz viselkedés jeleit a felhasználói eszközökön.
“Szerintem kliensoldali tartalomnézegetést kellene bevezetniük. És amint ezt megteszik, fel kellene kérniük az embereket, hogy jelenthessék” – mondja Stamos. Stamos szerint ez az eszközön belüli tartalomelemzés és jelentés lehetővé teszi a Facebook számára, hogy gyorsabban megtalálja a rossz szereplőket, mint a puszta metaadatok pásztázása, miközben a végponttól végpontig tartó titkosítás megmarad.
Stamos azt is megjegyzi, hogy ha a Facebook a riasztásokban a puszta blokkolás helyett a jelentéstételre helyezi a hangsúlyt, akkor ezek a jelentések olyan bizonyítékokat hozhatnak létre, amelyeket a bűnüldöző szervek felhasználhatnak a súlyos bűnözők ellen. “Nem fogsz letartóztatni valakit azért, mert az adataid azt mutatják, hogy megpróbált “barátkozni” egy csomó tinilánnyal” – teszi hozzá Stamos. “Míg ha valaki valóban aktfotó-kérést küld egy gyereknek, az valószínűleg a legtöbb esetben illegális. Ez alapján házkutatási parancsot lehetne szerezni, és esetleg büntetőeljárást lehetne indítani az illető ellen. Valójában a kommunikáció tartalmára vagyunk kíváncsiak, és a végponttól végpontig terjedő titkosításban a legjobb módja ennek az, hogy a címzettet arra ösztönözzük, hogy jelentse a beszélgetést.”
A Facebook szóvivője, akit a kliensoldali tartalomelemzés lehetőségéről kérdeztek, azt mondta, hogy az intézkedést “nem vettük figyelembe, és nem is szükséges ehhez a biztonsági funkcióhoz.”
A Facebook, sok más technológiai céggel együtt, egyre nagyobb nyomás alá kerül a Trump-kormányzat és a Kongresszus részéről, hogy olyan mechanizmusokat építsen be a titkosításba, amelyek lehetővé teszik a bűnüldöző szervek számára a kommunikációhoz és a tárolt adatokhoz való hozzáférést. Márciusban benyújtották az EARN IT Act nevű törvényjavaslatot, amely a gyakorlatban betilthatja az erős végponttól végpontig terjedő titkosítást, ha jelenlegi formájában elfogadják. És éppen ezen a héten William Barr igazságügyi miniszter bírálta az Apple-t, amiért nem segített visszafejteni egy pár régebbi iPhone-t, amelyek az al-Kaidával kapcsolatban álló Mohammed Saeed Alshamranié voltak, aki tavaly decemberben három embert ölt meg egy tömeges lövöldözésben.
A Facebook azzal érvel, hogy új biztonsági közleményei nem a politikai nyomásra adott válaszok – sőt, már azelőtt is dolgoztak rajta, hogy Mark Zuckerberg tavaly bejelentette volna a vállalat lassú átállását az egységes, végponttól végpontig titkosított üzenetküldő rendszerre.
De Stamos szerint pontosan egy ilyen eszközre van szükség a titkosítás kritikusainak lecsillapításához – és ennél többre is szükség lehet és lehetséges anélkül, hogy a titkosítás alapvető adatvédelmi garanciái sérülnének. “Szerintem jó jel, hogy itt kísérleteznek” – mondja Stamos. “Ez annak elismerése, hogy úgy gondolják, felelősséggel tartoznak azért, hogy foglalkozzanak néhány hátrányos tulajdonsággal, ami szerintem nem csak erkölcsileg helyes. Ez a végponttól-végpontig titkosítás túlélésének előfeltétele.”
1Frissítve 2020.5.21-én 14:00 órakor EST annak tisztázása érdekében, hogyan működik a Facebook jelentési folyamata a titkosított beszélgetésekkel kapcsolatban.
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: Mi történt a Diamond Princessen
- Tippek és eszközök az otthoni hajvágáshoz
- 👁 Az AI felfedez egy lehetséges Covid-19 kezelést. Plusz: a legfrissebb AI hírek
- 🏃🏽♀️ Szeretnéd a legjobb eszközöket az egészséged megőrzéséhez? Nézze meg Gear csapatunk választásait a legjobb fitneszkövetők, futófelszerelések (beleértve a cipőket és zoknikat) és a legjobb fejhallgatók közül
More Great WIRED Stories
- How a Chinese AI giant made chatting—and surveillance—easy
- The confessions of Marcus Hutchins, the hacker who saved the internet
- We’ll learn to sing together when we’re far apart
- 27 days in Tokyo Bay: What happened on the Diamond Princess
- Tips and tools for cutting your hair at home
- 👁 AI uncovers a potential Covid-19 treatment. Plus: Get the latest AI news
- 🏃🏽♀️ Want the best tools to get healthy? Check out our Gear team’s picks for the best fitness trackers, running gear (including shoes and socks), and best headphones