Může počítač chytit špiona?

Před třiceti lety vyžadovalo odhalení zrádce intuici, jakýsi šestý smysl, že něco není v pořádku. Před internetem, rozšířeným systémem GPS a Googlem to vyžadovalo papírové stopy, lidskou inteligenci a gumshoe vyšetřování. Sandy Grimes to zažil na vlastní kůži, i když téměř náhodou:

„Při práci v tomto druhu podnikání máte osobní vztah k těm lidem, kteří, když souhlasili s prací pro vládu Spojených států, vložili své životy do našich rukou,“ řekla, a proto možná brala tak osobně, když jeden ze špionů, které sledovala, pracovník KGB v nigerijském Lagosu, zmizel.

„Nedostavil se na první opakovaný kontakt, nedostavil se ani na druhý opakovaný kontakt,“ řekla. Ukázalo se, že byl zatčen jako první z řady sovětských dvojitých agentů, u nichž se zjistilo, že pracují pro Západ. „Ztráceli jsme je jednoho po druhém,“ řekla Grimesová, „a jinak to nešlo:

Velkou záhadou bylo, zda má agentura co do činění se špionem v řadách, nebo s luštitelem kódů v Moskvě. Kdyby tehdy existovala dnešní analytika, mohla proces odhalení urychlit. Moderní algoritmy by zaznamenávaly a stohovaly polohy zaměstnanců, nacházely podezřelé vzorce v jejich pracovních návycích a sledovaly jejich pohyb.

Ale tehdy, na konci 80. let, kdy se studená válka chýlila ke konci, se CIA mohla skutečně spolehnout jen na zkušené zpravodajské profesionály, jako byl Grimes. V roce 1991 proto agentura zahájila vyšetřování nazvané Operace Playactor. Tvořila ji z velké části malá pracovní skupina, v níž byl Grimes, mladý zaměstnanec Úřadu pro bezpečnost Dan Payne, dlouholetá analytička CIA Jeanne Vertefeuilleová a dva agenti FBI, zvláštní agent Jim Holt a sovětský analytik Jim Milburn. („Říkali jsme jim Jim Squared,“ řekl Grimes.)

Vyšetřování vyžadovalo tabulky, papírové složky a výslechy a po měsících prokousávání se všemi těmito analogovými nástroji se týmu podařilo zúžit seznam na přibližně 150 zaměstnanců CIA – příliš mnoho lidí na to, aby je malý tým mohl podezřívat nebo vyšetřovat. Proto přišli s neuvěřitelně nevědeckým řešením: Požádali se navzájem, aby uvedli jména pěti nebo šesti lidí v agentuře, kteří je zneklidňují, a pak je seřadili.

Ačkoli se některá jména na týmových seznamech překrývala, pro Grimesovou byl ve skutečnosti podezřelý jen jeden: někdo, koho znala léta a s kým skutečně jezdila autem; někdo, kdo se teprve nedávno vrátil ze zahraniční mise: muž jménem Aldrich Ames.

Jméno vám možná něco říká. Jako člen operačního oddělení CIA odpovědný za sovětskou kontrarozvědku se stal jedním z nejvýše postavených a nejškodlivějších špionů v historii USA. A Grimes ho podezříval z důvodu, který by žádný algoritmus neodhalil: Prostě se zdál být jiný. „Když se v roce 1989 vrátil z Itálie, byl to jiný člověk, opravdu jiný člověk,“ vysvětlila Grimesová, proč se dostal na první místo jejího seznamu. „Bylo to, jako by si prohlížel svůj majetek, a byl to skoro takový ten postoj: ‚Já vím něco, co vy nevíte‘. „

Problém s podezřelým inventářem

Přibližně ve stejné době, kdy tým Playactoru začal pátrat po zrádci, nastoupil datový vědec jménem Jeff Jonas do nové práce v Las Vegas. O několik měsíců dříve mu zavolali z kasina Mirage a požádali ho, zda by pro něj mohl vytvořit speciální software. „Řekli: ‚Máme problém se zásobami,'“ vzpomíná Jonas. „A já jsem řekl: ‚Aha, já jsem dobrý v inventárních systémech‘. A oni řekli: ‚Dobře, je to pro ryby.‘ „

Mirrage právě otevřel a už měl problém, se kterým nepočítal: Jeho přelomové akvárium o objemu 20 000 galonů začalo být finančně náročné. Byly v něm tisíce drahých a vzácných tropických ryb, které nebylo možné evidovat. „Myslím, že na údržbu akvária vydávali asi milion dolarů ročně,“ řekl Jonas, „a snažili se mít přehled o tom, co co žere.“

Jonas nakonec vytvořil něco, co bychom dnes považovali za jeden z prvních programů pro analýzu dat. Jeho software nejenže sledoval ryby, ale umožnil kasinu lépe rozhodovat o tom, jak zarybnit nádrž. „Tehdy jsem opravdu netušil, že se z toho stane moje životní dílo,“ řekl Jonas. Jonasovou specializací je porovnávání identit. Začal s rybami a pak se přesunul k lidem. „Shoda identit je prostě těžký problém,“ řekl.

Poté, co Jonas pomohl hotelu Mirage s jeho rybím programem, začala se ho kasina podél bulváru ptát, zda by jim nepomohl modernizovat jejich bezpečnostní systémy. Na začátku devadesátých let minulého století byla nejmodernějším nástrojem pro sledování osob ve Vegas doslova kartička o rozměrech 3 x 5 palců. „Vyráběly se karty zaměstnanců, které se třídily podle jména, a pro tytéž zaměstnance měli další sadu karet seřazených podle adresy,“ vzpomínal Jonas. „Bylo to jako v knihovně, ale místo předmětu, názvu, autora by to bylo jméno, adresa, telefon.“

Jonas začal digitalizací všech těchto karet a pak vytvořil systém, který nazval Non-Obvious Relationship Awareness neboli NORA. „A ten název si tak trochu vysloužil, protože jsem začal nacházet věci, u kterých jste to nečekali,“ řekl. Systém by označil někoho u herního stolu, kdo by mohl mít stejné telefonní číslo jako zaměstnanec. Pokud někdo uvedl více než jedno datum narození za život, NORA by identifikovala i to. „Mnohokrát data přistávají a není to nic hrozného,“ řekl Jonas. „Ale někdy, jak data přistávají, je to důležité.“ NORA vytvářela systémy, které by pomohly zaměřit lidskou pozornost na tyto důležité kousky.

NORA mimo jiné zaměřila lidskou pozornost na skupinu vysokoškolských studentů, kteří se zdáli mít neuvěřitelné štěstí u stolů s blackjackem. Zdálo se, že nepodvádějí. Bylo však zvláštní, že se tolika mladým hráčům tak dařilo. NORA nakonec přišla na to, že tito mladí lidé počítali karty – a byli členy MIT Blackjack Team. (Počítání karet není nezákonné, ale počtáři karet jsou obvykle požádáni, aby kasino opustili. Tým vytvořil „investiční“ společnost, která hráčům spatřila hotovost, a poté rozdělila jejich výhry. Nakonec byli její přední hráči z většiny kasin vykázáni.“

Kdyby Grimes a tým CIA věděli o systému NORA, mohla to být právě ta věc, která jim pomohla najít a usvědčit jejich vlastního podezřelého.

Velmi analogový systém

Co měl Grimes místo toho k dispozici, byl jakýsi lidský ekvivalent systému NORA. Mimo jiné měla s Amesem dlouhou osobní interakci. Pozorovala jeho chování zblízka, dávno předtím, než se vůbec dostal do podezření, a mohla posoudit, co považovala za chování vymykající se běžnému chování agenta CIA. „Během dnů spolujízdy chodil vždycky pozdě,“ řekla. „Vybíhal z bytu, košile mu visela, měl na sobě různobarevné ponožky. Byl to lajdák.“

Pozastavila se také nad epizodou, která se týkala jeho manželky Rosario. Když byli s Amesem v roce 1988 vysláni do Říma, Rosario požádala kolegu ze CIA, aby jí poslal těhotenské vitamíny. Když Grimes o několik měsíců později narazil na ochotnou kolegyni, která vitamíny poslala, měla na sobě krásnou šálu od Gucciho. „Kde jsi to vzala?“ Grimes se jí zeptal. Kolegyně odpověděla, že jí ji poslala Amesova manželka poté, co obdržela vitamíny. „Řekla jsem: ‚No, to je pěkný dárek‘. „

Osamoceně by tyto věci znamenaly jen málo, ale systém NORA v Grimesově hlavě jí neustále pípal, když tým Playactoru vyslýchal další podezřelé. Jedna z otázek, kterou položili všem na dlouhém seznamu – bez ohledu na jejich pořadí na tomto seznamu -, zněla takto: Kdybyste se chystali špehovat nebo se přihlásit jako dobrovolníci, jak byste to udělali? Většina lidí, s nimiž hovořili, považovala tuto otázku za mentální cvičení; Ames byl otázkou zmaten. „Měl rozvázaný jazyk,“ řekl Grimes. „Samozřejmě, že nic neříkáme, že? Sedíme tam a posloucháme. Ale potom jsme byli úplně v šoku, že mu ta otázka byla nepříjemná.“

Stala se datovým bodem ve velmi analogovém systému, který tým vytvářel na svých agenturních počítačích. Payne, mladý agent FBI, začal dostávat příkazy k prohlídce Amesových finančních výpisů a bankovních vkladů. Grimes začal dávat dohromady chronologii, v níž byly uvedeny různé Amesovy úkoly u CIA, s kým se údajně setkal v Itálii, na jakých případech pracoval v Americe. Přidávala další náhodné údaje: Kdy přicházel do kanceláře a kdy z ní odcházel? Kdy si odskočil na cigaretu?“

Všechno to zapsala do textového dokumentu na svém počítači, což samo o sobě představovalo určitou výzvu. Každé ráno, když se do něj přihlásila, musela čekat dvacet minut, než se načte tam, kde skončila. „Každý den to byla frustrace,“ řekla. „Bylo to otupující.“

Jedním z problémů bylo, že aby byl dokument užitečný a dal se vyhledávat, musel být naprosto konzistentní. Nemohli jste v jeden den napsat 7. března a v další den napsat 03/07 . Nesměly se vyskytovat žádné překlepy ani zatoulané mezery. „Na konci dne jsem se musel vrátit a zkontrolovat vše, co jsem napsal,“ řekl Grimes. „A mohla to být právě ta malá informace, která rozhoduje.“

Tato pozornost věnovaná detailům se nakonec vyplatila, když Payne jednoho rána přišel do kanceláře s obálkou plnou finančních výkazů. Vylovil ze složky několik vkladových lístků a pak začal přidávat informace do tabulky v počítači. A pak, jak bylo jejich zvykem, předal složenky přes zeď kóje Grimesovi, který pak v chronologii sjel dolů na správné datum a doplnil je.

„Náhodou jsem se podíval na řádek nahoře a řekl jsem si: ‚Panebože, den předtím oběd s Čuvachinem,'“ řekl Grimes. „A pomyslel jsem si, jaká to zvláštní shoda okolností.“ Sergej Čuvachin byl sovětský diplomat působící ve Washingtonu. „Druhý vkladní lístek ke mně přišel přes zeď kóje.“ Byl to vklad v hotovosti ve výši 5 000 dolarů z 5. července. O tři dny dříve na něm stálo: Chronologie: Oběd s Čuvachinem. Grimesová svraštila obočí a popadla poslední vkladový lístek. Byl na 8 500 dolarů v hotovosti, vložených 31. července. A chronologie ukazovala, že právě ten den – Ames obědval s Čuvachinem.

„To bylo pro Sandy všechno,“ řekla Grimesová a zmínila se o sobě jménem. „Řekla jsem: ‚Nebudete tomu věřit, je to tady – nebudete tomu věřit‘.“ Běžela to říct na chodbu šéfovi kontrarozvědky CIA Paulu Redmondovi. „Zavřela jsem dveře a nečekala jsem na něj, jen jsem řekla: ‚Nemusíte být raketový vědec, abyste pochopili, co se tady děje: Rick je zatracený sovětský špion.“ (Grimesová řekla, že se s Redmondem stále dohadují, co přesně řekla. Podle něj použila barvitější slovo, které Grimes označil za jedno ze svých nejoblíbenějších.“

„Nejkrásnější případ neposlušnosti, s jakým jsem se kdy setkal.“

FBI krátce nato zahájila formální vyšetřování Amesova případu, ale k jeho sestavení se úřad opíral o věci, které by se dnes zdály být neuvěřitelně analogické: telefonní odposlechy, odposlouchávací zařízení, sledování, letadla, dokonce i popelářské operace.

„Někdy musíte vrtat do zdi, abyste tam mohli umístit mikrofony,“ řekl Robert „Bear“ Bryant, který se později stal zástupcem ředitele FBI a který dohlížel na vyšetřování Amesova případu. „Pokud se musíte pustit do sádrokartonu, musíte připojit elektrické vedení, ale nejtěžší je, aby sádrokartonové desky odpovídaly.“

Je to poprvé, co Bryant o Amesově případu veřejně promluvil. „Dali jsme mu mikrofony do auta, do domu, kryli jsme toho chlapa téměř od chvíle, kdy odešel do práce.“ „Všichni jsme se o tom dozvěděli. Dokonce měli ve vzduchu letadlo, které ho sledovalo, když jel ze svého domu v Arlingtonu ve státě Va. nedaleko Langley. „Měli jste jednoho chlapa s dalekohledem, který tam seděl a díval se na objekt, když se pohyboval,“ řekl Bryant. „To je nejlepší způsob, jak někoho neztratit.“

Bylo to však něco, o co Bryant agenty výslovně požádal a co je přivedlo ke zlomu v případu: Udělali to, čemu se říká „krytí odpadků“. „Když někdo odloží odpadky, pokud jsou na veřejném pozemku, můžete tyto odpadky zabavit a provést jejich prohlídku,“ říká Bryant. „Udělali to proti mým příkazům.“

Poté, na podzim roku 1993, si Bryant vzpomíná, jak na něj jeden z agentů při vstupu do kanceláře mával igelitovým sáčkem s kusem žlutého papíru. „Zeptal jsem se: „Co to sakra je?“ Odpověděl: „Vyndali jsme to z odpadkového koše“. “

Byl to vzkaz, který si Ames napsal o schůzce, kterou měl mít s pracovníkem KGB v kolumbijské Bogotě. „Byl to klíč k případu, a to velký klíč, protože jsme věděli, kde se chystá udělat výsadek. Později se mě na to ptali a já jsem řekl, že to byl ten nejlepší případ neposlušnosti, s jakým jsem se kdy setkal.“

Složka v hlavě

Jonasův program pro nezjevné vztahy ve Vegas před desítkami let nahradilo něco, co je v odvětví vnitřních hrozeb známé jako Entity Resolution. Jde o pokus naučit počítač vytvářet stejné asociace, které náš mozek, aniž bychom si toho byli plně vědomi, vytváří téměř okamžitě.

Připomeňme si hudebníka Prince. Ten symbol, který používal pro své jméno, může být jednou z prvních věcí, které vás napadnou. Nevíme, jak vysvětlit, že si tento symbol spojujeme s Princem – prostě víme, že ano. Pak se objeví další spojení: píseň „Purple Rain“, fialová kytara, sametový oblek.

„Všechny ty věci, které jste si o Princovi časem osvojili, žijí ve složce ve vaší hlavě,“ vysvětluje Jonas. „A přišly v různých dobách a byly popsány různě, ale Entity Resolution je gumově spojila dohromady.“

Od tradičních algoritmů se Entity Resolution liší tím, že místo aby se prokousával obrovskými soubory dat a zjišťoval, co dokáže najít, snaží se věci uspořádat spíše tak, jak to dělá mozek. Ptá se: Jak se číslo sociálního pojištění podobá identifikačnímu číslu vozidla nebo sériovému číslu routeru? Jak se datum narození podobá značce nebo modelu auta? A stejné jsou v tom, že obecně všechny identifikují jednu diskrétní věc.

Pokud najdete identické VIN na seznamu aut, počítač si toho všimne a označí to jako anomálii. Jak se algoritmus vyvíjí, může najít další věci, které nesouhlasí. V případě Amese si může všimnout, že právě zaplatil 400 000 dolarů v hotovosti za dům, ale že vydělává méně než 70 000 dolarů ročně. Algoritmus to může označit za podivné, takže to pravděpodobně vyžaduje další pohled.

„Pravděpodobně nejfantastičtější věcí na našem algoritmu je, že může změnit svůj názor na minulost,“ řekl Jonas. Jinými slovy, může se vrátit v čase a zjistit, zda nová informace nenaznačuje nový způsob uvažování o tom, co analyzujete. Vidíte, že na konci července se ve Washingtonu koná oběd se sovětským diplomatem; vyvolává to nějaké otázky ohledně takových setkání v minulosti? Existuje nějaký vzorec, který jsme mohli přehlédnout?“

Když Grimesová přidala do své chronologie informaci o depozitním lístku, náhodou se podívala na výše uvedený řádek a pak uviděla obědy se sovětským diplomatem. To je analogová verze toho, o co se nyní snaží Entity Resolution.

„To je příběh o tom, že data najdou data,“ řekl Jonas. „Na Amesově případu mě dostává to, že … musíte čekat, až budou mít lidé otázky; musíte čekat, až se stanou špatné věci. Dnes byste udělali to, že byste pořídili kopii všeho na jeho osobním notebooku, a jakmile by mohli nahlédnout do jeho bankovního účtu, objeví se nová data.“

Lidé potřebují spoustu času na zpracování těchto informací. Počítače to nepotřebují. Žádné těžkopádné, ručně psané chronologie. A co je kritické, říká Jonas, jen málo se spoléhá na instinkt nebo intuici. „Seznam lidí, o kterých máme tušení, nebude vždy fungovat,“ řekl. Entity Resolution může být technologií, která tuto mezeru překlenuje.

Před Amesovým zatčením nikoho nenapadlo všimnout si, že se jeho pracovní vzorce změnily. Neexistovaly žádné algoritmy, které by daly dohromady, že pije, prošel nákladným rozvodem, za dům zaplatil hotově, jezdí novým autem a do kanceláře přichází brzy a odchází pozdě. To byly věci, které, jak sám Ames přiznal, měly dát úřadům tip. Ty si toho všimly až zpětně.

„Algoritmus má nulový vhled do toho, zda ten člověk změnil svůj vzorec, protože se mu třeba narodilo dítě a teď chodí v jiné hodiny, nebo byl třeba nemocný, takže ráno absolvoval sérii fyzioterapií,“ řekl Yael Eisenstat, bývalý analytik CIA, který nyní působí jako hostující vědecký pracovník na Cornellově technice. Eisenstat studuje vliv algoritmů a technologií na společnost. „Existuje tolik skutečných lidských věcí, které by mohly způsobit tuto abnormalitu ve vzorci, že to algoritmus nepozná.“

Proto algoritmy stále potřebují člověka, aby si dal dvě a dvě dohromady, jako to udělal Grimes. Při zpětném pohledu byl její pavoučí smysl účinnější, než by mohl být jakýkoli algoritmus. Dokonce mnohem později řekla, že to byla Amesova pýcha, která jí pomohla zjistit, že je to jejich člověk. Myslel si, že je chytřejší než všichni ostatní, a dokonce Grimesové a Vertefeuilleovi radil, na co se mají při vyšetřování Playactoru zaměřit.

„Řekl mi: ‚Podívej se na dobré případy a podívej se na špatné případy a zjisti, co je jinak,'“ řekla Grimesová. Vzpomíná si, že si tehdy pomyslela: „Je dobře, že si myslíš, že jsem tak hloupá. Víš, on si myslel, že jsme dvě hloupé báby.“

Dvě hloupé báby, které chytily špióna.