Op de zevende zet van de beslissende partij maakte zwart wat sommigen nu als een cruciale fout beschouwen. Toen zwart de zetten voor de Caro-Kann-verdediging door elkaar haalde, profiteerde wit en creëerde een nieuwe aanval door een paard te offeren. In slechts 11 zetten had wit een stelling opgebouwd die zo sterk was dat zwart geen andere keus had dan de nederlaag toe te geven. De verliezer reageerde met een kreet van vals spel – een van de felste beschuldigingen van vals spel ooit in een toernooi, die een internationale samenzweringstheorie deed ontbranden die 20 jaar later nog steeds in twijfel wordt getrokken.
Dit was geen gewone schaakpartij. Het is niet ongewoon dat een verslagen speler zijn tegenstander beschuldigt van vals spelen – maar in dit geval was de verliezer de toenmalige wereldkampioen schaken, Garry Kasparov. De overwinnaar was nog ongebruikelijker: IBM supercomputer Deep Blue.
Door Kasparov op 11 mei 1997 te verslaan, schreef Deep Blue geschiedenis als de eerste computer die een wereldkampioen versloeg in een wedstrijd van zes partijen onder standaard tijdscontrole. Kasparov had het eerste spel gewonnen, het tweede verloren en vervolgens de volgende drie gelijkgespeeld. Toen Deep Blue de wedstrijd won door het laatste spel te winnen, weigerde Kasparov het te geloven.
In een echo van de schaakautomaten-hoaxes uit de 18e en 19e eeuw, betoogde Kasparov dat de computer eigenlijk bestuurd moest zijn door een echte grootmeester. Hij en zijn aanhangers geloofden dat het spel van Deep Blue te menselijk was om dat van een machine te zijn. Ondertussen leek het voor velen in de buitenwereld, die overtuigd waren door de prestaties van de computer, dat kunstmatige intelligentie een stadium had bereikt waarin het de mensheid te slim af kon zijn – althans bij een spel dat lang als te complex voor een machine was beschouwd.
Beluister een audioversie van dit artikel op The Conversation’s In Depth Out Loud podcast.
De werkelijkheid was echter dat Deep Blue’s overwinning juist te danken was aan zijn rigide, onmenselijke toewijding aan koude, harde logica tegenover Kasparov’s emotionele gedrag. Dit was geen kunstmatige (of echte) intelligentie die onze eigen creatieve stijl van denken en leren demonstreerde, maar de toepassing van eenvoudige regels op grote schaal.
Wat de wedstrijd echter wel deed, was het begin inluiden van een maatschappelijke verschuiving die vandaag de dag steeds sneller en invloedrijker wordt. Het soort enorme gegevensverwerking waar Deep Blue op vertrouwde, is nu in bijna elke hoek van ons leven te vinden, van de financiële systemen die de economie domineren tot online dating-apps die ons de perfecte partner proberen te vinden. Wat begon als een studentenproject, hielp het tijdperk van big data in te luiden.
Een menselijke fout
De basis van Kasparovs beweringen ging helemaal terug naar een zet die de computer deed in het tweede spel van de wedstrijd, het eerste in de competitie dat Deep Blue won. Kasparov had gespeeld om zijn tegenstander aan te moedigen een “vergiftigde” pion te nemen, een offerstuk dat werd geplaatst om de machine te verleiden een noodlottige zet te doen. Dit was een tactiek die Kasparov in het verleden tegen menselijke tegenstanders had gebruikt.
Wat Kasparov verbaasde was Deep Blue’s daaropvolgende zet. Kasparov noemde het “mensachtig”. John Nunn, de Engelse schaakgrootmeester, beschreef het als “verbluffend” en “uitzonderlijk”. De zet maakte Kasparov woedend en bracht hem uiteindelijk van zijn strategie af. Hij was zo ontdaan dat hij uiteindelijk wegliep en de partij verloor. Erger nog, hij kwam er nooit meer bovenop en speelde de volgende drie partijen remise, waarna hij in de laatste partij de fout maakte die tot zijn ondergang leidde.
De zet was gebaseerd op het strategische voordeel dat een speler kan behalen door een open bestand te creëren, een kolom van vierkanten op het bord (van bovenaf gezien) die geen stukken bevat. Dit kan een aanvalsroute creëren, typisch voor torens of koninginnen, vrij van pionnen die de weg versperren. Tijdens de training met grootmeester Joel Benjamin had het Deep Blue-team geleerd dat er soms een strategischer optie was dan het openen van een file om er vervolgens een toren naartoe te verplaatsen. In plaats daarvan bestond de tactiek uit het stapelen van stukken op het bestand en dan kiezen wanneer het te openen.
Toen de programmeurs dit leerden, herschreven ze de code van Deep Blue om de zetten erin op te nemen. Tijdens de partij gebruikte de computer de positie van een mogelijk open bestand om Kasparov onder druk te zetten en hem te dwingen zich bij elke zet te verdedigen. Dat psychologische voordeel heeft Kasparov uiteindelijk uitgeput.
Vanaf het moment dat Kasparov verloor, begonnen de speculaties en samenzweringstheorieën. De samenzweerders beweerden dat IBM menselijke interventie had gebruikt tijdens de wedstrijd. IBM ontkende dit en verklaarde dat, in overeenstemming met de regels, de enige menselijke tussenkomst tussen de games kwam om bugs te corrigeren die tijdens het spel waren ontdekt. Zij verwierpen ook de bewering dat de programmering was aangepast aan de speelstijl van Kasparov. In plaats daarvan hadden ze vertrouwd op het vermogen van de computer om enorme aantallen mogelijke zetten te doorzoeken.
IBM’s afwijzing van Kasparov’s verzoek om een rematch en de daaropvolgende ontmanteling van Deep Blue deed niets om de verdenkingen weg te nemen. IBM stelde ook het vrijgeven van de gedetailleerde logs van de computer uit, zoals Kasparov ook had gevraagd, tot na de ontmanteling. Maar de daaropvolgende gedetailleerde analyse van de logboeken heeft nieuwe dimensies aan het verhaal toegevoegd, waaronder het inzicht dat Deep Blue een aantal grote fouten heeft gemaakt.
Er wordt sindsdien gespeculeerd dat Deep Blue alleen heeft gezegevierd vanwege een bug in de code tijdens het eerste spel. Een van de ontwerpers van Deep Blue heeft gezegd dat toen de computer door een foutje niet een van de geanalyseerde zetten kon kiezen, hij in plaats daarvan een willekeurige zet deed die Kasparov verkeerd interpreteerde als een diepere strategie.
Hij slaagde erin de partij te winnen en de fout werd hersteld voor de tweede ronde. Maar de wereldkampioen zou zo geschokt zijn geweest door wat hij zag als de superieure intelligentie van de machine, dat hij niet in staat was zijn kalmte te hervinden en vanaf dat moment te voorzichtig speelde. Hij miste zelfs de kans om terug te komen van de open bestand tactiek toen Deep Blue een “verschrikkelijke blunder” maakte.
Welke van deze verslagen van Kasparovs reacties op de wedstrijd waar zijn, ze wijzen op het feit dat zijn nederlaag op zijn minst gedeeltelijk te wijten was aan de zwakheden van de menselijke natuur. Hij dacht te veel na over sommige zetten van de machine en werd onnodig ongerust over de capaciteiten van de machine, waardoor hij fouten maakte die uiteindelijk tot zijn nederlaag leidden. Deep Blue beschikte niet over de kunstmatige intelligentietechnieken waarmee computers tegenwoordig veel complexere spellen als Go kunnen winnen.
Maar zelfs als Kasparov meer geïntimideerd was dan nodig was, valt niet te ontkennen dat het team dat Deep Blue heeft gemaakt, verbluffende prestaties heeft geleverd. Zijn vermogen om het op te nemen tegen ’s werelds beste menselijke schaker was gebaseerd op ongelooflijke rekenkracht, die het supercomputerprogramma van IBM heeft gelanceerd dat de weg heeft gebaand voor sommige van de meest geavanceerde technologie die vandaag de dag in de wereld beschikbaar is. Wat dit nog verbazingwekkender maakt, is het feit dat het project niet begon als een uitbundig project van een van de grootste computerfabrikanten, maar als een afstudeerscriptie van een student in de jaren tachtig.
Schaakrace
Toen Feng-Hsiung Hsu in 1982 vanuit Taiwan in de VS aankwam, kan hij niet hebben gedacht dat hij deel zou gaan uitmaken van een intense rivaliteit tussen twee teams die bijna een decennium lang wedijverden om de beste schaakcomputer ter wereld te bouwen. Hsu was naar de Carnegie Mellon University (CMU) in Pennsylvania gekomen om het ontwerp van de geïntegreerde schakelingen waaruit microchips bestaan te bestuderen, maar hij had ook al lang belangstelling voor computerschaak. Hij trok de aandacht van de ontwikkelaars van Hitech, de computer die in 1988 als eerste een schaakgrootmeester zou verslaan, en werd gevraagd te helpen bij het hardwareontwerp.
Maar Hitech kreeg al snel ruzie met het Hitech-team nadat hij ontdekte wat hij zag als een architectonische fout in hun voorgestelde ontwerp. Samen met enkele andere promovendi begon hij zijn eigen computer te bouwen, ChipTest genaamd, op basis van de architectuur van Belle, de schaakmachine van Bell Laboratory. De aangepaste technologie van ChipTest maakte gebruik van wat bekend staat als “zeer grootschalige integratie” om duizenden transistors op een enkele chip te combineren, waardoor de computer 500.000 schaakzetten per seconde kon doorzoeken.
Hoewel het Hitech-team een voorsprong had, zouden Hsu en zijn collega’s hen al snel inhalen met de opvolger van ChipTest. Deep Thought – genoemd naar de computer die in Douglas Adams’ The Hitchhiker’s Guide to the Galaxy werd gebouwd om de zin van het leven te vinden – combineerde twee van Hsu’s aangepaste processors en kon 720.000 zetten per seconde analyseren. Hierdoor kon Deep Thought in 1989 het wereldkampioenschap computerschaak winnen zonder ook maar één partij te verliezen
Maar Deep Thought stuitte later dat jaar op een obstakel toen het moest aantreden tegen (en verloor van) de regerend wereldkampioen schaken, ene Garry Kasparov. Om de beste van de mensheid te verslaan, zouden Su en zijn team veel verder moeten gaan. Nu hadden zij echter de steun van computerreus IBM.
Schaakcomputers werken door een numerieke waarde toe te kennen aan de positie van elk stuk op het bord met behulp van een formule die bekend staat als een “evaluatiefunctie”. Deze waarden kunnen dan worden verwerkt en doorzocht om de beste zet te bepalen. Vroege schaakcomputers, zoals Belle en Hitech, gebruikten meerdere op maat gemaakte chips om de evaluatiefuncties uit te voeren en vervolgens de resultaten te combineren.
Het probleem was dat de communicatie tussen de chips traag was en veel verwerkingskracht kostte. Wat Hsu met ChipTest deed, was het herontwerpen en herverpakken van de processoren in één chip. Hierdoor werden een aantal overheadkosten, zoals de communicatie buiten de chip, verwijderd en kon de rekensnelheid enorm worden opgevoerd. Terwijl Deep Thought 720.000 zetten per seconde kon verwerken, gebruikte Deep Blue grote aantallen processoren die dezelfde reeks berekeningen tegelijk uitvoerden om 100.000.000 zetten per seconde te analyseren.
Het vergroten van het aantal zetten dat de computer kan verwerken was belangrijk omdat schaakcomputers van oudsher gebruikmaken van zogeheten “brute kracht”-technieken. Menselijke spelers leren uit eerdere ervaringen om bepaalde zetten direct uit te sluiten. Schaakmachines, zeker in die tijd, hadden die mogelijkheid niet en moesten in plaats daarvan vertrouwen op hun vermogen om vooruit te kijken naar wat er zou kunnen gebeuren bij elke mogelijke zet. Zij gebruikten brute kracht bij het analyseren van zeer grote aantallen zetten in plaats van zich te concentreren op bepaalde typen zetten waarvan zij al wisten dat die de meeste kans van slagen hadden. Door het aantal zetten dat een machine in een seconde kon bekijken te verhogen, kreeg hij de tijd om veel verder in de toekomst te kijken naar waar verschillende zetten het spel zouden brengen.
In februari 1996 was het IBM-team klaar om het opnieuw tegen Kasparov op te nemen, dit keer met Deep Blue. Hoewel het de eerste machine werd die een wereldkampioen versloeg in een partij onder reguliere tijdcontrole, verloor Deep Blue de wedstrijd met 4-2. De 100.000.000 zetten per seconde waren nog steeds niet genoeg om het menselijk strategisch vermogen te verslaan.
Om het aantal zetten op te voeren, begon het team de machine te upgraden door te onderzoeken hoe ze grote aantallen parallel werkende processors konden optimaliseren – met groot succes. De uiteindelijke machine was een supercomputer met 30 processors die, wat nog belangrijker was, 480 speciaal voor het schaakspel ontworpen geïntegreerde circuits aanstuurde. Dankzij dit aangepaste ontwerp was het team in staat de parallelle rekenkracht van de chips te optimaliseren. Het resultaat was een nieuwe versie van Deep Blue (soms ook wel Deeper Blue genoemd) die in staat was ongeveer 200.000.000 zetten per seconde te doorzoeken. Dit betekende dat Deep Blue tot 40 of meer zetten in de toekomst kon onderzoeken hoe elke mogelijke strategie zou uitpakken.
Parallelle revolutie
Tegen de tijd dat de rematch plaatsvond in New York City in mei 1997, was de publieke nieuwsgierigheid enorm. Journalisten en televisiecamera’s zwermden rond het bord en werden beloond met een verhaal toen Kasparov na zijn nederlaag wegstormde en achteraf op een persconferentie schande riep. Maar de publiciteit rond de wedstrijd droeg ook bij tot een beter begrip van hoe ver computers waren gekomen. Waar de meeste mensen nog geen idee van hadden, was hoe de technologie achter Deep Blue zou helpen om de invloed van computers uit te breiden naar bijna elk aspect van de samenleving door de manier te veranderen waarop we gegevens gebruiken.
Complexe computermodellen worden vandaag de dag gebruikt om de financiële systemen van banken te ondersteunen, betere auto’s en vliegtuigen te ontwerpen en nieuwe medicijnen te testen. Systemen die grote datasets (vaak “big data” genoemd) ontginnen om significante patronen te ontdekken, worden gebruikt bij de planning van openbare diensten zoals vervoer of gezondheidszorg, en stellen bedrijven in staat reclame op specifieke groepen mensen af te stemmen.
Dit zijn zeer complexe problemen die een snelle verwerking van grote en complexe datasets vereisen. Deep Blue gaf wetenschappers en ingenieurs een belangrijk inzicht in de massaal parallelle multi-chip systemen die dit mogelijk hebben gemaakt. In het bijzonder toonden zij de mogelijkheden van een computersysteem voor algemeen gebruik dat een groot aantal voor een specifieke toepassing ontworpen chips aanstuurt.
De wetenschap van de moleculaire dynamica, bijvoorbeeld, bestudeert de fysieke bewegingen van moleculen en atomen. Aangepaste chipontwerpen hebben computers in staat gesteld moleculaire dynamica te modelleren om vooruit te kijken om te zien hoe nieuwe geneesmiddelen in het lichaam zouden kunnen reageren, net als vooruit kijken naar verschillende schaakzetten. Moleculaire dynamische simulaties hebben bijgedragen tot een snellere ontwikkeling van succesvolle geneesmiddelen, zoals sommige die worden gebruikt om HIV te behandelen.
Voor zeer brede toepassingen, zoals het modelleren van financiële systemen en datamining, zou het ontwerpen van chips op maat voor een individuele taak op deze gebieden onbetaalbaar zijn. Maar het Deep Blue-project hielp bij de ontwikkeling van de technieken voor het coderen en beheren van sterk geparallelliseerde systemen die een probleem over een groot aantal processoren verdelen.
Vandaag de dag maken veel systemen voor de verwerking van grote hoeveelheden gegevens gebruik van grafische verwerkingseenheden (GPU’s) in plaats van op maat ontworpen chips. Deze zijn oorspronkelijk ontworpen om beelden op een scherm te produceren, maar ook om informatie te verwerken met behulp van een groot aantal processoren in parallel. Daarom worden ze nu vaak gebruikt in krachtige computers die grote datasets verwerken en om krachtige kunstmatige intelligentie-instrumenten zoals Facebooks digitale assistent te laten draaien. Er zijn hier duidelijke overeenkomsten met de architectuur van Deep Blue: op maat gemaakte chips (gebouwd voor grafische toepassingen) die worden aangestuurd door processors voor algemeen gebruik om de efficiëntie van complexe berekeningen te verhogen.
De wereld van de schaakmachines is intussen geëvolueerd sinds de overwinning van Deep Blue. Ondanks zijn ervaring met Deep Blue stemde Kasparov er in 2003 mee in om het op te nemen tegen twee van de meest prominente schaakmachines, Deep Fritz en Deep Junior. En beide keren wist hij een nederlaag te voorkomen, hoewel hij nog steeds fouten maakte die hem tot remise dwongen. Beide machines versloegen echter overtuigend hun menselijke tegenhangers in de Man vs Machine Wereld Team Kampioenschappen van 2004 en 2005.
Junior en Fritz markeerden een verandering in de benadering van het ontwikkelen van systemen voor computerschaak. Terwijl Deep Blue een op maat gemaakte computer was die vertrouwde op de brute kracht van zijn processoren om miljoenen zetten te analyseren, waren deze nieuwe schaakmachines softwareprogramma’s die leertechnieken gebruikten om de benodigde zoekacties tot een minimum te beperken. Dit kan de brute kracht technieken verslaan met slechts een desktop PC.
Maar ondanks deze vooruitgang hebben we nog steeds geen schaakmachines die op menselijke intelligentie lijken in de manier waarop ze het spel spelen – dat hoeven ze ook niet. En als er iets is dat de overwinningen van Junior en Fritz verder versterken, dan is het wel het idee dat menselijke spelers verliezen van computers, althans gedeeltelijk, vanwege hun menselijkheid. De mensen maakten fouten, werden angstig en vreesden voor hun reputatie. De machines daarentegen pasten onophoudelijk logische berekeningen toe op het spel in hun pogingen om te winnen. Op een dag zullen we misschien computers hebben die het menselijk denken echt nabootsen, maar het verhaal van de afgelopen 20 jaar is de opkomst van systemen die superieur zijn juist omdat het machines zijn.