Stephen Hawking’s laatste waarschuwing voor de mensheid: AI komt ons halen

Stephen Hawking heeft een laatste boodschap voor de mensheid:

Als robots ons niet te pakken krijgen, doet de klimaatverandering dat wel. Hawking, die eerder dit jaar op 76-jarige leeftijd overleed aan een degeneratieve neurologische ziekte, geeft zijn afscheidsgedachten in een postuum uitgegeven boek genaamd Brief Answers To The Big Questions, dat dinsdag uitkomt. Het is een boodschap die de moeite waard is om in acht te nemen van een man die waarschijnlijk de meest gerenommeerde wetenschapper is sinds Einstein, het best bekend voor zijn ontdekking van hoe zwarte gaten functioneren. Hawking’s boek A Brief History of Time verkocht meer dan 10 miljoen exemplaren en behandelde grote vragen als “Hoe is het universum ontstaan?” en “Wat zal er gebeuren als het eindigt?” in taal die eenvoudig genoeg is voor de gemiddelde lezer.

In een uittreksel dat dit weekend in de Times of London verscheen, is hij grappig en optimistisch, ook al waarschuwt hij ons dat de kunstmatige intelligentie ons waarschijnlijk te slim af zal zijn, dat de rijken zich tot een bovenmenselijke soort zullen ontwikkelen, en dat de planeet afstevent op totale onbewoonbaarheid.

Hawking’s boek is uiteindelijk een oordeel over de toekomst van de mensheid. Op het eerste gezicht is het oordeel dat we gedoemd zijn. Maar als je dieper graaft, zie je ook iets anders: een geloof dat menselijke wijsheid en innovatie onze eigen ondergang zullen verijdelen, zelfs als we die zelf in de hand lijken te werken.

De robots komen ons misschien halen

De grootste waarschuwing van Hawking gaat over de opkomst van kunstmatige intelligentie: Of het wordt het beste wat ons ooit is overkomen, of het wordt het ergste. Als we niet oppassen, zou het wel eens het laatste kunnen zijn.

Kunstmatige intelligentie biedt grote mogelijkheden voor de mensheid, en omvat alles van Google’s algoritmen tot zelfrijdende auto’s en gezichtsherkenningssoftware. De AI die we nu hebben, bevindt zich echter nog in een primitief stadium. Deskundigen maken zich zorgen over wat er zal gebeuren als die intelligentie ons voorbijstreeft. Of, zoals Hawking het formuleert: “Terwijl de kortetermijnimpact van AI afhangt van wie het controleert, hangt de langetermijnimpact af van de vraag of het überhaupt kan worden gecontroleerd.”

Dit klinkt misschien als sciencefiction, maar Hawking zegt dat het “een vergissing zou zijn, en mogelijk onze grootste vergissing ooit.”

Vergeleken met robots zijn wij mensen behoorlijk onhandig. Beperkt door het trage tempo van de evolutie, kost het ons generaties om te evolueren. Robots daarentegen kunnen hun eigen ontwerp veel sneller verbeteren, en binnenkort zullen ze dat waarschijnlijk ook zonder onze hulp kunnen doen. Hawking zegt dat dit zal leiden tot een “intelligentie-explosie”, waarbij machines onze intelligentie kunnen overtreffen “meer dan de onze die van slakken overtreft.”

Veel mensen denken dat de dreiging van AI zich concentreert op het feit dat het kwaadaardig wordt in plaats van goedaardig. Hawking ontkracht deze bezorgdheid door te zeggen dat “het echte risico van AI niet boosaardigheid is, maar bekwaamheid”. AI zal heel goed zijn in het bereiken van zijn doelen; als de mens in de weg loopt, kunnen we in de problemen komen.

“Je bent waarschijnlijk geen kwaadaardige mierenhater die uit boosaardigheid op mieren stapt, maar als je de leiding hebt over een hydro-elektrisch groen-energieproject en er ligt een mierenhoop in de regio die onder water moet worden gezet, jammer dan voor de mieren. Laten we de mensheid niet in de positie van die mieren plaatsen,” schrijft Hawking.

Voor wie nog steeds niet overtuigd is, stelt hij een andere metafoor voor. “Waarom zijn we zo bezorgd over AI? De mens is toch altijd in staat om de stekker eruit te trekken?” vraagt een hypothetisch persoon hem.

Hawking antwoordt: “Mensen vroegen een computer: ‘Is er een God?’ En de computer zei: ‘Die is er nu,’ en liet de stekker eruit.”

Het einde van het leven op aarde?

Als het niet de robots zijn, is het “bijna onvermijdelijk dat ofwel een nucleaire confrontatie ofwel een milieucatastrofe de aarde op een bepaald moment in de komende 1000 jaar zal verlammen,” schrijft Hawking.

De waarschuwing komt na het alarmerende rapport van het Intergovernmental Panel on Climate Change (IPCC) van vorige week, waarin wordt gewaarschuwd dat we nog maar 12 jaar hebben om veranderingen door te voeren die groot genoeg zijn om de opwarming van de aarde op een gematigd niveau te houden. Zonder dergelijke veranderingen zullen langere droogtes, frequentere tropische stormen en een stijgende zeespiegel slechts het begin zijn.

Ontstuimige klimaatverandering is de grootste bedreiging voor onze planeet, zegt hij, en we handelen met “roekeloze onverschilligheid voor onze toekomst op de planeet Aarde.”

In feite hebben we misschien wel helemaal geen toekomst, zegt hij, en waarschuwt ons om niet al onze eieren “in één mandje” te doen. En ja, dat mandje is de planeet Aarde. Zelfs als mensen een manier vinden om te ontsnappen, zullen “de miljoenen soorten die de aarde bevolken” gedoemd zijn, zegt hij. “

En dat zullen wij als ras op ons geweten hebben. We gaan een nieuwe fase in van “zelfontworpen evolutie.” Deze fase betekent dat we binnenkort in staat zullen zijn om de ketenen van de traditionele evolutie af te werpen en nu te beginnen met het veranderen en verbeteren van ons eigen DNA – niet pas over honderdduizenden jaren.

Net als bij AI biedt het vermogen om ons eigen DNA te bewerken de mogelijkheid om de grootste problemen van de mensheid op te lossen. Ten eerste, en waarschijnlijk niet in de verre toekomst, zullen we in staat zijn om genetische defecten te repareren, het bewerken van genen voor zaken als spierdystrofie en amyotrofische laterale sclerose, of ALS, de ziekte die hij werd gediagnosticeerd in 1963. Hawking zegt dat binnen deze eeuw, we in staat zullen zijn om intelligentie, geheugen en de lengte van het leven te bewerken. En dan zou het wel eens heel ingewikkeld kunnen worden.

Hawking noemt de mensen die dit zullen doen “supermensen”, en dat zullen waarschijnlijk de rijke elites van de wereld zijn. Gewone oude mensen zullen niet kunnen concurreren en zullen waarschijnlijk “uitsterven of onbelangrijk worden.” Tegelijkertijd zullen supermensen waarschijnlijk “andere planeten en sterren koloniseren.”

Als dat allemaal behoorlijk deprimerend klinkt, dan is dat ook zo. Maar zelfs als Hawking een apocalyptische prognose geeft voor de planeet en iedereen erop, is hij toch ook optimistisch. Hij heeft er vertrouwen in dat “ons vindingrijke ras een manier zal hebben gevonden om te ontsnappen aan de norse banden van de Aarde en daarom de ramp zal overleven.”

Hij gelooft zelfs dat deze mogelijkheden, in plaats van angstaanjagend te zijn, juist opwindend zijn en dat het “de kansen om de nieuwe Einstein te inspireren enorm vergroot. Waar zij ook moge zijn.”

Het vinden van een uitweg van de planeet Aarde, en misschien zelfs van het zonnestelsel, is een kans om te doen wat de maanlandingen deden: “de mensheid verheffen, mensen en naties samenbrengen, nieuwe ontdekkingen en nieuwe technologieën inluiden.”

Teken in op de nieuwsbrief van Future Perfect. Tweemaal per week krijgt u een overzicht van ideeën en oplossingen om onze grootste uitdagingen aan te pakken: het verbeteren van de volksgezondheid, het verminderen van menselijk en dierlijk lijden, het verlichten van catastrofale risico’s en – om het eenvoudig te zeggen – beter worden in goed doen.