Gewetenloze grootmeesters

De illusie van het perfecte schaakspel in een wereld van hyperintelligente rotzakken.

Als ik op YouTube een schaakpartij volg gaat het doorgaans over een wedstrijd achter het bord van twee grootmeesters. Ze zijn zeer aan elkaar gewaagd maar hebben nooit dezelfde rating. Zoiets zou veel te toevallig zijn; het past niet bij het verschijnsel mens noch bij de aard van het spel. De ene speler is bijna altijd beter dan de ander, wat niet wil zeggen dat deze altijd van zijn tegenstander wint; dat zou het toekijken voorspelbaar dus saai maken.

De saaiheid bepaalt dat ik nooit naar een partij kijk tussen twee identieke computers, hoe hoog hun kunstmatige intelligentie ook is. Bezitten ze exact dezelfde vermogens, dan wordt de onvoorspelbaarheid van wie er wint natuurlijk groter – wat een pré zou kunnen zijn – ware het niet dat deze onzekerheidsfactor volledig afhankelijk is van het toeval. Zien hoe twee wezenloze apparaten hun onderlinge strijd beslechten, heeft niets boeiends.

Ondertussen wordt, in zo’n geval, wel het meest efficiënte spel gespeeld. De zetten wisselen razendsnel en begeven zich op een zo hoog niveau dat het fijn zou zijn wanneer een analyticus tussendoor op de pauzeknop drukt en uitleg verschaft. Ik weet zeker dat we dit soort van, door AI-gestuurde, duellen, spannend zouden vinden (op een bedenkelijke manier) wanneer we er partijdig naar konden kijken. Stel dat één van de schaakcomputers ons land vertegenwoordigt. Zijn overwinning was niet vrijblijvend. Bij winst verovert hij, laten we zeggen, een regio van het land waarvoor de andere computer zich inzet. De uitslag is verbonden met ‘landje-pik’ en heeft invloed op het echte leven.

Ik verwoord hier slechts een gedachtenexperiment. Ik zet de schaakcomputers in bij een soort van oorlogsvoering. Maar zie, er valt toch iets positiefs te constateren. Ondanks de grotere ernst van de situatie, behoudt het edele spel iets nobels. Hoe artificieel de spelers ook zijn, deze denksport kan alleen bestaan bij de gratie van het respecteren van de spelregels en het handhaven van een strikte etiquette. Onpopt zich hier de moraal in de distopie? Zodra een computer buiten de lijnen kleurt, een pion promoveert tot een illegaal stuk, een paard in een rechte lijn over het bord jaagt, twee zetten tegelijkertijd uitvoert, de loper dwars door een bezet veld teleporteert, houdt de partij simpelweg op te bestaan.

Op het geopolitieke slagveld dreigt die gedeelde afspraak tussen de partijen volledig te ontbreken. In een reële oorlog gelden er geen regels meer; kunstmatige intelligentie hoeft zich daar niet aan een sportieve code te houden. Integendeel, AI zal haar superieure rekenkracht juist aanwenden om de opponerende machine door middel van valse manipulatie te verslaan. Het is exact dit gevaar van geopolitieke wetteloosheid waarvoor Irene van Droffelaar, senior onderzoeker bij denktank RAND Europe, ons waarschuwt in de NRC van 19 juni. In haar analyse fileert zij de blinde vlek in ons huidige veiligheidsdebat. Terwijl wij ethische discussies voeren over morele kaders en menselijke controle, ligt de werkelijke dreiging elders: „wat als die systemen zélf doelwit worden?”

De integratie van geavanceerde AI-systemen in moderne conflicten is allang geen hypothetische kwestie meer. Autonome drones selecteren zelfstandig doelwitten aan het front en software coördineert complexe militaire operaties. Ook de Nederlandse krijgsmacht oriënteert zich op deze technologie; Den Haag probeert via internationale fora te bouwen aan normen voor verantwoord gebruik. Die discussies over menselijke tussenkomst zijn comfortabel; ze suggereren dat wij de teugels stevig in handen hebben.

Maar dit streven naar morele controle veronderstelt een zuivere strijd, een aanname die Van Droffelaar resoluut naar het rijk der fabelen verwijst met de introductie van adversarial AI. Dit is het doelgericht corrumperen van systemen zodat ze foutieve conclusies trekken of simpelweg uitvallen. Waar de schaker erop vertrouwt dat de stukken (en zetten) van de tegenstander legitiem zijn, zal de militaire AI geconfronteerd worden met een tegenstander die haar zintuigen saboteert. Een minuscuul stukje tape op een stopbord kan een algoritme al doen geloven dat het een snelheidsbord is.

Vertaald naar het militaire domein leidt deze conflictueuze manipulatie onmiddellijk tot catastrofale blindheid. Van Droffelaar schetst de consequenties hiervan haarscherp: „Denk aan de selectie van verkeerde, civiele doelen, het missen of verkeerd identificeren van vijandelijke dreigingen, of het dwalen van autonome drones.” Wetenschappelijk onderzoek toont aan dat een fractie van een procent aan vervuilde data in een trainingsset al volstaat om een taalmodel wartaal te laten uitslaan. De digitale grootmeester blijkt een reus op lemen voeten, vatbaar voor hallucinaties die door de vijand doelbewust worden opgewekt.

Deze kwetsbaarheid tast bovendien de fundamenten van onze internationale veiligheidsstrategie aan: de afschrikkingsbalans. Afschrikking stoelt op de rotsvaste overtuiging dat defensieve middelen exact zo functioneren als bedoeld. De auteur stelt de terechte vraag: „Waarom zou een agressor afgeschrikt worden door precisiewapens als hij denkt ze te kunnen misleiden?” Aangezien het in het cyberdomein vele malen eenvoudiger is om een netwerk aan te vallen dan om het waterdicht te beschermen, verschuift het strategische voordeel onomstotelijk naar de agressor. Dit erodeert niet alleen de basis van collectieve verdedigingsallianties zoals de NAVO, maar introduceert tevens een diepe strategische ambiguïteit.

Wanneer een autonoom systeem faalt in een crisissituatie, is het in de mist van de strijd volstrekt onduidelijk of dit te wijten is aan een interne technische storing of aan een vijandelijke cyberaanval. Die onzekerheid voedt een gevaarlijke spiraal van wederzijds wantrouwen, die kan leiden tot onbedoelde escalatie. Waar wereldmachten tijdens de Koude Oorlog nog directe hotlines installeerden om fatale misverstanden te voorkomen, ontbreekt elk communicatiemechanisme voor AI-incidenten vandaag de dag volledig. „Voor AI-incidenten bestaat zoiets nog niet”, aldus Van Droffelaar.

Het aanschouwen van twee identieke computers die elkaar op het schaakbord met mathematische precisie bekampen, zou een wezenloze dus saaie exercitie zijn, beweerde ik eerder. Mede omdat de regels van het spel tot het bittere eind gerespecteerd werden kwam dat de kijkwaardigheid niet ten goede. Aan zo’n potje zou ik niet eens beginnen uit gebrek aan belevingsgenot. De realiteit van moderne oorlogsvoering kent geen zuiver bord en geen scheidsrechter die regels kan opleggen. De AI-systemen waaraan we de regie overdragen, zijn feilbare entiteiten; hun constructies kunnen door een vijand paranoïde en blind worden gemaakt. Aan zo’n oorlog zouden we niet mogen beginnen om redenen van levensontkenning.

Indien we willen voorkomen dat het gedachtenexperiment van een destructief spel dat om het echie wordt gespeeld, werkelijkheid wordt, moeten we de aanbevelingen van Van Droffelaar ter harte nemen. Er is politieke daadkracht nodig om adversarial AI te verankeren in cybernormen, directe crisiskanalen tussen rivaliserende staten te openen en onwrikbare rode lijnen te definiëren. Zonder die maatregelen riskeren we een geopolitieke arena waarin gecorrumpeerde machines elkaar met gemanipuleerde data te lijf gaan; en waarbij de rekening voor de softwarefouten definitief wordt gepresenteerd aan de burger.

Ik heb aan de drie eisen van Van Droffelaar geen magische vierde toe te voegen, alleen mijn semantische vergelijking. Laat me nog even teruggaan naar de analogie met het schaakspel. Waarom hanteren wij vanzelfsprekende regels en etiquetten bij het schaken? Omdat het niet het echte leven is? Of omdat het ophoudt schaak te zijn en dus een eerlijke aangelegenheid, als wij het regelloos benaderen? Ik denk het laatste. Ik geloof dat wij het leven, waartoe oorlog schijnt te horen, maar gelukkig ook spel, levenloos benaderen als we de moraal uit de vergelijkingen schrappen. Drie maatregelen zijn nodig om computers te beteugelen. In eerste en laatste instantie  zullen we altijd terug moeten vallen op ons ethisch besef en daarnaar moeten handelen om veilig verder te kunnen.

Van Droffelaar noemt het aanscherpen van de normen in haar eerste aanbeveling. Men is er nooit mee opgehouden om ethiek een plaats te geven in de vredesonderhandelingen. Dat proces heeft er een moeilijkheidsfactor bijgekregen, weet de schrijfster ons volkomen duidelijk te maken. Meer dan het extra aanspreken van onze moraal in situaties waarin het vooruitzicht nog grimmiger dreigt te worden, kunnen we eigenlijk niet doen. Het alternatief lijkt stilzitten als je geschoren wordt, de storm proberen te overleven, een eerlijk bordspel spelen in je schuilkelder met een dierbare; iemand waaraan je echt gewaagd bent.

Of is het dat een ultra-intelligent AI-systeem, dat we nu nog niet kennen, een heuse oplossing bedenkt?