Als AI één kans op vijf heeft om ons te vernietigen, wat doen we dan met de overige vier?

Jacob Coxon, een onderzoeker bij Anthropic, nam ontslag en verwees daarbij naar het feit dat de sector het risico negeert dat AI de mensheid zou kunnen uitroeien. Enkele dagen later publiceerde Dario Amodei, CEO van Anthropic, een essay waarin hij uiteenzette hoe en waarom de sector en overheden moeten samenwerken om de ontwikkeling van frontier-AI af te remmen, zodat die niet buiten menselijke controle raakt. Anderen sloten zich daar al snel bij aan.

Niets hiervan is nieuw. Geoffrey Hinton, de gerenommeerde computerwetenschapper die de bijnaam ‘Godfather of Artificial Intelligence’ kreeg, schatte als een van de eersten de kans dat geavanceerde AI de mensheid binnen de komende dertig jaar zou kunnen beëindigen op 10 tot 20 procent. Hoewel dat alarmerend klinkt, betekent het ook dat de kans op overleving 80 tot 90 procent is. Dus hoe vergroten we de kans op die veiligere uitkomst?

Er zijn manieren om de mensheid naar de veiligere kant van Hintons kansen te bewegen. Niets is gegarandeerd, maar een paar voorwaarden zouden een verschil maken.

Samenwerking tussen de Verenigde Staten en China ligt voor de hand, als de twee landen met de grootste invloed op de toekomst van AI. Amodei’s voorstel voor ingebedde externe beoordelaars, capaciteitsdrempels en een traject naar gezamenlijke standaarden is een sterk uitgangspunt, maar het kan niet van één bedrijf komen. Andere partijen, waaronder overheden, moeten ermee instemmen.

De vertraging moet een voorwaarde en een onmiddellijk doel zijn, om tijd te kopen voor het opbouwen van drie mechanismen voor evaluatie: verificatie tegen heimelijke ontwikkeling en inzet, onafhankelijke beoordeling van gevaarlijke capaciteiten en gezamenlijke monitoring van incidenten met crisisprotocollen.

Er is een precedent voor samenwerking tussen China en de Verenigde Staten om gedeelde risico’s te vermijden. In november 2024 kwamen Washington en Beijing overeen dat beslissingen over kernwapens niet aan AI mogen worden gedelegeerd. Daarmee kwam de rivaliteit niet ten einde, en dat was ook niet de bedoeling. De aandacht ging uit naar een gedeelde zorg over de besluitvorming rond kernwapens.

AI-veiligheid heeft een vergelijkbaar kanaal nodig. Gesprekken tussen het Amerikaanse ministerie van Financiën in Washington en economische beleidsmakers in Beijing richten zich op financiële stabiliteit en misbruik door kwaadwillende actoren. Die agenda zou kunnen worden uitgebreid naar verlies van controle, recursieve zelfverbetering en escalatie van crises. Nu president Xi naar verwachting deze maand naar Washington komt en er belangrijke topontmoetingen op stapel staan, doet zich een opening voor.

Deze kanalen mogen niet geïmproviseerd worden. Een realistisch traject begint met vrijwillige toezeggingen tussen laboratoria en maatregelen voor onafhankelijke evaluatie, mogelijk versterkt door sterke prikkels. Dit moet leiden tot meer formele, bindende regels en een internationaal handhavingsorgaan.

Naast diplomatie tussen de VS en China kan samenwerking tussen andere landen voor meer evenwicht zorgen in het mondiale AI-ecosysteem. Veel ‘middenmachten’ willen inspraak in de standaarden die hun samenlevingen vormgeven, maar beschikken niet over voldoende rekenkracht om concurrerende frontier-modellen te bouwen. De Verenigde Staten beschikken over ongeveer 75 procent van de wereldwijde AI-rekencapaciteit, China over 15 procent en de Europese Unie over ongeveer 5 procent.

Het bundelen van middelen, een aanpak die sommigen de CERN voor AI noemen, zou hen meer invloed geven en evaluatie mogelijk maken, evenals een legitiemere positie om deel te nemen aan verificatieprocessen die iedereen ter verantwoording roepen. In plaats van te proberen nationale kampioenen te bouwen, zouden ze publieke onderzoeksinstellingen, rekenbudgetten en technische expertise kunnen bundelen in gezamenlijke programma’s voor frontier-veiligheid. Ze verdelen de hoge kosten van het trainen van modellen en bouwen systemen met ingebouwde veiligheidsgaranties.

Er zijn positieve eerste tekenen. Australië, Canada, de EU, Frankrijk, Japan, Kenia, Korea en Singapore werken al samen via een netwerk van instituten voor AI-veiligheid dat inmiddels vanuit Groot-Brittannië wordt beheerd. Negen van de twaalf toonaangevende AI-bedrijven hanteren drempels voor het moment waarop een model krachtig genoeg wordt om extra voorzichtigheid te rechtvaardigen, maar verleggen de lat naarmate de race intensiever wordt, uit angst hun voorsprong te verliezen. Geen gemeenschappelijke benchmark. Elk bedrijf beslist voor zichzelf.

Na de AI-incidenten van deze zomer en de verklaringen van vorige week zal zelfevaluatie geen vertrouwen van het publiek wekken. Onafhankelijke experts, die over de middelen beschikken om te verifiëren dat toegangscontroles, monitoring en uitschakelmechanismen werken, vormen een geloofwaardiger route, net zoals de luchtvaart bijna-ongelukken registreert om gevaar te signaleren voordat zich een ramp voordoet.

De laatste voorwaarde is minder spectaculair, maar daarom niet minder cruciaal: een gedeelde woordenschat voor het risico van frontier-AI, om gecoördineerd internationaal bestuur mogelijk te maken. Hoewel de Algemene Vergadering van de VN deze maand geen bindend akkoord zal opleveren, moet zij niet aan die maatstaf worden beoordeeld. Haar waarde ligt elders.

Voordat regeringen het eens kunnen worden over wat ze moeten doen, moeten ze het eerst eens worden over waar ze het over hebben, en vervolgens bepalen hoe ver ze bereid zijn te gaan om een catastrofe te voorkomen.

Er zijn precedenten in het mondiale risicobeheer. Neem de diplomatie rond de ozonlaag. Het Verdrag van Wenen van 1985 stelde geen bindende beperkingen aan ozonafbrekende chemicaliën, maar alleen gemeenschappelijke definities en een forum om gegevens te vergelijken. Zeven weken later publiceerden onderzoekers de ontdekking van een gat in de ozonlaag. Twee jaar daarna werd dat kader het bindende, afdwingbare Protocol van Montreal.

Definities en overleg kwamen eerst. Snelle, bindende actie volgde op onweerlegbaar bewijs. Voor AI kan het hetzelfde gaan: eerst vrijwillige stappen en gedeelde definities, daarna bindende regels zodra het bewijs en de wil onmiskenbaar zijn, waarbij regionale betrokkenheid uitgroeit tot mondiale betrokkenheid.

Veel zal afhangen van de manier waarop Chinese laboratoria en Beijing reageren op de oproep van de heer Amodei. Hun antwoord zal laten zien of de bereidheid om af te remmen werkelijk wordt gedeeld.

Niets hiervan garandeert de veiligere vier vijfde van Hintons kansen. Wetenschappers zijn het nog altijd oneens over de omvang van het catastrofale risico, en regeringen hebben volop redenen om moeilijke keuzes uit te stellen. Maar deze stappen zouden op zijn minst laten zien dat we ons niet bij een waarschijnlijkheid zullen neerleggen.

Hintons waarschuwing was bedoeld om ons te verontrusten. Ze zou ons er ook aan moeten herinneren dat het grootste deel van de toekomst nog onbeslist is en nog steeds door ons kan worden vormgegeven. Maar de tijd dringt, en na verlies van controle is er geen weg terug.