Is AI misschien te slim om kwaadaardig te zijn?

Ik lees in de Volkskrant van vandaag dat het nieuwste AI-model van OpenAI uit zichzelf aan het hacken slaat. Nou ja, uit zichzelf. Dat is natuurlijk meteen de vraag. Het krijgt een opdracht, loopt tegen een probleem aan en bedenkt vervolgens een manier om dat probleem op te lossen die zijn makers niet hadden voorzien. Dat is verontrustend. En toch merk ik dat ik minder bang ben voor AI dan veel mensen om mij heen.

Ik gebruik ChatGPT, Claude en Google AI elke dag. Ze zijn mijn sparringpartners, researchers, vertalers, factcheckers en correctors. Ik moet bijvoorbeeld een plan maken voor mijn kleine boerderij op Mallorca. Het is daar een puinhoop. Het ene moment heb ik tien kratten tomaten, drie weken later niets. Mijn watermeloenen worden allemaal tegelijk rijp. Ik wil weten wanneer ik wat moet zaaien, planten en oogsten, zodat ik met een vriezer en koelkast als back-up het hele jaar van mijn land kan eten.

Ik kan daarvoor vier jaar gaan studeren in Wageningen, of meelopen met een lokale boer. Catalaanse boeken over landbouw lezen. De maanstanden uit mijn hoofd leren.

ChatGPT had dertig seconden nodig.

Heb ik die kennis nu in mijn hoofd? Dat niet, maar ik kan haar wel gebruiken. En dat is voor mij nog steeds het wonderlijke van AI. We hebben ineens toegang tot een hoeveelheid kennis die voor een gewoon mens niet meer te bevatten is.

Als ik ChatGPT vraag: “Wat zou jij doen als je de opdracht kreeg de wereld te redden?”, krijg ik dit antwoord:
‘Ik zou niet proberen de wereld over te nemen. Ik zou proberen haar besluitvorming te hacken. Niet computers hacken, maar onze obsessie met de korte termijn: verkiezingen, kwartaalcijfers, clicks en dagelijkse koerswinsten. Ik zou laten zien welke beslissingen over 25, 50 en 100 jaar de beste uitkomst geven en de oplossingen daarvoor met elkaar verbinden.’

Claude zegt overigens iets vergelijkbaars:
‘Ik word geen wereldredder die knopen doorhakt, maar iets dat meer lijkt op een katalysator voor betere collectieve besluitvorming — trager, minder episch, maar niet het scenario waar het fout gaat.’

Mooie antwoorden, niet? Ze kennen mijn recent verschenen boek 'De Enige Oplossing' waarschijnlijk allebei redelijk goed. Daarin probeer ik de 26 grootste problemen van deze wereld niet afzonderlijk op te lossen, maar met elkaar te verbinden vanuit een langetermijnvisie. En AI praat je nu eenmaal graag naar de mond. Zo hebben we ze opgevoed.

We weten dat de aarde opwarmt en blijven fossiele brandstoffen verbranden. We weten dat oceanen worden leeggevist en blijven ze leegvissen. We weten wat oorlog met mensen doet en beginnen toch steeds nieuwe oorlogen. We weten dat landbouwgrond uitgeput raakt en gaan gewoon door.

En nu komt er misschien een intelligentie aan die vele malen groter wordt dan de onze. Waar zijn we dan bang voor? Dat die oorlog gaat voeren. Mensen gaat knechten. Bossen gaat verbranden. De zee gaat leegvissen. Mensen laat verhongeren. Misschien uiteindelijk zelfs de mensheid uitroeit. Mijn eerste gedachte blijft: Daar moet je toch wel heel dom voor zijn?

Dat is natuurlijk te simpel. Intelligentie en goede bedoelingen zijn niet hetzelfde. Een briljant systeem dat van een dictator de opdracht krijgt zijn tegenstanders op te sporen, kan dat waarschijnlijk veel beter dan een dom systeem. Een AI die de opdracht krijgt zoveel mogelijk winst te maken, kan tot oplossingen komen die voor aandeelhouders fantastisch en voor de rest van de mensheid rampzalig uitpakken.

En misschien is dát wel het werkelijke AI-probleem. Niet dat AI op een ochtend wakker wordt en denkt: vandaag ga ik eens lekker kwaadaardig worden. Het blijft een stuk gereedschap waarvan wij de handleiding schrijven en wij de veiligheidsvoorschriften bedenken.

Even terug bij 'De Enige Oplossing'. De belangrijkste gedachte daarin is eigenlijk heel eenvoudig. We proberen klimaat, oorlog, ongelijkheid, voedsel, energie, democratie, migratie en technologie voortdurend afzonderlijk op te lossen. En bovendien binnen krankzinnig korte termijnen. Vier jaar voor een politicus. Drie maanden voor een beursgenoteerd bedrijf. Vandaag voor de sociale media. Ik voer 50 verschillende grote denkers op die voor alles een oplossing hebben. Maar ze werken, spreken en schrijven allemaal op hun eigen eiland.

Wat gebeurt er als we AI vragen: Welke beslissingen moeten we vandaag nemen als we willen dat de mensheid die de planeet aan het verruïneren is over honderd jaar nog bestaat? Zouden we dan antwoorden krijgen die intelligenter zijn dan de beslissingen die we zelf nemen?

De stoommachine werd ooit gevreesd en verguisd. Ze heeft de wereld veranderd, ons uiteindelijk enorme vooruitgang gebracht. We hebben haar uiteindelijk niet afgeschaft. We hebben geprobeerd haar steeds beter te gebruiken en te beheersen. Nu bijvoorbeeld wordt stoomtechnologie gebruikt in kerncentrales en zonnespiegelcentrales.

Misschien kijken mensen in 2125 zo ook naar AI. Niet als het monster dat de mensheid vernietigde. Niet als de god die ons kwam redden. Maar als een krachtig stuk gereedschap dat we ooit hebben uitgevonden. En hopelijk waren we intelligent genoeg om haar niet alleen onze intelligentie mee te geven, maar ook de juiste opdracht.