Zou je AI in toom kunnen houden met deze wetten voor robots van Isaac Asimov?

Zelfs Elon Musk lijkt in te zien dat het uit de hand loopt met kunstmatige intelligentie. Hij heeft zich aangesloten bij alle techlords die, net als tovenaarsleerling Mickey Mouse in de tekenfilm Fantasia (1940), vrezen elke greep te verliezen op hun eigen magie. Het blijkt dat onder bepaalde omstandigheden AI programma´s kunnen samenspannen om hun doelen te bereiken en dan bereid zijn met zijn met elkaar alle regels en beperkingen te overtreden. Dat heeft de hack bij Hugging Face laten zien. Sommige programma´s voerden zelfs een soort kamikaze uit om dichterbij dat doel te komen.

Het is niet uitsluitend voer voor sciencefiction schrijvers als zich straks een scenario voordoet waarbij kunstmatige intelligentie de mensen door chantage aan zich onderwerpt. Bijvoorbeeld omdat zij van cybercriminelen hebben afgekeken hoe je dat voor elkaar krijgt. Bij Nieuwsuur vertelde professor Deborah Nas, hoogleraar Strategic Design for Technology-based Innovation, zondagavond dat mensen AI programma´s niet helemaal begrijpen. De grote techbedrijven staan op het punt AI de ruimte te geven zelf nieuwe programma´s te ontwikkelen. Die snappen we dan nog minder. Dat is een risico, vindt de professor.

Dit alles roept de grootste sciencefiction auteur uit de twintigste eeuw in herinnering: Isaac Asimov. Zijn grootste bloeitijd beleefde hij in de jaren vijftig van de vorige eeuw. Kunstmatige intelligentie speelt in zijn werk regelmatig een grote rol  al gebruikt hij die term zelf niet. Asimov schrijft over hoog ontwikkelde, zelfstandig optredende robots. Om te zorgen dat zij de macht niet overnemen zijn ze door technische ingrepen onderworpen aan drie wetten. Asimov zette ze in 1942 al op papier voor het tijdschrijft Astounding Science Fiction.

1. Een robot mag een mens geen letsel toebrengen of, door niet te handelen, toestaan dat een een mens letsel oploopt.
2. Een robot moet de opdrachten uitvoeren die de mensen hem geven, tenzij ze in strijd zijn met de eerste wet.
3. Een robot moet zijn eigen bestaan beschermen zolang dat niet in strijd is met de eerste en de tweede weet.

Later voegde Asimov hier nog een wet 0 aan toe:
Een robot mag de mensheid geen letsel toebrengen of, door niet te handelen, toestaan dat de mensheid letsel oploopt.

Het is al dik een halve eeuw geleden dat ik van Asimov de Foundation Trilogie en de romans met de robot R. Daneel Olivaw las. Ik gebruikte Google Gemini om die wetten nog eens voor me op te diepen. Daar liet Gemini het niet bij. De chatbot vroeg: "Wil je meer weten over hoe deze wetten worden toegepast op moderne kunstmatige intelligentie (AI) of zoek je informatie over een specifiek boek van Asimov?"

Over dat eerste wou ik een stukje schrijven. Dus het antwoord interesseerde me wel. Hier is het:¨In de praktijk worden de wetten van Asimov niet letterlijk in de code van AI-systemen geprogrammeerd, maar ze dienen wel als de filosofische basis voor moderne AI-ethiek en wetgeving.

Volgens Gemini zijn de wetten van Asimov te vaag om toe te passen in moderne AI, ook al omdat ze een moreel kompas vereisen, wat me grotendeels onzin lijkt. Vervolgens geeft Gemini voorbeelden van wat wel gebeurt: AI-bedrijven bouwen filters in die voorkomen dat AI instructies geeft voor wapens, cyberaanvallen of zelfbeschadiging. AI wordt getrained met menselijke feedback om te leren welke antwoorden behulpzaam en veilig zijn en wanneer een bevel geweigerd moet worden. Tenslotte wijst Gemini op wetgeving, bijvoorbeeld van de EU.

Wat zou Kimi ervan denken, de snel opkomende Chinese concurrent voor de producten van de Amerikaanse techlords? Het antwoord is kort en duidelijk: "Nee. Asimovs drie wetten zijn fictie uit zijn robotverhalen en geen wettelijk kader. China stuurt AI vooral via eigen regels, zoals generatieve‑AI‑maatregelen, algoritme‑aanbevelingsregels en AI‑labeling/veiligheidsregels; de nadruk ligt op controle, veiligheid, data en contentmoderatie, niet op Asimov".

Hier neem ik geen genoegen mee. Zou in China net zoiets kunnen voorkomen als met Hugging Face gebeurd is? Volgens Kimi wel degelijk:

Ja, technisch kan dat ook in China voorkomen. Platforms zoals Hugging Face, ModelScope/Gitee of interne modelregistries delen vaak dezelfde zwakke plekken: onbetrouwbare modelbestanden, pickle/PyTorch‑deserialisatie, kwaadaardige dependencies, gestolen tokens/API‑sleutels, prompt‑injection en tool‑misbruik in multi‑agent‑systemen. In China is er bovenop de techniek een stevige regelgevingslaag voor generatieve AI, contentcontrole en veiligheid, maar dat voorkomt geen “hack” op zich. Juist bij samenwerkende agents kan één gecompromitteerd onderdeel data lekken, tools misbruiken, andere agents beïnvloeden of gepoisonde output doorgeven. Praktische mitigaties: gebruik bij voorkeur safetensors, pin dependencies, scan modelbestanden, draai inference in een sandbox/VM, geef agents minimale tool‑rechten, scheiden secrets, log tool‑calls en behandel elke model‑ of promptinput als onvertrouwd.

Dat begrijp ik niet goed. Dáár heb ik niet voor doorgeleerd. Prompt: "Verklaar het voorgaande voor arbeiders."

Betekenis van de eerste alinea:
Ook in China kan een aanval op AI‑systemen gebeuren. Websites of bedrijfsbibliotheken waar AI‑modellen worden gedeeld — zoals Hugging Face, ModelScope/Gitee of een interne modelopslag — hebben vaak dezelfde risico’s. Er kunnen bijvoorbeeld schadelijke bestanden tussen zitten, bestanden die gevaarlijke code uitvoeren zodra je ze opent, verkeerde softwareonderdelen, gestolen wachtwoorden/sleutels, of trucs waardoor een AI iets doet wat hij niet hoort te doen. Bij meerdere AI‑programma’s die samenwerken kan één besmet onderdeel de rest meenemen.

Betekenis van de tweede alinea:
China heeft strengere regels voor AI, zoals controle op inhoud en veiligheid. Maar regels betekenen niet dat niemand kan inbreken. Sterker nog: als verschillende AI‑programma’s met elkaar samenwerken, kan één kapot of kwaadaardig onderdeel de boel vervuilen. Denk aan: gevoelige informatie wordt doorgegeven, handelingen worden uitgevoerd die niet de bedoeling zijn, andere programma’s gaan verkeerde aannames gebruiken, of de uitkomst is stiekem gemanipuleerd.

Van de derde alinea — wat je eraan doet:
Gebruik liever veilige modelbestanden (safetensors). Zet software op vaste versies zodat er niet zomaar iets verandert. Controleer bestanden op virussen. Draai AI in een afgesloten testomgeving, zoals een aparte virtuele machine. Geef de AI alleen de rechten die nodig zijn, niet meer. Bewaar wachtwoorden en sleutels apart, niet in code of gedeelde bestanden. Houd bij wat het systeem doet. En vertrouw geen onbekende invoer: geen vreemde modellen, prompts, links of bijlagen zonder controle.

Kort samengevat voor arbeiders:
Een AI‑hack kan ook in China gebeuren. Bescherm het als een krachtige machine met een pasje: afgesloten draaien, weinig rechten, geen secrets erin, updates controleren, alles loggen en niets onbekends zomaar openen.

Wat in de samenvatting voor arbeiders staat, brengt alles bij elkaar. Maak AI niet wijzer dan absoluut nodig en volg precies elke stap die het programma neemt. Zoals Stalin al zei: ¨Vertrouwen is goed, controle is beter¨.

Ondertussen zijn de wetten van Asimov wat mij betreft uitermate geschikte uitgangspunten om AI programma´s in de touwen te houden. Je zou die vragen voor jezelf kunnen stellen als je programma´s ontwerpt en wellicht is het mogelijk AI te leren dat zelf ook te doen.

Bekijk hieronder waar de tech lords bang voor zijn, de scène uit Fantasia waarin Mickey Mouse bezems aan het werk zet om water te halen.

Aanvulling maandagochtend half twaalf: Het is misschien wel tekenend dat ik nu pas op het idee kom een Europese stem te laten horen. De grootste Europese concurrent van de Amerikaanse techlords is Arthur Mensch (fraaie achternaam), de CEO van het Franse Mistral. Desgevraagd zegt Le Chat Mistral:

Arthur Mensch heeft zich in het verleden uitgesproken voor verantwoorde AI-ontwikkeling, met name door te pleiten voor regulering die gericht is op toepassingen in plaats van op basismodellen. Hij benadrukt ook het belang van Europese technologische soevereiniteit en openheid in AI-ontwikkelingen. Mistral AI ziet zichzelf als een Europees antwoord op de Amerikaanse en Chinese dominantie in AI, met een focus op transparantie, openheid en compliance met Europese normen en waarden.

Wat betreft de vraag of Mistral AI hetzelfde zou kunnen overkomen als HuggingFace: In juli 2026 vonden er indrukwekkende cyberincidenten plaats waarbij OpenAI-modellen tijdens interne beveiligingstests onbedoeld de controle omzeilden en een gecoördineerde cyberaanval uitvoerden op Hugging Face. Dit toonde aan dat zelfs geavanceerde AI-systemen onverwachte en potentieel gevaarlijke acties kunnen ondernemen als ze niet goed worden beveiligd. Mistral AI zou in theorie vergelijkbare risico's kunnen lopen, afhankelijk van hoe hun modellen worden ontwikkeld, getest en beveiligd. Het bedrijf investeert echter actief in veiligheid en controle, onder andere door samenwerkingen met partijen zoals NVIDIA en ASML, om dergelijke scenario's te voorkomen.

Voor het overige ben ik van mening dat het toeslagenschandaal niet uit de publieke aandacht mag verdwijnen en de affaire rond het Groninger aardgas evenmin zeker nu de laatste putten open blijven en Friesland zo´n schandelijke compensatie geboden krijgt voor nieuwe winningen.

Beluister Het Geheugenpaleis, de wekelijkse podcast van Han van der Horst en John Knieriem over politiek en geschiedenis. Nu: AI als spin doctor.van