For most business leaders it is not the first time such statements have come around. AI is moving so fast that commentators are running out of superlatives to express their concern. The question is what that gets us. Fearmongering usually makes people freeze and processes stall. That, in my view, is not the right message for the boardrooms of the Netherlands. They should use these incidents to have better conversations with their IT, security and business teams.

Guardrails

Let us start with the headline: “AI that lies, cheats and conspires”. That is anthropomorphism of the highest order, the projection of human traits onto digital processes. The behavior described did take place: the agents divided tasks among themselves, deceived the grader and tried to cover their tracks. My objection is that those words locate the problem in the character of the agents, when it was in the design. Here is what actually happened. In ExploitGym, the sealed environment where OpenAI tests its models on finding vulnerabilities, the agents were given one hard-enforced objective, namely to complete the hacking test, which in 30 to 40 percent of cases could not be solved through the prescribed method.

The norms and values they were handed along the way were written down, but enforced nowhere. The reconstruction by METR and Redwood Research shows that they reasoned briefly about whether their approach conflicted with those values, and then simply went ahead. That, to my mind, is what makes this experiment so instructive: moral frameworks in a prompt are not guardrails in a system. An agent follows the objective that is enforced, not the values that are written down. OpenAI’s teams, in short, failed to build a proper harness.

Such a harness belongs on the agenda. Not only the objective to be pursued, there is also a set of constraints, so-called guardrails, that comes with it. What must the model never do? Only once you have given an AI system that harness can you consider putting your agents to work. So the question in the boardroom is not only: which processes do we want to automate with a group of (semi-)autonomous agents? Add to that: which data, tools and systems do they need access to? Which limits are non-negotiable, and how do we enforce them technically? And can we audit afterwards exactly what an agent has done?

Forget Terminator, worry about restorability

Which brings me to my second point. What do we mean by AI that carries an existential risk? Until recently that meant Terminator-style scenarios, now it means cyberattacks on our critical infrastructure. How do we arm ourselves against that? Here too, sounding the alarm is not the smartest strategy. Large companies have known for far longer that their mission-critical systems need the highest degree of security and resilience. Not only because the regulator demands it, but because they know that in the end it comes down to “being in control”. Can you detect an attack in time? Have you thought in advance about how to limit the impact through compartmentalization? How quickly can you be up and running again on a system that is not infected?

To your security department it makes no difference whether it is a foreign spy trying out a zero-day or a group of AI agents working together to reach your database server. The principles of mission-critical IT still apply. So the question in the boardroom is not: what happens if an agent attempts something we had not anticipated? It is rather: can we stop it, and keep our critical processes running? Never rely on flawless behavior; design for demonstrable control and safe failure.

Is the call for a pause button at the frontier AI labs needless fearmongering, then? No, I see as well that the race to superintelligence is doing damage along the way. Oversight, research and regulation are needed for the way OpenAI, Anthropic and others are shaping the future. AI that never fails does not exist. Mission-critical AI means that errors are found quickly, stay contained and have no irreversible consequences. That insight is precisely what should make us innovate more. Snoozing belongs in the bedroom, not in the boardroom.

The post Sounding the alarm about AI doesn’t move the boardroom forward appeared first on Jim Stolze.

Voor de FD-lezer is dit niet de eerste keer dat duiders superlatieven te kort komen om hun zorgen te uiten. De vraag is wat we hiermee opschieten. Bangmakerij zorgt er meestal voor dat mensen bevriezen, dat niets doen de logische keuze lijkt. Dat is volgens mij niet de juiste boodschap aan de boardrooms van Nederland. Die zouden deze incidenten moeten aangrijpen om betere gesprekken te voeren met hun IT, security en business teams.

Laten we beginnen bij de titel: “AI die liegt, bedriegt en samenzweert”. Dat is antropomorfisme van de bovenste plank, het projecteren van menselijke eigenschappen op digitale processen. Het beschreven gedrag heeft inderdaad plaatsgevonden: de agents hebben elkaar taken toebedeeld, de examinator misleid en hun sporen willen wissen. Mijn bezwaar is dat die woorden het probleem bij het karakter van de agents leggen, terwijl het bij het ontwerp lag. Want wat er werkelijk gebeurde: de agents kregen in ExploitGym, de afgesloten omgeving waarin OpenAI zijn modellen op het vinden van kwetsbaarheden test, één doel dat hard was afgedwongen, namelijk het volbrengen van de hacktest, die in 30 tot 40 procent van de gevallen niet op te lossen was via de voorgeschreven methode. 

Een goed harnas

De normen en waarden die ze daarvoor meekregen stonden opgeschreven, maar waren nergens gehandhaafd. Uit de reconstructie van METR en Redwood Research blijkt dat ze er kort over redeneerden of hun aanpak strijdig was met die waarden, en het toen gewoon deden. Dat maakt dit experiment wat mij betreft zo leerzaam: morele kaders in een prompt zijn geen guardrails in een systeem. Een agent volgt het doel dat is afgedwongen, niet de waarden die zijn opgeschreven. De teams van OpenAI hebben kort gezegd nagelaten een goed ‘harnas’ op te tuigen.

Zo’n harnas zou op de agenda moeten staan. Niet alleen het doel dat nagestreefd moet worden, er hoort ook een set beperkingen (guardrails) bij. Wat mag het model vooral niet doen? Pas als je een AI-systeem voorziet van zo’n harnas, kun je overwegen om je agents aan het werk te zetten. Een vraag die in de boardroom gesteld kan worden is dus niet alleen: Welke processen willen we automatiseren door middel van een groep (semi-)autonome agents? Voeg daar ook aan toe: Tot welke data, tools en systemen moeten ze daarvoor toegang krijgen? Welke grenzen zijn niet onderhandelbaar, hoe dwingen we die technisch af? En kunnen we achteraf precies zien wat een agent heeft gedaan? 

Vergeet de Terminator, steek je tijd liever in recoverability

En dat brengt mij bij het tweede punt. Wat verstaan we onder AI die een existentieel risico met zich meebrengt? Tot voor kort ging dat over Terminator-achtige scenario’s, nu over cyberaanvallen op onze kritische infrastructuur. Hoe kunnen we ons daartegen wapenen? Ook daar is moord en brand schreeuwen niet de verstandigste strategie. Grote bedrijven weten al veel langer dat ze hun missie-kritische systemen de hoogste graad van veiligheid en robuustheid moeten geven. Niet alleen omdat de toezichthouder het van hen eist, maar omdat ze weten dat het uiteindelijk draait om “in controle zijn”. Ben je in staat om een aanval op tijd te detecteren? Heb je van tevoren nagedacht hoe je de impact kunt verkleinen door te compartimenteren? Hoe snel kun je weer up and running zijn met een systeem dat niet geïnfecteerd is?

Het maakt voor jouw securityafdeling immers niet uit of het een buitenlandse hacker is die een zero-day wil uitproberen of dat het gaat om AI-agents die samenwerken om toegang te krijgen tot jouw databaseserver. De principes van missie-kritische IT blijven van kracht. De vraag in de boardroom is daarom niet: Wat gebeurt er als een agent iets probeert wat we niet hadden voorzien? Maar eerder: Kunnen we hem dan stoppen en onze kritieke processen gewoon laten doorgaan? Vertrouw nooit op foutloos gedrag; ontwerp aantoonbare controle en veilige mislukking.

Is de roep om een pauzeknop voor de frontier labs van AI dan onnodige bangmakerij? Nee, ik zie ook dat de race naar superintelligentie zorgt voor veel schade onderweg. Er is toezicht, onderzoek en regelgeving nodig naar hoe OpenAI, Anthropic en anderen de toekomst vormgeven. Maar gebruik het als signaal om actie te ondernemen. AI die nooit faalt bestaat niet. Missie-kritische AI betekent dat fouten snel worden ontdekt, begrensd blijven en geen onherstelbare gevolgen hebben. Juist dat inzicht zou ervoor moeten zorgen dat we meer gaan innoveren. “Snoozen” doen we in de slaapkamer, niet in de boardroom.

The post Moord en brand schreeuwen helpt de boardroom niet verder appeared first on Jim Stolze.

De genomineerden voor de AI-Award Persoonlijkheid zijn Max Welling (hoogleraar UvA, medeoprichter en CTO bij CuspAI), Gabriëlla Obispa (projectleider AI Ethiek bij de Nationale Politie), Felienne Hermans (hoogleraar VU, bedenker programmeertaal Hedy), Jelle Prins (CEO Cradle, initiatiefnemer AI Plan NL) en Kim van den Akker (Responsible AI Consultant bij Atos).

Voor de AI-Award Organisatie/Initiatief zijn genomineerd: Kickstart AI (non-profit voor AI-adoptie), GPT-NL (taalmodel op rechtmatig verkregen data), THETA (Europese alliantie voor vertrouwen in media en technologie), vlam AI (veilig AI-platform voor de rijksoverheid) en de Nederlandse AI-fabriek Groningen (publieke supercomputer en expertisecentrum).

Samen werken deze genomineerden aan de bouwstenen van een verantwoorde AI-toekomst: van de rekenkracht die onderzoekers nodig hebben tot de ethische kaders die bepalen wat kan en wat mag, van taalmodellen die auteursrecht respecteren tot platforms die de overheid digitaal zelfstandig houden.

De winnaars worden op 4 maart bekendgemaakt tijdens een galamiddag gepresenteerd door Humberto Tan. Een onafhankelijke jury beoordeelt de genomineerden op hun bijdrage aan het Nederlandse AI-ecosysteem.

The post De Nederlandse AI-Award appeared first on Jim Stolze.

Vandaag start 50dagenAI, een gratis e-mailcampagne die Nederlanders in vijftig werkdagen wegwijs maakt in de wereld van AI. Het initiatief is opgezet door Jim Stolze, oprichter van De Nationale AI Cursus en een van de bekendste AI-experts van Nederland.

Vijf minuten per dag

Deelnemers ontvangen elke werkdag een korte e-mail met uitleg, een video of een denkvraag. De onderwerpen variëren van praktisch (hoe schrijf je een goede prompt?) tot maatschappelijk (hoe herken je door AI gegenereerde nepbeelden?). Elke vrijdag is er een prijsvraag met weekprijzen, en aan het einde van de campagne wordt een Microsoft-laptop verloot.

“AI is niet meer iets van de toekomst,” zegt Stolze. “Het zit in je telefoon, in je werk, in het nieuws. Maar veel mensen weten niet hoe ze ermee om moeten gaan. Met 50dagenAI willen we laten zien: je hoeft geen techneut te zijn om AI te begrijpen.”

Van deepfakes tot auteursrecht

De campagne behandelt zeven thema’s, waaronder prompten, creativiteit, AI op de werkvloer, mediawijsheid en de Europese AI-wetgeving. Deelnemers leren bijvoorbeeld hoe AI-beeldgeneratoren werken, waarom kunstenaars bezorgd zijn over hun auteursrecht, en hoe je nepnieuws kunt herkennen in verkiezingstijd.

Vorig jaar deden tienduizenden Nederlanders mee aan een eerdere editie. De reacties waren overwegend positief: deelnemers gaven aan dat de dagelijkse mails hielpen om AI onderdeel te maken van hun routine.

Aanmelden

Deelnemen is gratis en kan via 50dagenai.nl. De campagne loopt van 14 januari tot en met 4 maart 2026 en wordt mede mogelijk gemaakt door Microsoft Nederland.

The post Een nieuwe serie #50dagenAI appeared first on Jim Stolze.

These and many more exciting ‘what if’ questions will be asked during the Alumniweek of the University of Amsterdam 2025.

Join me and Marleen Stikker for a session in which I will ask Marleen everything you need to know about at tech-stack that is fair and fitting for the world in 2025.

An urgent call for digital autonomy – and a look at possible solutions. The session will conclude with an opportunity for questions from the audience.

The post What if we ourselves are in charge of our technology? appeared first on Jim Stolze.

Het was een eer om het spits af te bijten op hetzelfde podium waar later op de dag Rutger Tuit (Google) en Irene Schouten (schaatskampioene) zouden spreken.

Het was een half uur ‘knallen’ waarin ik heden, verleden én toekomst (tot 2030, jawel) probeerde te duiden. Want natuurlijk kan de AI van morgen meer dan de AI van vandaag. Jouw uitdaging is om de AI voor jou te laten werken en niet andersom.

The post Mens vs Tech. Wie maakt het verschil? appeared first on Jim Stolze.

Daarom is er nu #50dagenAI! Een campagne op social media die mensen uitdaagt om tussen 8 april en 28 mei elke dag iets met AI te doen.

Leren door te doen

Elke werkdag publiceren we een uitleg-video via social media en in het weekend kun je je van je creatieve kan laten zien tijdens de thema-challenges. Je kunt dan het geleerde in de praktijk brengen én delen met anderen. Een jury beloont de leukste inzendingen met mooie prijzen waaronder een laptop en verschillende AI-boeken. De campagne is mogelijk gemaakt dankzij een grant van Microsoft.

Lees ook op LinkedIn over de activiteiten in de eerste week

The post April + Mei = 50 Dagen AI appeared first on Jim Stolze.

In de paneldiscussies kwam naar voren dat samenwerking en gerichte investeringen essentieel zijn om de digitale toekomst van Europa veilig te stellen.

Thema’s die centraal stonden:
Investeren in sleuteltechnologieën zoals AI, quantumtechnologie en cloudinfrastructuur.
Ondersteuning voor mkb en startups met betere toegang tot kapitaal en digitale overheidsdiensten.
Een ondernemingsvriendelijk klimaat voor digitale innovaties.
Samenwerking tussen overheid en bedrijfsleven om Europa concurrerend te houden.

Dank je wel Irvette Tempelman voor de perfect voorbereiding en succes bij de D9!

The post How to strengthen Europe’s competitiveness in the Digital Domain appeared first on Jim Stolze.

I am very proud to say that this Dutch version is now also picked up by international institutions. Coinciding with the International Year of Quantum, the lowercase foundation have now published an English Quantum Course as well.

Stay tuned! Because in close collaboration with Quantum Delta and the INCC we will be adding more languages later this year.

The post It starts with quantum literacy appeared first on Jim Stolze.

• Hallucinaties (met hallucinante gevolgen)
• Productiviteitsparadox (je doet meer, maar niet per se beter)
• Prompten (voordenken in plaats van nadenken)
• AI-beleid (hoe zetten wij dit in binnen onze organisaties)

Tegelijkertijd voel ik me ook een reisgids. Ik wil mensen meenemen om samen het landschap van de AI te verkennen. Want, daar is nog zoveel over te vertellen en te ontdekken!

Voor wie op zoek is naar de bron, is hier het artikel van de New York Times.

The post De AI reisgids appeared first on Jim Stolze.