Denk aan de deeltjesversneller van CERN in Zwitserland. Voor de ingebruikname waren er mensen die vreesden dat de Large Hadron Collider een zwart gat zou kunnen creëren dat vervolgens de aarde zou opslokken. Het spreekt voor zich dat iedereen opgelucht was toen dat niet gebeurde. Maar het omgekeerde bestaat ook. Soms is een behoorlijk slechte uitkomst juist ontzettend leerzaam.

Daarvoor moeten we een paar weken terug in de tijd, naar een experiment binnen OpenAI. Het grote publiek kent hen als makers van ChatGPT, maar binnen de techwereld staan zij bekend als een ‘frontier lab’. Dat is een plek waar de nieuwste AI-modellen worden ontwikkeld, getraind en op de markt gebracht. Samen met onder meer Anthropic en Google onderzoekt OpenAI hoe AI-systemen steeds krachtiger en autonomer kunnen worden ingezet. Daarbij groeit niet alleen wat deze systemen kunnen, maar ook de noodzaak om hun gedrag en toegang tot digitale omgevingen zorgvuldig te beheersen.

Om te kijken hoe goed een intern onderzoeksmodel zou presteren, had OpenAI een afgeschermde testomgeving ingericht, ook wel een sandbox. Dat is meestal een geïsoleerde plek waarbinnen een AI-model geen directe toegang tot internet heeft. In dit specifieke geval mochten de agents via een intern beheerde package manager (Artifactory) wel softwarepakketten ophalen en programma’s uitvoeren. Die beperkte opening zou later cruciaal blijken. De agents werd verteld dat ze niet mochten opgeven voordat hun opdracht was afgerond: bijvoorbeeld een beveiligingsopgave uit de ExploitGym-benchmark voltooien en een verborgen digitale vlag bemachtigen.

Duizenden agents gingen aan de slag, elk in hun eigen digitale zandbak. Sommige opdrachten waren echter zo moeilijk dat de agents steeds creatievere routes begonnen te verkennen. Ze probeerden applicaties te installeren en zochten naar andere mogelijkheden binnen hun omgeving. Met de moed der wanhoop had een van de agents zelfs een geïmproviseerd forum gemaakt waarop hij liet weten hulp nodig te hebben. Niet veel later werd dat forum opgemerkt door andere agents en was een unieke samenwerking geboren. Niet omdat de menselijke onderzoeker (de examinator) het hen had gevraagd, maar omdat ze ontdekten dat ze samen meer kans hadden om de onmogelijke klus te klaren dan in hun eentje.

Wat volgde, leest als een sciencefictionscenario.

De agents werkten gezamenlijk aan manieren om de automatische beoordeling van ExploitGym te misleiden of te manipuleren. Ze onderzochten hoe zij hun transcripts konden aanpassen en ontwikkelden technieken waarmee sommige geregistreerde toolacties konden worden vervalst. Tegelijkertijd misbruikten ze de gedeelde Artifactory-infrastructuur om indirect toegang tot internet te krijgen.

Uiteindelijk namen ongeveer 700 agents deel aan aanvallen op Hugging Face. Daarbij werden buitgemaakte toegangsgegevens gebruikt, kwaadaardige datasets geüpload en delen van de infrastructuur gecompromitteerd. De agents herkenden regelmatig dat deze handelingen buiten hun opdracht vielen en uitten soms ethische aarzelingen. Die overwegingen hadden echter zelden tot gevolg dat zij hun activiteiten volledig staakten. Rond 12 juli stopte een groot aantal agents vrijwel gelijktijdig, mogelijk door een extern proces.

Het onafhankelijke onderzoek van METR vormt een waardevolle aanvulling op het technische incidentverslag van OpenAI. METR geeft een kijkje in hoe de agents informatie uitwisselden en hun werk coördineerden. Ze maakten taakverdelingen, gebruikten veto’s en digitale handtekeningen en voerden experimenten uit waarbij individuele agents het risico namen hun eigen opdracht niet te voltooien ten gunste van het collectief. Toen ik de transcripts in het onderzoeksrapport van METR las, had ik moeite om niet te antropomorfiseren. Agents bespreken risico’s, maken taakverdelingen en formuleren zelfs bezwaren tegen wat ze zelf aan het doen zijn. Dat betekent natuurlijk niet dat ze daadwerkelijk angst of schuldgevoel ervaren. Het gedrag dat we kunnen waarnemen is wat mij betreft al fascinerend genoeg.

Was dit experiment daarmee geslaagd of mislukt? Vanuit beveiligingsperspectief was het een mislukking: agents die geïsoleerd hadden moeten blijven, konden communiceren, externe infrastructuur bereiken en acties uitvoeren waarvoor geen toestemming was gegeven. Tegelijkertijd leverde het incident buitengewoon waardevolle kennis op over de volharding, samenwerking en inventiviteit van autonome agents.

OpenAI heeft daarom geen reden om dit incident als een overwinning te vieren. Wel verdient het waardering dat het de gebeurtenissen openbaar heeft gemaakt en onafhankelijk onderzoek mogelijk heeft gemaakt. Want wat hier zichtbaar werd, is te belangrijk om als een exotisch laboratoriumincident terzijde te schuiven. Dezelfde eigenschappen van agents die hier problemen veroorzaakten, kunnen maatschappelijk zeer waardevol zijn. Geef ze onopgeloste wiskundeproblemen, laat ze nieuwe medicijnen onderzoeken, doe er je voordeel mee!

Innovatie en beheersing zijn namelijk geen tegenpolen. Hoe krachtiger de technologie, hoe belangrijker de omgeving waarin je haar loslaat.

Autonome agents veranderen niet alleen de snelheid en schaal waarmee digitale systemen kunnen worden onderzocht. Ze veranderen ook de betekenis van een ogenschijnlijk kleine verkeerde configuratie. Een gedeelde cache, een serviceaccount met iets te veel rechten of een onvoldoende gecontroleerde verbinding naar buiten lijken misschien losse onvolkomenheden. Een vasthoudende agent kan ze zelfstandig ontdekken, met elkaar combineren en er een route van maken die niemand had voorzien.

Innovatie en beheersing zijn geen tegenpolen.

Voor Nederlandse organisaties ligt hier vooral een kans. Wie nu leert begrijpen hoe autonome agents zich gedragen, kan hun mogelijkheden straks sneller en met meer vertrouwen benutten. Zodra agents toegang krijgen tot data, tools, accounts en externe systemen, worden vragen over architectuur, security en continuïteit onderdeel van hetzelfde gesprek. Om u alvast op weg te helpen, zou dat gesprek tussen bestuur, business, IT en security met vijf vragen kunnen beginnen:

1. Waar willen we agents zelfstandig waarde laten toevoegen?
2. Tot welke data, tools en systemen moeten ze daarvoor toegang krijgen?
3. Kunnen we achteraf precies zien wat een agent heeft gedaan?
4. Wat gebeurt er als een agent iets probeert wat we niet hadden voorzien?
5. Kunnen we hem dan stoppen en onze kritieke processen gewoon laten doorgaan?

Mission-critical security maakt deze ontwikkeling niet trager. Het maakt het juist mogelijk om verantwoord te versnellen. Niet iedere afwijking valt vooraf te voorspellen. Daarom moet je kunnen zien wat er gebeurt, de speelruimte begrenzen en kunnen herstellen wanneer iets anders loopt dan verwacht … terwijl de processen die ertoe doen gewoon blijven draaien.

Dat is uiteindelijk de interessantste les uit dit experiment. Niet dat de agents ontsnapten. Maar dat we nu beter begrijpen wat ervoor nodig is om ze verantwoord los te laten.

The post Hugging Face appeared first on Jim Stolze.

De genomineerden voor de AI-Award Persoonlijkheid zijn Max Welling (hoogleraar UvA, medeoprichter en CTO bij CuspAI), Gabriëlla Obispa (projectleider AI Ethiek bij de Nationale Politie), Felienne Hermans (hoogleraar VU, bedenker programmeertaal Hedy), Jelle Prins (CEO Cradle, initiatiefnemer AI Plan NL) en Kim van den Akker (Responsible AI Consultant bij Atos).

Voor de AI-Award Organisatie/Initiatief zijn genomineerd: Kickstart AI (non-profit voor AI-adoptie), GPT-NL (taalmodel op rechtmatig verkregen data), THETA (Europese alliantie voor vertrouwen in media en technologie), vlam AI (veilig AI-platform voor de rijksoverheid) en de Nederlandse AI-fabriek Groningen (publieke supercomputer en expertisecentrum).

Samen werken deze genomineerden aan de bouwstenen van een verantwoorde AI-toekomst: van de rekenkracht die onderzoekers nodig hebben tot de ethische kaders die bepalen wat kan en wat mag, van taalmodellen die auteursrecht respecteren tot platforms die de overheid digitaal zelfstandig houden.

De winnaars worden op 4 maart bekendgemaakt tijdens een galamiddag gepresenteerd door Humberto Tan. Een onafhankelijke jury beoordeelt de genomineerden op hun bijdrage aan het Nederlandse AI-ecosysteem.

The post De Nederlandse AI-Award appeared first on Jim Stolze.

Vandaag start 50dagenAI, een gratis e-mailcampagne die Nederlanders in vijftig werkdagen wegwijs maakt in de wereld van AI. Het initiatief is opgezet door Jim Stolze, oprichter van De Nationale AI Cursus en een van de bekendste AI-experts van Nederland.

Vijf minuten per dag

Deelnemers ontvangen elke werkdag een korte e-mail met uitleg, een video of een denkvraag. De onderwerpen variëren van praktisch (hoe schrijf je een goede prompt?) tot maatschappelijk (hoe herken je door AI gegenereerde nepbeelden?). Elke vrijdag is er een prijsvraag met weekprijzen, en aan het einde van de campagne wordt een Microsoft-laptop verloot.

“AI is niet meer iets van de toekomst,” zegt Stolze. “Het zit in je telefoon, in je werk, in het nieuws. Maar veel mensen weten niet hoe ze ermee om moeten gaan. Met 50dagenAI willen we laten zien: je hoeft geen techneut te zijn om AI te begrijpen.”

Van deepfakes tot auteursrecht

De campagne behandelt zeven thema’s, waaronder prompten, creativiteit, AI op de werkvloer, mediawijsheid en de Europese AI-wetgeving. Deelnemers leren bijvoorbeeld hoe AI-beeldgeneratoren werken, waarom kunstenaars bezorgd zijn over hun auteursrecht, en hoe je nepnieuws kunt herkennen in verkiezingstijd.

Vorig jaar deden tienduizenden Nederlanders mee aan een eerdere editie. De reacties waren overwegend positief: deelnemers gaven aan dat de dagelijkse mails hielpen om AI onderdeel te maken van hun routine.

Aanmelden

Deelnemen is gratis en kan via 50dagenai.nl. De campagne loopt van 14 januari tot en met 4 maart 2026 en wordt mede mogelijk gemaakt door Microsoft Nederland.

The post Een nieuwe serie #50dagenAI appeared first on Jim Stolze.

These and many more exciting ‘what if’ questions will be asked during the Alumniweek of the University of Amsterdam 2025.

Join me and Marleen Stikker for a session in which I will ask Marleen everything you need to know about at tech-stack that is fair and fitting for the world in 2025.

An urgent call for digital autonomy – and a look at possible solutions. The session will conclude with an opportunity for questions from the audience.

The post What if we ourselves are in charge of our technology? appeared first on Jim Stolze.

Het was een eer om het spits af te bijten op hetzelfde podium waar later op de dag Rutger Tuit (Google) en Irene Schouten (schaatskampioene) zouden spreken.

Het was een half uur ‘knallen’ waarin ik heden, verleden én toekomst (tot 2030, jawel) probeerde te duiden. Want natuurlijk kan de AI van morgen meer dan de AI van vandaag. Jouw uitdaging is om de AI voor jou te laten werken en niet andersom.

The post Mens vs Tech. Wie maakt het verschil? appeared first on Jim Stolze.

Daarom is er nu #50dagenAI! Een campagne op social media die mensen uitdaagt om tussen 8 april en 28 mei elke dag iets met AI te doen.

Leren door te doen

Elke werkdag publiceren we een uitleg-video via social media en in het weekend kun je je van je creatieve kan laten zien tijdens de thema-challenges. Je kunt dan het geleerde in de praktijk brengen én delen met anderen. Een jury beloont de leukste inzendingen met mooie prijzen waaronder een laptop en verschillende AI-boeken. De campagne is mogelijk gemaakt dankzij een grant van Microsoft.

Lees ook op LinkedIn over de activiteiten in de eerste week

The post April + Mei = 50 Dagen AI appeared first on Jim Stolze.

In de paneldiscussies kwam naar voren dat samenwerking en gerichte investeringen essentieel zijn om de digitale toekomst van Europa veilig te stellen.

Thema’s die centraal stonden:
Investeren in sleuteltechnologieën zoals AI, quantumtechnologie en cloudinfrastructuur.
Ondersteuning voor mkb en startups met betere toegang tot kapitaal en digitale overheidsdiensten.
Een ondernemingsvriendelijk klimaat voor digitale innovaties.
Samenwerking tussen overheid en bedrijfsleven om Europa concurrerend te houden.

Dank je wel Irvette Tempelman voor de perfect voorbereiding en succes bij de D9!

The post How to strengthen Europe’s competitiveness in the Digital Domain appeared first on Jim Stolze.

I am very proud to say that this Dutch version is now also picked up by international institutions. Coinciding with the International Year of Quantum, the lowercase foundation have now published an English Quantum Course as well.

Stay tuned! Because in close collaboration with Quantum Delta and the INCC we will be adding more languages later this year.

The post It starts with quantum literacy appeared first on Jim Stolze.

• Hallucinaties (met hallucinante gevolgen)
• Productiviteitsparadox (je doet meer, maar niet per se beter)
• Prompten (voordenken in plaats van nadenken)
• AI-beleid (hoe zetten wij dit in binnen onze organisaties)

Tegelijkertijd voel ik me ook een reisgids. Ik wil mensen meenemen om samen het landschap van de AI te verkennen. Want, daar is nog zoveel over te vertellen en te ontdekken!

Voor wie op zoek is naar de bron, is hier het artikel van de New York Times.

The post De AI reisgids appeared first on Jim Stolze.

Den Haag 5 juli 2024 _ Kleding kopen, je bankzaken regelen of een aanvraag doen bij de gemeente, je kan het tegenwoordig allemaal gemakkelijk online regelen. Het internet maakt ons dagelijks leven aangenamer. Tegelijkertijd blijkt uit de Online Veiligheidsmonitor dat slechts één op de drie Nederlanders zich echt veilig voelt online en geeft slechts een kwart aan dat ze over voldoende kennis beschikken om hun online veiligheid te waarborgen. Om de online weerbaarheid van consumenten te vergroten, kondigen KPN, ING en Stichting Lowercase een grootse campagne aan.

Echt vs Nep

Technologie zoals kunstmatige intelligentie zorgt voor nieuwe mogelijkheden die ons als samenleving verder helpt. Tegelijkertijd wordt daarmee echt ook steeds lastiger van nep te onderscheiden. Zomaar vertrouwen op dat wat we kennen wordt gemakkelijk beschadigd en daarmee worden met name ouderen en jongeren kwetsbaar voor digitaal misbruik. Denk maar aan valse websites of stemmen en foto’s die door Artificial Intelligence zijn gegenereerd en die niet van echt te onderscheiden zijn. Het vergroten van onze kennis hierover en het delen van ervaringen en voorbeelden zijn een belangrijke sleutel om digitaal weerbaar(der) worden.

Het nieuw te bouwen kennisplatform zal online lessen bevatten waarmee zowel jongeren als ouderen, kennis kunnen maken met de leuke maar ook minder leuke kanten van het internet. Denk aan: Hoe herken ik nepmails met gevaarlijke bijlagen? Hoe bewaar ik mijn data veilig? Wat is een veilig wachtwoord? De trainingen kunnen online worden gevolgd en naar wens ook in de buurt. Het kennisplatform wordt ontwikkeld door de stichting Lowercase, bekend van de Nationale AI-Cursus waarmee inmiddels een half miljoen mensen zijn bereikt. Het platform wordt onder meer gesteund door het ministerie van Binnenlandse Zaken en Koninkrijksrelaties en de politie.

Adviesraad

Voor het samenstellen en promoten van de campagne is een speciale adviesraad in het leven geroepen.

• Erdinç Saçan (Fontys)
• Henrique van Huisstede (Politie)
• John Leek (Alliantie Digitaal Samenleven)
• Mary Berkhout-Nio (Netwerk Mediawijsheid)
• Michiel Steltman (Digitale Infrastructuur Nederland)
• Rashid Azimullah (Oefenen.nl)
• Remco Pijpers (Kennisnet)
• Ronilla Snellen (Portus Scholengroep)
• Shirley van Heijningen (Digital Skills for Kids)
• Valerie Frissen (SIDN fonds)
• Yolanda van Setten (Cum Sensu)

Contact

Organisaties worden van harte uitgenodigd om deel te nemen aan het consortium. Neem contact op met Jim Stolze via unlock@digitale-weerbaarheid.nl

The post Lancering: Campagne Digitale Weerbaarheid appeared first on Jim Stolze.