Het onderwerp: de wereld na 11 september.

Mijn schrijven raakte het digitale papier in 2002 en volledig onverwacht, won ik de wedstrijd en mocht ik het in een groot Amsterdams theater voordragen.

Ik was bloednerveus en moest op na Theo van Gogh, die backstage ontwapenend vriendelijk was geweest, maar die eenmaal op het podium de hele zaal woest wist te maken.

Ik overleefde het, de zaal waardeerde het en de jury stak me nog wat veren in de derrière.

Vanavond, las ik dat eerste schrijven nog eens door. We zijn 24 jaar verder in de tijd, ik vroeg me opeens af hoe het toen ook alweer was.

Humour me, mijn allerbeste internetvriendje en lees het zelf: De wereld na 11 september

Maar mocht ook gij ten prooi zijn gevallen aan de korte-aandachtsspanne-pandemie die heerst, laat me dan dit zeggen.

11 september 2001, veranderde alles. Niet alleen voor moslims, maar zeker ook voor moslims.

Maar ook voor Nederland en voor dat wat men de “multiculturele maatschappij” noemt.

Alsof er een andere maatschappij is dan gewoon dé maatschappij en alsof we het bonnetje ervan kunnen bewaren en het weer in kunnen ruilen voor die gefantaseerde non-multi-culti-maatschappij.

En sure, ook vóór 11 september, waren er scheurtjes aanwezig. En nogmaals sure, het polderende Nederland had nog veel stappen te zetten op weg naar volwassen gesprekken over ras, integratie (both ways), vrouwen en meer.

Maar de versnelling  die de beelden uit Amerika en alles wat daarop volgde, veroorzaakten. Dat is lastig te ontkennen.

Het is 24 jaar na mijn eerste essay. En waar mijn geduld toen nog eindeloos was én ik (en dat verraste me) nog bereid was om mijn bestaansrecht in het Nederlandsche te onderbouwen, voel ik die behoefte anno 2026 al een tijdje niet meer.

Vele lede ogen, vele ongelovige oren later en honderden artikelen over alles wat na dat essay volgde, is mijn geduld met racisme, vrouwen- en homohaat, en moslimhaat op.

De boze burger kan me aan mijn derrière oxideren en de ongeruste hooligan zoekt het maar uit.

Ik heb meer dan 20 jaar hun gejammer aangehoord en het heeft niks beter gemaakt.

Ik richt mijn energie nu primair (maar niet enkel, Vos/streken) op de mensen die net als ik toen,  zelfvertrouwen, steun en identiteit nodig hebben, zodat ze weerbaar zijn in wat er nog komen gaat.

Vast alleen maar mooie dingen. Maar just in case, investeer ik ook in een toekomst die minder gezellig is voor wie zichtbaar *de ander* is.

Het heeft een paar decennia geduurd, maar ik heb mijn les geleerd. Yay voor mij.

The post Het is in elk geval niet beter appeared first on Xa4a.net.

Dat klinkt een beetje vaag, merk ik terwijl ik dit tik. Maar dat valt mee hoor.

De serie startte met de titel Fascinerende Vrouwen en met een ochtend waarop ik veel te vroeg op en (koffie)wakker. Ik bedacht die vroege ochtend dat ik een video-serie wilde maken over Fascinerende Vrouwen in de aanloop naar vrouwendag. Korte bites van maximaal 8 minuten, die zelfs social media goudvissen zouden moeten kunnen vasthouden.

Mijn project startte – zoals wel meer projecten – met een gerichte vraag aan Google, om te komen tot een masterlijst van interessante vrouwen. Google spuugde braaf Aletta Jacobs en consorten uit en heel even overwoog ik het.

Maar, ongeveer tegelijk met deze ochtend vond de half time show van Bad Bunny plaats. Terwijl ik de namen in mijn Google resultaten bekeek, moest ik daar aan terugdenken. En dan specifiek aan het moment waarop de vlaggen over het veld gingen. Waaronder die van Curacao, Bonaire, Sint Maarten ….en die van Aruba. En ik moest denken aan hoe dat moment mij geraakt had, right in the feels.

Natuurlijk had ik dat zitten uitpluizen, want ik ben niet zo feely. Waarom had ik opeens tranen in mijn ogen bij het zien van de Arubaanse vlag? Ik schreef er al eerder over, maar herhaal het hier graag. Samenvattend: was het een klein moment van gezien worden. Niet als Tropisch decor of vertegenwoordiger van een mooie vakantiebestemming of lelijk vooroordeel. Maar als Arubaan.

Wat Bad Bunny tijdens zijn show deed, met de vlaggenparade. Was een hele groep mensen (zeker zij in de diaspora) het gevoel geven dat er direct tegen hén gesproken werd. Zonder dat hij dat letterlijk hoefde te zeggen. En als onderdeel van de diaspora, raakte me dat. Want dat had ik nog niet op die manier en hier meegemaakt.

Wat hij kan, dat kan ik ook, dacht ik onrealistisch. Maar als je niet durft te dromen, wat doe je hier dan?

Dus ik besloot mijn serie niet te bouwen op Aletta, maar op Nydia Ecury, Johanna Schouten, One Tete Lohkay en anderen uit de brede (koloniale) geschiedenis van Nederland. Zonder dat overigens zo specifiek te benoemen of er een punt van te maken. En ook zonder specifiek kijkers uit te sluiten. Want die brede geschiedenis zou interessant moeten zijn voor iedereen die in Nederland leeft of geinteresseerd is.

En zo ging ik aan de slag.

Inmiddels staat de 12e video online. Op:

• TikTok
• YouTube
• Facebook (gewoon mijn reels, geen playlist)
• Instagram
• En als je liever leest, vind je ze ook hier.

Maar nog veel interessanter is dat de video’s over alle platformen heen, meer dan 80.000 keer zijn bekeken. En dat is niet zozeer interessant voor mijn ego (ook), maar vooral om waar het op hint: dat er meer mensen zijn zoals ik, met een dorst voor content/verhalen over Nederland in de breedste zin van het woord. Wat ik na mijn research begrijp overigens. Want hoewel er (extra de laatste jaren) steeds meer informatie beschikbaar is, is het nog steeds best beperkt.

Mijn rol is zeer marginaal. Ik ben niet degene die het harde werk heeft gedaan om informatie op te graven uit diepe (beer)putten. Het enige dat ik kan doen is het harde werk van anderen researchen, dat comprimeren, daar een script van schrijven (dat doe ik in de avond op de bank) en dat op video vastleggen en te edit’en (dat doe ik snel snel in mijn pauze). Mijn dayjob gaat namelijk ook gewoon door. Maar de dorst is er en nu ik weet dat ik daar niet alleen in ben, zet ik de serie ook na vrouwendag door. Van Fascinerende Vrouwen, naar Fascinerende Verhalen.

Ik heb er geen grootste en meeslepende ambities mee, alleen hoop dat een klein beetje van de dorst gelest wordt, dat misschien hier en daar iemand na het zien van een video, zelf op onderzoek uitgaat en dat mijn mini-bijdrage bij een enkeling impact heeft. Maar als dat allemaal niet lukt, heb ik in elk geval impact gehad op mijn eigen kennis. En dat is het sowieso waard.

The post Fascinerende verhalen appeared first on Xa4a.net.

Het is niet dat ik verwacht dat het slecht wordt, maar omdat theater zo direct is. Geen montage of tweede kans. Als iets niet landt, dan landt het niet en als je je tekst vergeet, dan heb je pech. En dan moeten wij dat meemaken, met z’n allen, live.

Waarom zit je dan in het theater, vraag je je nu af. En dat is een goede vraag punt nl.

De afgelopen weken heb ik een serie gemaakt over Fascinerende Vrouwen. Een serie verhalen over sterke en interessante vrouwen van vroeger en nu. Naar aanleiding daarvan, kreeg ik een kaartje voor deze voorstelling cadeau.

House on the wind

House on the Wind is de naam van het stuk dat zich afspeelt op Curaçao in de jaren ‘60 en gaat over twee broers die in een schuurtje zelf raketbrandstof ontwikkelen. Ze doen dat in een geïmproviseerd laboratorium en gebruiken oude spullen van Shell.

De broers raken tijdens de voorstelling grote thema’s zoals klimaatverandering (en wat dat betekent voor de eilanden), politieke spanningen, de rol van de grootmachten, maar ook hun eigen dromen, ambities en ideeën over zichzelf.

En…het is afrofuturisme.

Het is wat?

Wist ik wat dat is? Nee kind dat wist ik niet. Maar nu ik het wel weet, ben ik gefascineerd.

Afrofuturisme gebruikt verbeelding en toekomstdenken om zwarte en diasporische ervaringen niet alleen vanuit koloniale geschiedenis te bekijken. Maar vanuit de vraag: wat bouwen wij zelf?

Google vertelt mij dat Wakanda uit Black Panther Afrofuturism is en de boeken van Octavia Butler (bijv. Parable of the sower, die ik toevallig nét uit heb).

Als scifi lover, ben ik direct verkocht.

Ondanks mijn pre-cringe zit ik dus verwachtingsvol in de zaal.

Een veilig lijf

En ergens in de eerste paar minuten al, relaxt mijn lijf, zakken mijn schouders en ben ik samen met de acteurs op reis.

Maar eerlijk: ik kan ook niet anders dan meereizen, want Jörgen Gario en Michael Wanga nemen ons – het publiek – expliciet mee. Ze maken oogcontact, spreken ons direct aan, stellen vragen en die zijn weliswaar retorisch, maar het maakt mij onderdeel van het podium en soms medeplichtig.

Het voelt intiem. Extra omdat ze ervoor hebben gekozen om de dialogen regelmatig eerst in het papiamento uit te spreken en dan pas te vertalen naar het Nederlands. Maar de intimiteit zit niet zozeer in het gebruik van de taal die voor mij óók thuis is, maar in de kleine stukjes die ze niet vertalen.

Die paar momenten voelen tegelijk vanzelfsprekend, natuurlijk begrijp ik Papiamento, maar ook bijzonder. Want ik woon en werk nou eenmaal niet in een land waar Papiamento de regel is, maar de uitzondering. En dat is in deze ruimte anders. Zonder dat iemand wordt buitengesloten. De shift is op de een of andere manier subtiel, maar ook heel voelbaar: ik ben even niet de minderheid, maar de doelgroep.

En zoals ik in mijn marketing-werk vaak aan klanten moet uitleggen, betekent het kiezen van een doelgroep niet, dat je andere mensen uitsluit, maar enkel dat je focus kiest.

Je moet vloeibaar zijn

Wie een “migratie-achtergrond” (buitenlander > allochtoon > migranten > nieuwe Nederlander) weet dat er meerdere talen zijn die je vloeibaar moet spreken. Linguïstisch, maar ook sociaal. Waarom is je haar zo, waarom is je cultuur zo, waarom is je eten zo, waarom is je regel zo, waarom, waarom, vaak binnen elk van de culturen waar je onderdeel van bent.

Ook als de vraag niet expliciet wordt gesteld, bestaat het impliciet. Jij bestaat, impliciet in relatie tot een norm, die van je vraagt om jezelf te vertalen.

Dat is overigens geen klacht. Al is er genoeg kritiek te hebben. Maar het is ook gewoon hoe het is. In mijn stoel op de voorste rij, valt dat even weg en dat voelt rustig. Wat me overigens doet realiseren hoeveel energie dat “vertalen” eigenlijk vaak kost.

Er is meer dat me opvalt. Bijvoorbeeld het Nederlands. Het is het type Nederlands dat wordt gesproken in culturele instellingen, beleidsstukken en bestuurkamers. Voor de duidelijkheid, ook door Arubanen en Antillianen, maar het lijkt soms, door specifieke woordkeuzes niet helemaal te passen bij dit verhaal.

De muziek is mooi: gelaagd, soms meditatief, soms somber. Er zit dezelfde melancholie in die onder het verhaal door stroomt. Maar de Caribische link verlies ik in de muzikale aankleding licht.

En als je thematisch sterk verankerd bent in het Caribisch gebied, in Curaçao, in de geschiedenis van extractie, in klimaatgevolgen die specifiek eilanden treffen, dan zijn muzikale keuzes toch ook betekenisvol.

Het stuk beweegt daardoor nog meer tussen werelden en klinkt niet volledig Caribisch en ook niet volledig Europees. Wat ergens wel klopt eigenlijk. Want dat is de positie van de diaspora: tussen werelden in.

Afrofuturisme & me

Deze voorstelling mijmert over een geschiedenis waarin twee jongens het onmogelijke doen. En het gebruikt dát verhaal om te duiden hoe de werkelijke geschiedenis eruit zag en licht een tipje van de sluier op en laat zien hoe verschillende mensen, verschillend kijken, naar dezelfde Caribische omstandigheden.

Een deel van mij wil roepen: neeee, doe helemáál scifi. Laat los wat er écht is gebeurd en maak een verhaal waarin koloniale tijden helemaal niet hebben bestaan. Want bestaan we niet al genoeg in relatie tot dat verhaal?

Een ander deel van mij, schudt het hoofd naar dat eerste deel. Want House on the Wind vertelt een verhaal dat er ook is en moet zijn.

Beide mogen er zijn. Futurisme dat meeneemt wat er echt gebeurd is en een eigen twist introduceert. Maar ook futurisme dat de geschiedenis verwerpt en een volledig eigen spoor creëert.

De kracht van de diaspora is het vermogen om meerdere realiteitsbeelden tegelijkertijd te dragen en erbinnen te bewegen. In House on the Wind, laten de mannen dat in elke laag van de voorstelling zien, voelen en horen. Hun verhaal is mijn verhaal, mijn verhaal is tegelijkertijd compleet anders, maar dat kan er allemaal zijn, in dat theater, op de voorste rij.

Het mijmeren gaat nog even door

Na de voorstelling, is er naast een staande ovatie ook pastechi. Ik dwing mezelf om er niet meer dan één te pakken, maar gemakkelijk is dat niet.

Eenmaal thuis, denk ik nog lang na. Over taal en thuis voelen. Over gezien worden en focus tegenover het bestaan als Tropisch decor. House on the Wind is niet alleen een mooie voorstelling, met twee zeer charismatische acteurs (die mijn pre-cringe wisten te weggen), maar het laat je mijmeren over de grote dingen: identiteit, veiligheid, macht, reactiviteit. Ik ben nog lang niet uitgemijmerd en ik denk dat een avond theater precies dat met je moet doen.

Meer informatie over House On the Wind

The post House on the Wind: de rust van niet vertalen appeared first on Xa4a.net.

En als ik WOEST ben, moet ik iets maken. Erover geschreven heb ik al 1000 keer, erover praten, debateren, presenteren, allemaal gedaan. Dit keer kun je dansen op wat ik te zeggen heb of Woest meezingen.

Tekst voor woest meezingen:

Je bent te mooi om klaar te zijn
Je bukt te diep om vrij te zijn
Ze geven je niks, en jij zegt fijn
Zolang je danst, ben jij van mij

Je neemt zijn naam , je betaalt met je ziel
Je krijgt de likes, maar de prijs is real
Je denkt dat je wint, maar het is niet jouw spel
Je mag shinen, maar nooit te fel

Alles te koop, behalve je rust
jij knikt braaf, speelt met zijn lust
Je zwijgt met je stem, maar je body praat

…….Elke 8 dagen 1 van ons weg door – HAAT!

Je bent te mooi om klaar te zijn
Je bukt te diep om vrij te zijn
Ze geven je niks, en jij zegt: faain
Zolang je danst, ben jij van mij

Je loopt in drip, maar je hart zit vast
Je huurt je glans, je leent je kracht
Je zegt dat je kiest, maar zij kiezen jou
Voor je look, voor je vibe, een goede vrouw

Hij meet je waarde, voor die tafel
Is hij je baas of is hij je vader

Je LIJF is NIET van jou
je bent..je blijft een vrouw

Te mooi, te slim, te lang, te kort, te luid, te oud, te dik, te dun,
Te jij
Veel te jij

Te mooi, te slim, te lang, te kort, te luid, te oud, te dik, te dun,
Te jij
Veel te jij

Zolang je zwijgt, blijf je mooi
Zolang je bukt, blijft de kooi

Wil je lief, wil je slim
Wil je stil, maar wel met pit
Wil je mooi, maar wel op zijn manier
Wil je lijf, maar kijkt weg als je zegt je BREEKT!

Je bent te mooi om klaar te zijn
Je bukt te diep om vrij te zijn
Ze geven je niks, en jij zegt: fijn
Laat hem gaan, zijn moment is voorbij

Je bent te mooi om klaar te zijn
Je bukt veel te diep om vrij te zijn
Geen straks, geen misschien

You dropped THIS queen

blijf jij.. blijf jij ….blijf jij

Soundcloud: https://soundcloud.com/xaviera-ringeling/je-bent-te-mooi

The post Woest appeared first on Xa4a.net.

Dat is vervelend. En dan druk ik me zacht uit. Wie wel eens met vrees in het hart de comments heeft opengeklikt, weet dat “vervelend” nu al het understatement is van 2026.

De afgelopen 10 jaar is daar nog een factor bij gekomen: misinformatie, disinformatie en schaamteloze beïnvloeding van het politieke narratief door psychologische spelletjes waar Pavlov én Freud zich voor zouden schamen (en Freud schaamt zich niet snel).

De afgelopen jaren (zo sinds ook Gaza een onderwerp van gesprek is), is daar een éxtra laag aan toegevoegd: een onrustige, bijna ongelooflijke geopolitieke situatie, opgeteld bij een interne situatie in de Verenigde staten (leer jezelf aan om het de VS te noemen, Amerika is een continent), die veel verder gaat dan “zorgwekkend”.

Combineer die realiteit met social media platformen die Trump enthousiast omarmen en je hebt een recept voor wat steeds vaker aan het gebeuren is: stemmen die kritisch zijn op het gewenste narratief, worden steeds vaker algoritmisch onderdrukt of zelfs verwijderd.

G-e-e-n

En dat is een zorgwekkende ontwikkeling. Extra omdat platformen bijzonder weinig (dat spel je g-e-e-n) verantwoordelijkheid nemen.

Dit gebeurde mij bijvoorbeeld gisteren.

Ik postte een filmpje van De Correspondent. Het ging over de Amerikaanse situatie, de impact hier, en duidde dat. De post werd meer dan 10.000 keer bekeken, kreeg bijna 200 reactions en werd zo’n 60 keer gerepost.

Toen ik na mijn gitzwarte koffie vanmorgen nog eens ernaar keek, was de post opeens verdwenen.

Huh?

En dus niet alleen de post, maar ook alle reposts, met volledige bijdragen van reposters. Niet cool. Ik vroeg dan ook (retorisch hoor, ik denk niet dat LinkedIn gaat antwoorden) om opheldering van de LinkedIn-goden en of we nou in censuur zijn beland.

Dat zijn we overigens. Al een tijdje. Kritische stemmen over Gaza worden al langer zonder pardon verwijderd van allerlei platformen. Maar toch vroeg ik het maar even.

Automagisch en algoritmisch

Voor de duidelijkheid, ik denk echt niet dat LinkedIn een spoedvergadering heeft gehad over mijn post. Wat ik wel denk ik dat hun algoritme de post (zeker na de hoeveelheid aandacht die het kreeg) gevlagd heeft en hun systeem automagisch mijn bericht heeft verwijderd. Of het nu om de inhoud ging of om een andere, ondoorzichtige reden, dat is precies het punt: ik weet het niet, en zij vertellen het niet.

Lelijk, maar ook een interessant fenomeen.

Want in een tijd waarin fascisme zijn zeer lelijke kop opsteekt (of als je heel positief wil zijn authoritarianism), is zogenaamde objectiviteit gebakken in algoritmes, potentieel medeplichtigheid.

Een kleine sidequest

Nu wil je misschien met mij in discussie. Misschien wil je wel claimen dat pro-fascistische posts ook worden geweerd. Of pro- autoritaristische posts. Weet ik niet, die post ik namelijk zelf niet. Maar los daarvan, wijs ik je hier dan graag op je denkfout.

Fascisme, Racisme, Autoritarisme en dat soort meuk, is geen mening. Het zijn (potentieel) strafbare concepten met consequenties in de echte wereld, zoals we nu in de VS zien, maar ook op Europese bodem al jaren naar turen.

En ja, natuurlijk mag je heel enthousiast worden ervan, doe je ding chicken wing, maar wel tot een bepaald punt. Overigens ook een punt dat niet enkel algoritmisch AI gedreven moet zijn.

Maximale impact, minimale verantwoordelijkheid

Nou even weg van de inhoud: waar het al even schuurt is namelijk dit. Social media heeft ernstig veel impact op mensen, op maatschappijen en dus op de wereld. Maar het hoeft tergend weinig verantwoordelijkheid af te leggen in relatie tot die impact.

En dat is niet eens alleen politiek. Heb je wel eens geprobeerd om met Facebook in contact te komen, als er iets misgaat met je advertenties of gewoon je account? En ik noem Facebook, maar datzelfde geldt voor echt alle social media.

Je mag wél content maken, waarmee zij dan weer miljoenen verdienen. Soit. Maar je bent en blijft disposable en hoewel je data goud waard is, niet zo belangrijk.

En gaat er iets mis, dan geven ze dus niet thuis. Maatschappelijk niet, politiek niet, persoonlijk niet. Dat is een recept voor de ellende die we al even zien uitkristalliseren.

Neutraliteit: cute, niet feitelijk

Met de huidige politieke staat van de wereld, is dat algoritme dat nooit neutraal was, nu nog meer dan dat: het is medeplichtig. En AI/the algorithm made me do it, is een karig en slecht verweer. Voor social media, voor bedrijven én voor individuen. The human in the loop is degene die consequenties in de echte wereld kan plaatsen en zelfs soms moet dragen. Dat is gezond. Dat is een veiligheidsriem in een auto die dwars door de straten van een drukke stad aan het racen is.

Social media zoals het nu bestaat, is structureel onverenigbaar met een gezonde informatiesfeer op langere termijn. De combinatie van winstmaximalisatie, de aandachtseconomie, schaalbaar automatisch modereren en geopolitieke spanningen zorgt voor een systeem dat per definitie sommige narratieven versterkt en andere juist smoort. Nee, (meestal) niet niet omdat er een kwaadaardig brein achter zit, maar omdat dat de goedkoopste, meest schaalbare manier is om advertentie-inkomsten te genereren.

Terug naar 2001

Social media hebben te veel macht en die geven wij zelf weg. De platformen gebruiken die macht onverantwoordelijk en met de verkeerde incentives en die remmen we te weinig af. En ze leggen te weinig verantwoording af want de zeldzame boetes, kunnen ze wel lijen. Het is (al even hoor) tijd om terug te gaan naar het sociale internet zoals we ooit begonnen. Met blogs, met blogrolls (lijstjes met links naar sites die ook interessant zijn), met reciprociteit tussen makers en met een publiek dat daden bij woorden voegt: social media bah? Bookmark dan je favoriete artikelen, meld je aan voor nieuwsbrieven van je favoriete schrijvers of creators. Het is echt tijd om social weer terug te brengen in social media. En dat kost wat moeite, maar het levert ook wat op: echt stemmen, niet gericht op algoritmes, maar op mensen.

Ik heb de video van de Correspondent bewaard. Mijn irritatie (voor zover die deze zondag ruimte krijgt), is principieel en niet emotioneel. Het heeft me een haakje gegeven voor een gevoel dat al een paar jaar in mijn hoofd aan het rondstuiteren is. Waarvoor dank LinkedIn.

Hier vind je de video van de correspondent. Mijn advies: upload het zelf naar LinkedIn. Gewoon om hun algoritme een lesje te leren!

 

Dit bericht op Instagram bekijken

 

Een bericht gedeeld door De Correspondent (@decorrespondent)

The post De human in the loop, algorithmic complicity en terug naar het echte internet appeared first on Xa4a.net.

Na een weekje op z’n plek en wat ouderwetsch harde sneeuwbuien moest ik goed turen om mijn eigen bak te herkennen. Maar een klik op mijn sleutel wees hem voor me aan.

Zoals altijd – optimist die ik ben- probeerde ik met mijn ruitenwissers de sneeuw te weggen. Zoals altijd, lukte dat totaal niet. Dammit, ik had de ruitenkrabber thuis op de trap laten liggen, precies op de plek waar ik er niks aan had.

In mijn eindeloze luiheid, besloot ik dat er vast nog eentje in mijn kofferbak moest liggen. Ik drukte op de knop, terwijl ik geconcentreerd luisterde (voor de 5e keer) naar The Dark Tower, ingesproken door een stemacteur die mij in zijn ban hield via mijn grote en fijne headset.

Ik stapte uit en tilde de klep omhoog. Zwaarder dan normaal, voelde dat, maar Roland of Gilead (IYKYK) drukte die gedachte direct weg. Heel even hield ik de klep nog vast voordat ik bukte om te turen in de bak.

BAM!

Een harde klap, het gevoel dat mijn hoofd uit elkaar sprong en heel even een compleet gele wereld. Geel? Ja alles was even geel.

FUCK, riep ik vanaf de grond, geveld door de extra zware klep van mijn favoriete Duitser.

De wereld klikte weer terug naar z’n normale kleur. De helende hand van een krachtterm.

FUCK! Schreeuwde ik nog een keer. Maar alle deuren en ramen bleven dicht. Goed geïsoleerd hier, ik bleef alleen. Angstig raakte ik mijn hoofd aan. Het voelde nat. OMG…OMGGG

Heb ik een uitgebreid talent voor drama? Ja! Maar ik was ook net KEIhard op mijn hoofd geslagen door mijn eigen auto én had de wereld van zijn geelste kant gezien he! Ik denk dat ik nog best ruimte had voor extra drama.

Het was echter geen bloed, maar gewoon sneeuw. Duh.

Ik besloot weer in de auto te gaan zitten. Met trillende handen en na een paar infantiele traantjes, vermande ik me: kom op, je bent geen 5.

Ik verwijderde de sneeuw van de auto, schudde mezelf mentaal door elkaar, startte de motor en rolde langzaam richting mijn afspraak.

Twee straten verder realiseerde ik me, kotsmisselijk nu, dat het best eens verstandig zou kunnen zijn om helemaal nergens heen te gaan. Ik rolde weer terug, parkeerde de auto (die ik niks kwalijk neem) en wandelde licht wankel mijn huis weer in.

Dekentje erbij, katten ernaast, dokter Google in mijn hand en met een stinkende koppijn. Maar nog heel en megablij met de koptelefoon die ik normaal regelmatig gebruik om anderen niet te hoeven horen. Die ving namelijk een deel van de klap op. Wat fijn is, want dit weet jij dan misschien niet, maar de wereld is een stuk minder leuk als alles geel is.

Dus ja, new year, new me. Dit wordt het jaar waarin ik slechts 1 keer een harde klap op mijn hoofd ga krijgen. En het goede nieuws is dus dat die keer al is geweest. Het wordt een mooi jaar.

The post Gele sneeuw, maar dan anders appeared first on Xa4a.net.

To do that, you need a source: a knowledge base, product information, policy documents, or just your website (though using that last one is often a terrible idea).

Between that source and the output to the customer sits the LLM and also a prompt that steers what that LLM does exactly.

Check.

But then you notice the output is just not good enough. Not precise enough, not factually correct, not reliable enough for customer communication.

Your first reaction? Let’s tinker with the prompt. And honestly, sometimes that helps.

But in most cases, it’s not your prompt. It is just your source data that sucks. It’s poorly tagged and poorly modeled. You might tighten things up a bit with your prompt, but you can’t prompt your way out of a data issue.

So you look for other solutions.

The source

Your source usually consists of a mix of structured data (tables, databases, structured fields) and unstructured data (texts, documents, policy pieces). Plus, it often mostly consists of things that fall somewhere in between those two. The binary idea of structured versus unstructured is a reality for slides, not for the daily roll-up-your-sleeves reality.

That last bit aside #sidequest, back to the data.

Okay, simple structured data like references, definitions, key-value pairs? That goes through your GenAI pipeline fairly easily without losing too much semantic integrity. Simple data can be kneaded and pulled through systems while keeping its meaning. Not because GenAI is explicitly good at this, but because structured data intrinsically has less relational vulnerability (it is structured right).

But as soon as you’re dealing with unstructured data OR structured data that contains relational meaning (policy rules with conditions, product catalogs with exceptions, regulations with references to other sections), you run into problems. Because the meaning of that data lives in the relationships between pieces of information, not just in the information itself.

Still with me? Because here’s where RAG takes the stage as a solution for  your meaning/semantic problem.

RAG lends a hand

Retrieval-Augmented Generation (RAG) gets deployed to reduce hallucinations and to ground the output in your own organization’s knowledge.

With RAG, you give the LLM access to your documents, so it doesn’t just generate based on its training, but also based on your company-specific information.

It makes sense that RAG improves what the LLM spits out, now that you have limited what it can look at. For specific types of information like references, definitions, and stable facts, RAG usually works great. However for everything where meaning is relational? It gets complicated.

Remind me: what does RAG do?

RAG looks roughly like this:

Your source documents get divided into smaller pieces. Usually paragraphs or sections of a few hundred words.

Those chunks get converted into embeddings (numerical representations of text that make it possible to calculate which pieces of text are semantically similar).

The system calculates which chunks best match what’s being asked and retrieves those. Only those most relevant pieces get shown to the LLM when generating.

Every step in this process is a transformation of what got pulled from your source. And with every transformation, the meaning of that piece, its semantic integrity, can be lost. The meaning can shift. Sometimes subtly, sometimes obviously.

This doesn’t happen because the data factually disappears or literally gets changed, but because the context needed to correctly apply that data disappears.

An example

Let’s walk through the steps:

Say you have the following two paragraphs somewhere in your documentation:

Paragraph 1:

“Customers with a Sustainable Home Loan automatically receive an interest rate discount of 0.3% starting in 2024. The discount applies to all existing loans that fall under the program.”

And somewhere else (maybe further down in this document, on that intranet page, whatever):

Paragraph 2:
“For customers who entered before 2022, the discount is only activated when the energy label has been re-registered in the past 18 months. Without re-registration, the discount automatically expires.”

On their own, both look fine. Paragraph 1 is clear. Paragraph 2 too. But the actual meaning of your policy only emerges when you read them together:

Yes, there’s an automatic interest rate discount. But: for part of the customers (entry before 2022), it only applies if an energy label has been recently re-registered.

So when a customer asks: “Am I eligible for that 0.3% interest discount?” the correct answer depends on both paragraphs together: entry date + energy label registration + program conditions.

And that’s where it goes wrong in a RAG pipeline.

The RAG pipeline does this

Let’s run our example through it:

Step 1: ingestion (chunking & embedding)

Chunking: we chop the data into pieces. Preferably smart pieces, but what is smart here? Data scientists break their brains over this question and often come up with good solutions. But unstructured data has no predictable structure, which makes chunking vulnerable, regardless of which method (token-based, paragraph-based, semantic, or document-aware) you use.

Let’s assume it goes well in most cases, but that in 10% of cases (low estimate, folks, I suspect higher) the relationship between 2 chunks gets “cut”.

The interest rate and the conditions are then no longer one single package and get stored as 2 separate vectors.

Step 2: retrieval

The separate packages sit there waiting until someone (you, a customer, my nephew, a system) asks a question. The LLM then searches these packages through Semantic Search. The system looks at which pieces of text, as vectors, are most similar to each other.

A customer asks the chatbot:

“Do I get an interest discount on the Sustainable Home Loan?” (though chances are your customer asks it way more creatively, with many more or far fewer words, and that also has impact).

The LLM gets to work, searches the vectors for semantic similarities: sustainable+home+loan+interest+discount. Where does it find language patterns with sufficient similarities to include in its answer?

In paragraph 1, probably yes. The Sustainable Home Loan is literally mentioned there.

Paragraph 2, however, which through chunking no longer has a relationship with the Sustainable Home Loan, doesn’t light up in its search for relevant information. Sometimes such a second paragraph still gets retrieved, but that’s luck, not a guarantee. And without that guarantee, you don’t have reliable and compliant customer communication.

The LLM chatbot responds:

“Starting in 2024, you automatically receive an interest discount with us. Isn’t that awesome?”

Except that’s not true. The customer doesn’t receive that discount at all if they don’t meet the now-lost conditions. Oops.

But what if that customer asks: do I still have to meet conditions, in the same conversation? Then they’ll come up, right?

Nope. Not necessarily. If the relationship is broken (reminder: never go back to your ex), then the LLM doesn’t retrieve the conditions. Because it has no idea those conditions belong to that product. It knows nothing.

And then we have extra complications

And to make things even better:

The LLM always answers. But now it’s guessing (based on what’s semantically close to the question in your data or based on its own training data, but that’s not Your data). Maybe it even guesses right. Maybe. Maybe not at all. Surprise answers. Compliance loves those.

Oh and got multiple products that look alike? 10 types of loans? Then you run extra risks when relationships between information disappear, because the language patterns are very similar. The LLM makes a nice guessing game out of it.

In short, even with RAG you’re playing with compliance and legal fire. Is that always bad? Probably not for every question, in every sector, for every product. But depending on the exact quality of your source data, how RAG is implemented, and what you do between retrieval and generation (there’s more, but that’s another article), there’s basically always some risk. The question isn’t whether it’s risk-free, but how much risk you’re willing to take.

TL;DR

What are you supposed to do with this information? Let me break it down:

RAG is often used to make inaccessible or dispersed knowledge more usable. But it doesn’t solve underlying data problems.

The more complex your source data (10 products that look alike, each with 3 buts and howevers and a few with stacked dependencies), the less RAG actually fixes. The more chaotic your source data, the harder you need RAG to save it. But that’s exactly where it doesn’t work.

For the purists: yes, mitigations are absolutely possible, but the core remains: RAG doesn’t replace good data modeling.

The question you should be asking:

Should you use an LLM for tasks that require a precise (deterministic) answer, where the potential impact of errors is large? Because LLMs work based on language patterns in a probability field: what’s the most likely next token, based on patterns.

That this won’t go well, even Stevie Wonder can see. What exactly will go wrong is hard to tell. Because not only is it difficult to determine how often it goes wrong (the breadth), but you also don’t know how badly it goes wrong (the depth). Does the LLM give a wrong interest rate or does the LLM give a wrong interest discount and guarantee it under all circumstances?

Hypothetical decisions

I’m not a CEO, but in my hypothetical multinational I don’t use an LLM as a chatbot. I use a deterministic system with clean, well-organized data that delivers exact answers. Then I give those to an LLM so it can say it nicely.

And even that doesn’t absolve me from having to set it up well, calibrate it, execute it properly. But that setup gives me a lot more confidence.

By the way: still want to deploy GenAI for your customer communication? Then preferably choose small, well-structured domains with limited dependencies. That helps a lot.

But that’s just me. Maybe you see it completely differently and clearer. I’d love to hear that so I can learn. Do drop your comment!

The post RAG Ain’t Oprah: It Won’t Fix Your (Data) Relationships appeared first on Xa4a.net.

Om dat te doen heb je een bron nodig: een kennisbank, productinformatie, beleidsdocumenten, of gewoon je website (al is dat laatste vaak een bijzonder slecht idee).

Tussen die bron en de output naar de klant zit dan de LLM en een prompt die stuurt wat die LLM precies moet doen.

Tot zo ver check

Maar dan merk je dat de output niet goed genoeg is. Niet precies genoeg en niet feitelijk correct, dus niet betrouwbaar genoeg voor klantcommunicatie.

Je eerste reactie is dan misschien: laten we aan de prompt sleutelen. En eerlijk, dat helpt soms.

Maar meestal is het gewoon je brondata die niet goed is. Niet goed gemetadateerd en niet gemodelleerd. Met je prompt kun je dan misschien wel het een en ander opstrakken, maar je data-issue krijg je niet strakgeprompt.

Dus zoek je naar andere oplossingen.

De bron

Je bron bestaat meestal uit een mix van structured data (tabellen, databases, gestructureerde velden) en unstructured data (teksten, documenten, beleidsstukken). Daarnaast bestaat het overigens vaak vooral uit zaken die ergens daartussen vallen. Het binaire idee van structured versus unstructured is een realiteit voor slides, niet de dagelijkse handen-uit-de-mouwen-realiteit.

Dat laatste terzijde #sidequest, terug naar de data.

Oke, heb je simpele structured data zoals referenties, definities, key-value pairs, dan gaat dat redelijk gemakkelijk door je GenAI pipeline zonder dat het al te veel semantische integriteit verliest. Oftwel: simpele data kun je kneden en door systemen trekken en het blijft z’n betekenis houden. Niet omdat GenAI hier expliciet goed in is, maar omdat structured data intrinsiek minder relationele kwetsbaarheid heeft  (it is structured).

Maar zodra het gaat over unstructured data OF structured data die relationele betekenis bevat, zoals beleidsregels met voorwaarden, productcatalogi met uitzonderingen, regelgeving met verwijzingen naar andere secties enz, loop je tegen problemen aan. Want de betekenis van die data zit in de relaties tussen stukken informatie, niet alleen in de informatie zelf.

Ja, ben je er nog? Want hier gaan we het hebben over RAG als oplossing voor je betekenis/semantische probleem.

RAG helpt een handje

Retrieval-Augmented Generation (RAG) wordt ingezet om hallucinaties te verminderen en om de output te gronden in de kennis van je eigen organisatie.

Met RAG geef je de LLM toegang tot jouw documenten, zodat het niet alleen genereert op basis van zijn training, maar ook op basis van jouw bedrijfsspecifieke informatie.

Het is dan logisch dat RAG ervoor zorgt dat wat de LLM uitspuugt beter wordt en voor specifieke soorten informatie zoals referenties, definities en stabiele feiten, werkt RAG meestal ook uitstekend. Maar voor alles waar betekenis relationeel is, wordt het ingewikkelder.

Wat doet RAG ook alweer?

RAG ziet er ongeveer zo uit:

• Je brondocumenten worden opgedeeld in kleinere stukken. Het gaat dan meestal om paragrafen of secties van een paar honderd woorden.
• Die chunks worden omgezet naar embeddings. Dat zijn numerieke representaties van tekst die het mogelijk maken om te berekenen welke stukken tekst semantisch op elkaar lijken.
• Het systeem berekent welke chunks het beste passen bij wat er gevraagd wordt en haalt die op.
• En alleen die meest relevante stukken krijgt de LLM te zien bij het genereren.

Elke stap in dit proces is een transformatie van wat er uit je bron is gehaald. En bij elke transformatie kan de betekenis van dat stuk uit je bron, zijn semantische integriteit verliezen. Oftewel, de betekenis kan verschuiven en dat kan een subtiele afwijking zijn of gewoon een hele duidelijke.

Dat gebeurt niet omdat de data feitelijk verdwijnt of letterlijk wordt veranderd, maar omdat de context die nodig is om die data correct toe te passen (potentieel) verdwijnt.

Een voorbeeld voor je brein

Laten we door de stappen heen lopen met een voorbeeld:

Stel, je hebt ergens in je documentatie de volgende twee paragrafen staan:

1 paragraaf stelt
“Klanten met een Duurzame Woonlening ontvangen vanaf 2024 automatisch een rentekorting van 0,3%. De korting wordt toegepast op alle bestaande leningen die onder het programma vallen.”

En ergens anders (misschien zelfs verderop in dit document, op die intranetpagina enz)

“Voor klanten die vóór 2022 zijn ingestroomd, geldt dat de korting alleen wordt geactiveerd wanneer het energielabel in de afgelopen 18 maanden opnieuw is geregistreerd. Zonder herregistratie vervalt de korting automatisch.”

Op zichzelf zien die twee er allebei prima uit. Paragraaf 1 is helder. Paragraaf 2 ook. Maar de feitelijke betekenis van je regeling ontstaat pas als je ze sámen leest:

• Ja, er is een automatische rentekorting.
• Maar: voor een deel van de klanten (instroom vóór 2022) geldt die alleen als er recent een energielabel is her-geregistreerd.

Dus als een klant vraagt: “Kom ik in aanmerking voor die 0,3% rentekorting?” dan is het juiste antwoord afhankelijk van beide paragrafen tegelijk: instroomdatum + energielabelregistratie + programma-voorwaarden.

En dat is dus waar het mis kan gaan in een RAG-pipeline.

De RAG pipeline doet dit

We trekken ons voorbeeld er even doorheen:

Stap 1: ingestion, bestaat uit chunking & embedding

Chunking: we hakken de data in stukjes. Het liefst zo slim mogelijke stukjes, maar dat is geen absoluut punt, want wanneer is het slim? Een data scientist zweet o.a. op deze vraag. Maar je snapt misschien wel dat unstructured data, dus niet gestructureerd is en geen voorspelbare opbouw heeft. Dat maakt het chunken op z’n allerminst kwetsbaar, ongeacht welke ingreep/methode (token, paragraph, based, semantic of document aware) je ook gebruikt.

Laten we voor het voorbeeld aannemen dat het in de meeste gevallen goed gaat, maar dat in 10% van de gevallen (lage inzet jongens, want ik vermoed hoger) de relatie tussen 2 chunks wordt “doorgeknipt”.

De rentestand en de voorwaarden zijn nu niet meer 1 pakketje, maar worden opgeslagen als 2 lossen vectoren.

Stap 2: retrieval

De losse pakketjes liggen comfortabel te wachten tot iemand (jij, een klant, mijn neef, een systeem) een vraag stelt. De LLM komt dan aan deze pakketjes snuffelen door middel van Semantic Search. Oftewel het systeem kijkt welke stukken tekst, als vectoren, het meest op elkaar lijken.

Een klant vraagt bijv. aan de chatbot:

“Krijg ik rentekorting op de Duurzame woonlening” (al is de kans erg groot dat je klant het veel creatiever vraagt. Met veel meer of veel minder woorden en dat heeft ook nog impact).

De LLM gaat aan de slag, snuffelt aan de vectoren, zoekt naar semantische overeenkomsten: duurzame+woonlening+rentekorting. Waar vindt hij taalpatronen die voldoende overeenkomsten hebben om deze mee te nemen in zijn antwoord.

In paragraaf 1 waarschijnlijk wel: de Duurzame woonlening wordt daar letterlijk genoemd.

Paragraaf 2, die door het chunken geen relatie meer heeft met de Duurzame woonlening, licht echter niet op in zijn zoektocht naar relevante informatie. Soms wordt zo’n tweede paragraaf alsnog opgehaald, maar dat is geluk en geen garantie. En zonder die garantie heb je geen betrouwbare en compliant klantcommunicatie.

De LLM chatbot antwoordt dan ook:

Vanaf 2024 ontvangt u automatisch een rentekorting bij ons. Fijn he! 

Maarrrrr, dat is niet waar. De klant ontvangt die korting helemaal niet als hij niet aan de nu verloren voorwaarden voldoet. Oeps.

Maareh, wat als die klant nou zegt: moet ik nog aan voorwaarden voldoen en hij zegt dat in hetzelfde gesprek. Dan komen ze toch wel naar voren?

Nee! Niet per se. Als de relatie verbroken is (nooit teruggaan naar je ex), dan haalt de LLM de voorwaarden niet op bij retrieval. Want hij weet helemaal niet dat het bij dat product hoort. Hij weet namelijk helemaal niks.

En dan hebben we nog extra complicaties

En om het feest extra leuk te maken. Extra leuk leuk. Spelen deze zaken ook nog een rol:

1. De LLM antwoordt wél altijd, maar nu gaat hij raden (gebaseerd op wat semantisch dicht bij de vraag ligt uit jouw data of op basis van zijn eigen trainingsdata, maar dat is niet Jouw data). Misschien raadt hij zelfs wel goed. Misschien, maar misschien ook helemaal niet. Verrassingsantwoorden, het type antwoorden waar compliance gek op is.
2. Heb je meerdere producten die veel op elkaar lijken? 10 typen leningen bijvoorbeeld? Dan loop je extra risico’s als de relatie tussen informatie verdwijnt: want de taalpatronen lijken in dat geval erg op elkaar, dus de LLM doet er een mooi gokspelletje mee.

Kortom, ook mét RAG speel je met compliance en legal-vuur. Is dat altijd erg? Waarschijnlijk niet bij elke vraag, in elke sector, bij elk product. Maar afhankelijk van de precieze kwaliteit van je brondata, de manier waarop RAG is geimplementeerd en ook niet onebelangrijk wat je tussen retrieval en generatie doet (er is meer, maar dat wordt een ander artikel), is er eigenlijk altijd wel een risico. De vraag is niet zozeer of het risicoloos is, maar hoeveel risico Jij bereid bent om te nemen.

TLDR;

Nou denk je misschien: wat moet ik met deze informatie. Nou ik ga het even platslaan, dat helpt denk ik:

1. RAG wordt vaak gebruikt om ontoegankelijke of verspreide kennis beter bruikbaar te maken. Maar het lost onderliggende dataproblemen niet op.
2. Hoe complexer je brondata (10 producten die op elkaar lijken, elk met 3 mitsen en maren en een paar met gestapelde afhankelijkheden), hoe minder RAG onder de streep eigenlijk fixt
3. Hoe chaotischer je brondata, hoe harder je RAG nodig hebt om het te redden. Maar daar werkt het juist niet.

Voor de puristen: ja, er zijn absoluut mitigaties mogelijk, maar de kern blijft: RAG vervangt geen goede datamodellering

De vraag die je nu zou kunnen stellen is als volgt: 

Moet je voor taken die vragen om een precies (deterministisch) antwoord, waarbij de potentiële impact van fouten groot is, gebruik maken van een LLM? Want LLMs werken op basis van taalpatronen in een waarschijnlijkheidsveld: wat is het meest waarschijnlijke volgende token, gebaseerd op de patronen.

Dat dit in die situatie niet goed gaat, kan Stevie Wonder nog zien. Wát er niet goed gaat, is lastig te zeggen. Want niet alleen is het lastig te constateren hoe vaak het niet goed zal gaan (de breedte ervan), maar weet je ook niet hoe erg het dan niet goed gaat (de diepte ervan). Oftwel: geeft de LLM een verkeerde rente of geeft de LLM een verkeerde rentekorting en garandeert hij die onder alle omstandigheden.

Hypothetische beslissingen

Nou ben ik geen CEO, maar in mijn hypothetische multinational gebruik ik geen LLM als chatbot. Ik gebruik een deterministisch systeem, met schone en goed ingerichte data, die exacte antwoorden oplevert. Die geef ik dan wel aan een LLM, zodat hij het aardig kan zeggen.

En ook dat ontslaat me er overigens niet van om het goed in te richten, af te stellen, uit te voeren. Maar die setup geeft me wel een stuk meer vertrouwen.

Overigens: wil je tóch GenAI inzetten voor je klantcommunicatie? Kies dan bij voorkeur kleine en goed-gestructureerde domeinen met beperkte afhankelijkheden. Dat helpt een boel.

Maar dat ben ik he. Misschien zie jij het wel heel anders en zelfs beter. Dat hoor ik dan graag. Leer ik ook van. Gooi je comment erbij!

English version

The post RAG is geen Oprah! Het fixt je (data)relaties niet appeared first on Xa4a.net.

But real insights didn’t come from those experiments. They came later, and fast, when I started prompting for other people, ended up developing a prompt framework, and eventually joined the GenAI & Content Strategy team.

Now that gig is wrapping up and I finally have time to breathe and look back with some perspective. It feels like now is a good moment to write down what I learned. We’re doing a listicle because I haven’t done one in a while. And god, do I love a good listicle. Just for you, I’m keeping it to a nice round 10. Nobody’s ever accused me of being brief, but stick with me and you might actually get something useful out of this.

AI doesn’t fix broken processes

To automate well (AI or otherwise), you need serious insight into every relevant step of a process.

You can’t automate a process you don’t explicitly know or understand. But I regularly see people thinking: let’s just throw AI at it, it’ll work out. It won’t.

If you don’t know exactly what steps make up the process you want to automate, AI can’t execute those steps sensibly either. You’ll miss automation opportunities. Worse: if you’re not careful, you’ll automate mistakes you’re already making, but at scale.

The solution doesn’t start with AI. It starts with you. Map your process: describe what steps you go through, what standards matter at each step (when is it good?), what the decision points are, what risks are involved. Only when you have that clarity can you determine where AI makes sense and where it’s safe.

What you can do today: Pick one task you want to automate and write down step by step what you currently do. Describe each intermediate step toward the end result. For each step ask: what happens here, when is that done well, what happens if this goes wrong? How much time does this step take? Then you’ll see where AI can help and where it can’t.

Efficiency is nice, but quality is much nicer

If AI can’t do it at least as well as a professional, you’re not making gains. You’re making mess.

Working faster is obviously great. But producing bad output faster? That’s no progress at all.

In GenAI projects, efficiency is often the main goal. The number of times I’ve heard someone say “Eh, that’s good enough” is disturbing. Because if the quality of what you make suffers from your AI deployment, you’re just making worse mess faster. And once the race to the quality bottom begins, and every next decision about “is this good enough?” gets answered with “eh…sure,” you hit bottom fast. Really fast, given the volumes involved in AI deployment.

Quality must be the starting point. You only deploy AI if its output is at minimum as good as what a professional would make. Preferably better. That requires very clear quality criteria: what IS good output? How do you check that? Who decides? If you can’t answer those questions, you’re not ready to automate.

What you can do today: For one use case, establish: what’s the minimum quality level we accept? Write it down, quantify it, define it. What are your standards? Then test properly whether AI meets them.

AI doesn’t know what quality is

If you don’t know what’s good, AI doesn’t either. Let me elaborate a bit on this part of lesson 2.

LLMs optimize on patterns, not on your style guide, internal processes, or other lovely specific knowledge. So if you yourself can’t explain what a good blog post is, a strong customer email, or a clear FAQ, then AI can’t either. It falls back to the average of the patterns it was trained on. You know what I am talking about: that GenAI language we’re starting to recognize. The uncanny valley of content.

You need to be able to define what quality means for you. What makes this text good? What makes this email effective? What criteria apply here? Only when you have that clarity can you sensibly set GenAI loose on it.

And it’s not “write a good headline.” It’s: “Persuasive headline of maximum 8 words, containing this keyword [keyword] and summarizing the provided article.” Something along those lines. To do that well and consistently, you need to establish what standards apply for what counts as quality output in your organization.

What you can do today: Same advice as point 2. But important enough to address separately.

Prompts and prompting: not an afterthought

Your prompt is a crucial steering mechanism for good output or nasty hallucinations. You need to take that seriously AND manage it.

Prompting is how you steer GenAI. You type something, you get something back. In business practice, the prompt has major influence on your GenAI project.

On the quality of your output (have you figured out what that quality looks like yet? Quick reminder.), on consistency, on the number of correction rounds (and thus efficiency and costs). Plus, worst case: a bad prompt is a cute little hallucination grenade. But prompting still gets left to individual talent or skill way too often.

Prompts, like everything else around GenAI, need management, standards, and governance.

Because without standards, it’s very hard to determine prompt quality. What are you even looking at?

Without management, you have zero insight into what prompts exist, what they actually do, whether they carry intrinsic risk or other things you want visibility on.

And without governance, all kinds of systems (and just Word docs) contain outdated information baked into prompts. Sometimes it’s literally data that’s baked in (yes, really) and sometimes instructions that are obsolete.

What you can do today: Establish prompt standards and (this is unpopular): enforce them! Document your prompt lifecycle process. Who checks whether prompts still work, are effective, when do they check, how do they check, and what do you do when prompts are out of date?

People are overwhelmed, not necessarily empowered

AI raises an endless stream of questions that go way beyond the technology. Help your people navigate this new and impactful reality.

When it comes to AI, the room is quite polarized. One extreme: people who literally see every problem as an opportunity to slap AI on it. The other end: people who want nothing to do with it.

Both reactions are legitimate. Both need attention.

Both groups benefit from knowledge, insight and understanding. For the AI enthusiasts: what the limitations and conditions are for smart, responsible, good GenAI deployment. For the sceptics: what it CAN do for them AND how.

Because most people understand that AI can do something. But they don’t know exactly what it means for them. How does this affect my role? Do I have to do everything differently now? Will I be redundant soon? That uncertainty leads to resistance, to misuse, or to passivity. What a waste.

Guidance isn’t a luxury. It’s a requirement. People need time to learn, to experiment, to make mistakes. And they need context: this is where AI is good, this is where you’re still indispensable.

Don’t forget that AI affects all of us broadly. The issues are endless: existential, business, scientific, personal, societal, ecological, you name it. You can’t solve all that overnight, but you can help people with the knowledge, insights, and vocabulary to have good conversations about it with each other AND continue to apply critical thinking.

What you can do today: Talk to one colleague who uses AI (or doesn’t). Ask: what makes you uncertain? Listen. Help. And as an organization? Find balance between hype stories and messy reality. Help your people with usable vocabulary. They can think perfectly well themselves, but it’s useful if they know what needs thinking about. Even better if they understand they don’t need to be technical to do that.

Risks are contextual

Low-risk AI deployment doesn’t exist. Whether the risk is acceptable depends on what you’re deploying it for.

A FAQ bot that invents ice cream flavors? Funny. A FAQ bot that hallucinates about medication? Life-threatening. Technically speaking, both bots are the same. But the impact is totally different.

Many organizations still underestimate this. They look at the tech instead of the context. Simple AI use seems low-threshold, but small errors can have enormous consequences. Especially in regulated sectors like finance, pharma, and healthcare, where virtually nothing is low-risk.

Risk analysis must be context-sensitive. Not just: what can AI do? But: what happens if it goes wrong? In this context? For this audience? With these stakes?

Even an innocent-looking hallucination (our office closes at 2pm) can lead someone in a financial setting to make a different decision about their money than they intended. With maybe real consequences. Fictional example, obviously, but you get the point.

What you can do today: Yeah, that depends on what sector you work in and what decisions are yours. But pointing out that low-risk is extremely relative? Good start.

Content claims its place or doesn’t get it

Content is what LLMs make. Content is information/data in context. So you’d think content specialists play a relevant role in LLM implementations. So far, disappointing.

GenAI largely revolves around language. LLMs produce content. But AI projects are mainly populated by techies, product owners, data scientists. Not the people who wrestle daily with tone of voice, audience, effectiveness, and contextual meaning (semantic integrity). The result: decisions about content use get made by people who can’t tell the difference between good and bad. But they often decide what counts as good or bad anyway.

That’s bad for customers. Bad for the business. Because bad content damages your brand and impacts conversion. But beyond that, content specialists have the skill to turn data, stakeholders, machine-generated drafts, technical limitations, and guidelines into something actually useful and effective.

And yes, content specialists are sometimes involved, sometimes not. But being involved and having an advisory role isn’t enough to guarantee quality and effectiveness. For that, content people need to participate in conversations at the GenAI design table. And that needs to be a real conversation.

That also requires something from the content specialists themselves. In a corporate setting, content specialists aren’t artists. A product page really isn’t art. Letting go of that idea is already a good step.

Next step: sufficient knowledge of what the GenAI pipeline (and things like chunking and embedding and all that fun stuff) looks like, so you can actually talk about it. You don’t have to do it yourself. You do need to understand it well enough to have a meaningful role at the GenAI table.

What you can do today: Are you a content specialist? Go immerse yourself in GenAI. Pick your direction, take a course, read up, listen to podcasts. Make sure you know what you’re talking about, so those tech and data people can take you seriously.

LLMs aren’t the solution for literally everything

A probabilistic system is the wrong choice for deterministic questions.

LLMs are good at generating language, recognizing patterns, and writing human-sounding texts. But they’re not good at exact calculations, not great at retrieving specific data, and not talented at preserving meaning.

Yet I see LLMs being deployed for tasks where you need certainty. A specific, grounded answer. An output that isn’t drawn from the probability space an LLM operates within.

Only once you’ve retrieved that information exactly from a deterministic solution should you let the LLM explain it in human language.

Choose your tools based on what they can do, not based on what’s trendy.

What you can do today: Make a list of tasks you use AI for. Ask per task: is this a probabilistic question (approximately is good enough) or deterministic (it must be exactly that answer)? Choose your tool accordingly.

Your source is your foundation

If your source sucks, everything you do with it will suck too. And doing 26 interventions to solve that problem isn’t necessarily the best or most efficient idea.

Garbage in, garbage out. We’ve known that for years. But with GenAI it gets an extra dimension. Because AI doesn’t make bad data into better data. It makes data that SOUNDS better. And that’s maybe worse, because then you almost believe it’s good data.

You can’t RAG, prompt-engineer, or fine-tune your way out of that. If your source data is incomplete, outdated, incorrect, unclear, not sensibly readable for machines, then everything that follows is meh.

So invest hard in your data sources. Clean them, keep them current, make sure they’re meaningful for machines, make sure you know what can and can’t be used for your automations. Only then does GenAI really have something to work with.

What you can do today: Be critical about what’s being used as a source. If it’s messy, do something about it.

Preserving meaning is the real problem

Even with clean data and smart systems, you have no guarantee of “semantic integrity”: maintaining relational meaning.

You can build the perfect knowledge graph, an ontology that’s correct, and have a data source that’s endlessly well organized. And STILL the AI can produce something that’s technically correct but wrong in terms of meaning. That’s because in the GenAI pipeline you have all kinds of points where context and nuance can be lost (and regularly are).

That’s a problem that still isn’t really solved, not even with the newest techniques. And yes, there’s definitely smart patching happening, but guarantees? Not yet.

So this is the fundamental challenge when you combine language and systems: how do you safeguard meaning? How do you prevent AI’s interpretation from subtly (or less subtly) deviating from what you actually want/need to say?

And factuality is contextual, right? The statement “Xaviera is tall” is true in Peru but a fat lie in the Netherlands (because at 1.62m I’m medium at best here). Bit simple as an example, but it tells you something about context and nuance, where machines are notoriously terrible.

What you can do today: Well, if you solve it 100%: you are now rich. Until then, at least be aware of it. Also be aware that shifts in factuality happen very slowly and subtly, until the tipping point where truth > slightly less true > factually wrong is suddenly at hand, with all potential consequences. Keep that in your head.

Ha, you made it

I think you’ve discovered the pattern in all my lessons? If not, because you’re scanning like a good web reader should, here’s the TL;DR:

If you don’t have the basics in order (data, knowledge, people, processes, etc.), then GenAI fixes little for you. In fact: the volume at which you can then make mistakes is inspiring. That volume part is the newest of everything. The rest is the same song, different verse.

The post Ten Things GenAI Taught Me (Besides Patience and Impressively Deep Sighing) appeared first on Xa4a.net.

Maar de echte inzichten kwamen niet van de experimenten waar ik mezelf mee vermaakte. Die kwamen pas echt en op hoog tempo toen ik startte met prompten voor anderen, van de weeromstuit een prompt framework ontwikkelde en uiteindelijk meedraaide in het GenAI & Content strategie programma.

Nu deze klus afloopt en ik eindelijk even tijd heb om te ademen en met relatieve rust terug te kijken, is het een goed moment om dat wat ik leerde op te typen. We maken er een listicle van, want dat heb ik alweer een tijdje niet meer gedaan. And I do I love me a good listicle. Speciaal voor jou houd ik het bij een zeer ronde 10. Niemand heeft ooit beweerd dat ik kort van stof ben, maar met een beetje doorzetten, heb je misschien zomaar wat aan mijn reis.

1. AI fixt geen slechte processen

Om goed te automatiseren (AI of anderszins) moet je serieus inzicht hebben in alle relevante stappen van een proces. 

Je kunt geen proces automatiseren dat je niet begrijpt.  Maar in de praktijk zie ik regelmatig mensen die denken: we gooien er AI tegenaan, dan komt het wel goed. Dat komt het dus niet.

Als je zelf niet precies weet uit welke stappen een proces bestaat dat je wilt automatiseren, kan AI die stappen ook niet op enig zinnige manier voor je uitvoeren. Je mist dan automatiseringskansen, of erger: je automatiseert fouten die je nu al maakt, maar dan op grote schaal.

De oplossing hiervoor begint niet bij AI, maar bij jou. Breng je je proces in kaart: beschrijf welke stappen je doorloopt, welke normen bij elke stap van belang zijn (wanneer is het goed? Wat de keuzemomenten zijn en welke risico’s een rol spelen bij de stap in kwestie. Pas als je dat helder hebt, kun je bepalen waar AI zinnig is en veilig.

Wat je vandaag kunt doen:
Pak één taak die je wilt automatiseren en schrijf stap voor stap op wat je nu doet. Beschrijf elke tussenstap op weg naar het einderesultaat en stel voor elke tussenstap de vragen: wat gebeurt hier, wanneer is dat goed gedaan, wat is het gevolg als het hier misgaat? Hoeveel tijd kost deze stap? Dan zie je waar AI kan helpen, en waar niet.

2. Efficiëntie is leuk, maar kwaliteit is veel leuker

Als AI het niet minstens even goed kan als een professional, dan boek je geen winst, maar wel rommel.  

Sneller werken is natuurlijk geweldig. Maar sneller slechte output produceren,  dat is totaal geen vooruitgang.

In GenAI-projecten is efficiency vaak het hoofddoel. De keren dat ik iemand heb horen zeggen: “Mwah, dat is goed genoeg” en het (cummulatieve) issue dat achter die korte zin schuilt is verontrustend. Want als de kwaliteit van wat je maakt, lijdt onder je AI-inzet, dan maak je alleen sneller, ergere rommel. En als de race naar de kwaliteitsbodem eenmaal is ingezet en elk volgende beslismoment over “is dit goed genoeg?”, als antwoord heeft “mwah…jawel joh”, dan beland je met de grote aantallen waar het om gaat in AI-inzet, al heel snel op de bodem.

Kwaliteit moet het uitgangspunt zijn. AI zet je pas in als de output ervan minimaal even goed is als wat een professional zou maken. En bij voorkeur natuurlijk zelfs beter. Dat vraagt om zeer duidelijke kwaliteitscriteria: wat ís goede output? Hoe check je dat? Wie beslist? Als je die vragen niet kunt beantwoorden, ben je eigenlijk nog niet klaar om te automatiseren.

Wat je vandaag kunt doen:
Stel voor één use case vast: wat is het kwaliteitsniveau dat we minimaal accepteren? Schrijf het op, kwantificeer het of definieer het: wat zijn je normen? Test dan goed of AI dat haalt.

3. AI weet niet wat kwaliteit is

Als jij niet weet wat goed is, weet AI het ook niet.  Een noodzakelijke specificering van les 2. 

LLM’s optimaliseren op patronen, niet op jouw stijlwijzer, interne processen of andere mooie specifieke kennis. Dus als jij zelf niet kunt uitleggen wat een goede blogpost is, een sterke klantenmail, of een heldere FAQ, dan kan AI dat ook niet. En dan valt het terug op het gemiddelde van de patronen waar het op getraind is: u kent dat wel, die GenAI-taal die we inmiddels beginnen te herkennen. De eenheidsworst van de toekomst.

Je moet kunnen definiëren wat kwaliteit voor jou is. Wat maakt deze tekst goed? Wat maakt deze mail effectief? Welke criteria gelden hier? Pas als je dat helder hebt, kun je ook GenAI zinnig erop loslaten.

En het niet een “goede kop” laten schrijven. Maar een: “Overtuigende kop van maximaal 8 woorden, die dit zoekwoord bevat [zoekwoord] en het meegegeven artikel samenvat. Of zoiets dergelijks. Om dat goed en consistent te doen moet je vaststellen welke normen gelden voor wat in jouw organisatie wordt gezien als kwalitatief goede output.

Wat je vandaag kunt doen:
Hetzelfde advies hier als bij punt 2. Maar belangrijk genoeg om het toch nog even apart op te pakken.

4. Prompts en prompten: geen bijzaak

Je prompt is een belangrijk sturingsmechanisme voor goede output of nare hallucinaties. Dat moet je serieus nemen én managen. 

Prompten is de manier waarop je GenAI stuurt. Je typt iets, je krijgt iets terug. In de (zakelijke) praktijk heeft de prompt grote invloed op je GenAI-project.

Op de kwaliteit van je output (heb je al bedacht hoe die kwaliteit eruit ziet. Kleine reminder hier.), op de consistentie, op het aantal correctierondes (en dus efficiency en daarmee ook kosten). Plus, in het meest nare geval is een slechte prompt een kleine hallucinatiegranaat . Maar toch wordt prompten nog veel te vaak aan het toeval van individueel talent of skill overgelaten.

Prompts hebben net als alle andere zaken rondom GenAI gewoon management, standaarden en governance nodig.

Want zonder standaarden is het erg lastig om de kwaliteit van prompts te bepalen (Waar kijk je dan naar?) En zonder management, heb je 0 inzicht in welke prompts er zijn en wat ze precies doen en of ze misschien ook een intrinsiek risico meedragen of andere zaken die je in beeld wilt hebben. En zonder governance, zit er in allerlei systemen, maar ook gewoon word docjes, verouderde informatie, ingebakken in prompts. Soms gaat het letterlijk om data die erin gebakken is (jazeker) en soms om instructies die achterhaald zijn.

Wat je vandaag kunt doen:
Richt promptstandaarden in en (dit is niet populair): leg ze op! Leg je prompt lifecycle proces vast: wie checkt, wanneer of prompts nog kloppen, effectief zijn en hoe doen ze dat en wat doe je als de promtps uit de mode zijn?

5. Mensen zijn overweldigd, niet per se empowered

AI roept een eindeloze stroom aan vragen op. En die gaan verder dan de technologie. Help je mensen in deze nieuwe en impactvolle tijd, om dat te navigeren!

Over polarisatie gesproken, waar het gaat om AI is dat absoluut aan de hand. Het ene uiterste bestaat uit mensen die letterlijk in elk probleem een optie zien om AI ertegenaan te plakken en de groep aan het andere uiteinde van het spectrum, wil er niks van weten.

Beide reacties zijn an sich legitiem. En beide hebben aandacht nodig.

Beide groepen hebben baat bij kennis en begrip. Voor de positivo’s: wat de beperkingen en voorwaarden zijn van slimme, verantwoordelijke en goede (Gen)AI-inzet. Voor de meer stressy types: wat het wel voor hen kan doen én hoe!

Want de meeste mensen snappen best dat AI iets kan. Maar ze weten niet precies wat het voor hen betekent. Hoe raakt dit mijn rol? Moet ik nu alles anders doen? Ben ik straks overbodig? Die onzekerheid leidt tot weerstand, tot verkeerd gebruik, of tot passiviteit. En dat is zonde.

Begeleiding is dan ook geen luxe maar een vereiste. Mensen hebben tijd nodig om te leren, om te experimenteren, om fouten te maken. En ze hebben duiding nodig: dit is waar AI goed in is, dit is waar jij nog steeds onmisbaar bent.

Vergeet niet dat AI ons allemaal breed raakt, de kwesties zijn eindeloos: existentieel, zakelijk, wetenschappelijk, persoonlijk, maatschappelijk, ecologisch en ga zo maar door. Dat los je allemaal niet even op, op een vrijdagmiddag, maar je kunt mensen wel helpen aan de kennis, inzichten en daarmee vocabulaire om goede gesprekken erover met elkaar te voeren én kritisch denken toe te kunnen blijven passen.

Wat je vandaag kunt doen:
Praat met één collega die AI gebruikt (of juist niet). Vraag: wat maakt je onzeker? Luister. Help. En als organisatie? Zoek balans tussen Halleluja-verhalen en modderige realiteit. En help je mensen aan bruikbare e vocabulaire: ze kunnen prima zelf denken, maar het is fijn als ze weten waarover gedacht dient te worden. En extra fijn als ze begrijpen dat ze niet technisch hoeven te zijn om dat te doen.

6. Context bepaalt wat een risico is

Low-risk AI-inzet bestaat niet. Of het risico acceptabel is, hangt af van waar je voor het inzet.

Een FAQ-bot die ijssmaken verzint? Grappig. Een FAQ-bot die hallucineert over medicatie? Levensgevaarlijk. Technisch gezien zijn beide bots hetzelfde. Maar de impact is totaal verschillend.

Veel organisaties onderschatten dit nog altijd. Ze kijken naar de techniek in plaats van naar de context. Simpel AI-gebruik lijkt laagdrempelig, maar kleine fouten kunnen enorme gevolgen hebben. Zeker in gereguleerde sectoren zoals finance, farma en zorg, waar feitelijk niks low-risk is.

Risicoanalyse moet contextgevoelig zijn. Niet alleen: wat kan AI? Maar: wat gebeurt er als het misgaat? In deze context? Voor deze doelgroep? Met deze stakes?

Zelfs een onschuldig lijkende hallucinatie: ons kantoor sluit om 2 uur, kan in een financiële setting iemand ertoe aanzetten om een andere beslissing over haar geld te nemen dan ze van plan was. Met misschien wel echte gevolgen, hoewel dit voorbeeld natuurlijk  fictief is he.

Wat je vandaag kunt doen:
Ja, dat hang er een beetje van af, in welke sector je werkt en welke beslissingen bij jou liggen. Maar erop wijzen dat low-risk zeer relatief is, is een goed begin!

7. Content claimt z’n plek of krijgt ‘m niet

Content is wat LLM’s maken. Content is: informatie/data in context. Je zou dus denken dat contentspecialisten een relevante rol spelen bij LLM-implementaties. Dat valt vooralsnog tegen. 

GenAI draait voor een groot deel om taal en LLMs produceren content. Maar in AI-projecten zitten vooral techneuten, product owners, data scientists. Niet de mensen die dagelijks worstelen met tone of voice, doelgroep, effectiviteit en contextuele betekenis (semantic integrity). Het gevolg: beslissingen over contentgebruik worden genomen door mensen die het verschil tussen goed en slecht niet kunnen constateren. Maar zij beslissen wel vaak wat dan goed of slecht is.

Dat is slecht voor klanten. En slecht voor het bedrijf. Want slechte content schaadt je merk en heeft impact op conversie. Maar daarnaast zijn het juist contentspecialisten die de skill hebben om van data, stakeholders, door machines uitgespuugde drafts, technische beperkingen en richtlijnen smakelijke en effectieve chocola te maken.

En ja, de contentspecialisten zijn soms wel/soms niet betrokken. Maar betrokken en een adviserende rol hebben, is niet voldoende om kwaliteit en effectiviteit te garanderen. Daarvoor moeten contentmensen aan de GenAI-ontwerptafel meepraten en dat moet dan een volwaardig gesprek zijn.

Dat vraagt ook wat van de contentspecialisten zelf overigens. In een corporate setting zijn contentspecialisten geen kunstenaars. Een productpagina is echt geen kunst. Dat idee loslaten is al een goede stap. Een volgende goede stap, is voldoende kennis van hoe de GenAI pipeline (en zaken zoals chunking en embedding en al dat soort leuks) eruitziet, zodat je mee kan praten erover. Je hoeft het niet te doen. Je moet het wel voldoende begrijpen om een zinnige rol aan de GenAI tafel te hebben.

Wat je vandaag kunt doen:
Ben je contentspecialist? Ga dan gauw je verdiepen in GenAI. Kies je richting, doe een cursus, lees je vol, luister podcasts en zorg dat je weet waar je het over hebt, zodat die tech en data mensen je serieus kunnen nemen.

8. LLM’s zijn niet de oplossing voor letterlijk alles

Een probabilistisch systeem is de verkeerde keuze voor deterministische vragen.

LLM’s zijn goed in taal genereren, in patronen herkennen en in menselijk-klinkende teksten schrijven. Maar ze zijn niet goed in exacte berekeningen, geen echte kei in het ophalen van specifieke data en niet getalenteerd als het gaat om het behoud van betekenis.

Toch zie ik dat LLM’s worden ingezet voor taken waar je zekerheid nodig hebt: een specifiek en gegrond antwoord. Een output die niet wordt onttrokken aan de probability space waar een LLM binnen oprereert.

Pas als je die informatie exact hebt gehaald uit een deterministische oplossing, laat dan de LLM het uitleggen in mensentaal.

Kies je tools op basis van wat ze kunnen, niet op basis van wat hip is.

Wat je vandaag kunt doen:
Maak een lijstje van taken waar je AI voor gebruikt. Vraag per taak: is dit een probabilistische (ongeveer is goed genoeg) of deterministische vraag (het moet exact dat antwoord zijn)? Kies daar je tool op.

9. Je bron is je fundament

Als je bron zuigt, zuigt alles wat je ermee doet ook gewoon. En dan 26 ingrepen doen om dat probleem op te lossen, is niet per se het allerbeste en efficiënte idee. 

Garbage in, garbage out, dat weten we al jaren. Maar met GenAI krijgt het een extra dimensie. Want AI maakt van slechte data geen betere data. Het maakt er data van die beter KLINKT. En dat is misschien nog wel erger, want dan ga je bijna geloven dat het wel goede data is.

Je kunt niet RAG’en, prompt-engineeren of fine-tunen wat er niet is. Als je brondata incompleet is, verouderd, foutief, onduidelijk, niet op zinnige wijze leesbaar voor machines, dan is alles wat daarop volgt mwah.

Investeer dus keihard in je databronnen. Maak ze schoon, houd ze actueel, zorg dat ze betekenisvol zijn voor machines, zorg dat je weet wat wel en wat niet gebruikt mag worden voor je automatiseringen. Pas dan heeft GenAI echt iets om mee te werken.

Wat je vandaag kunt doen:
Wees kritisch op wat er als bron wordt gebruikt. Is het rommel(ig), dan moet je er wat mee.

10. Betekenis behouden is het echte probleem

Zelfs met schone data en slimme systemen, heb je geen garantie voor “semantische integriteit”: het in stand houden van relationele betekenis. 

Je kunt de perfecte knowledge graph bouwen, een ontologie die klopt en een databron hebben die eindeloos goed ingericht is. En tóch kan de AI iets produceren dat technisch klopt, maar niet klopt qua betekenis. Dat komt omdat je in de GenAI pipeline allerlei punten hebt waar context en nuance verloren kunnen gaan (en doen ze ook regelmatig).

Dat is een probleem dat nog altijd niet écht is opgelost, ook niet met de nieuwste technieken. En ja, er wordt echt wel slim gepleisterd, maar garantie heb je vooralsnog tot aan de deur.

Dit is dus de fundamentele uitdaging wanneer je taal en systemen combineert: hoe borg je betekenis? Hoe voorkom je dat de interpretatie van AI subtiel (of minder subtiel) afwijkt van wat je eigenlijk wil/moet zeggen?

En feitelijkheid is contextueel dus he. Het statement “Xaviera is lang”, is waar in Peru, maar een dikke leugen in Nederland (want met 1.62 ben ik hier op z’n best medium). Een beetje simpel qua voorbeeld, maar vertelt je wel iets over context en nuance, waar machines notoir slecht in zijn.

Wat je vandaag kunt doen:
Nou, als je het 100% oplost: rijk worden. Tot die tijd, je in elk geval daar bewust van zijn en ook van het gegeven dat verschuiving in feitelijkheid, heel langzaam en subtiel gaat, tot het omslagpunt waarop waarheid > ietsje minder waar > feitelijk fout opeens aan de hand is, met alle potentiële gevolgen van dien. Houd dat in je hoofd.

Ha, je hebt het gered

Ik denk dat je het patroon wel hebt ontdekt in al mijn lessen? Als niet, omdat je aan het scannen bent, zoals het een goede weblezer betaamt, dan hier de TLDR; als je de basis niet op orde heb (data, kennis, mensen, processen enz.), dan fixt (Gen)AI weinig voor je. Sterker nog: het volume waarmee je dan fouten kan maken, is inspirerend. Dat volume-deel is het nieuwste van alles, de rest is oude wijn/nieuwe zakken.

The post Tien dingen die GenAI mij leerde (naast geduld en indrukwekkend diep zuchten) appeared first on Xa4a.net.

Enne, natuurlijk kunnen we dat, want je kunt van alles inladen. Maar de echte vraag is, wat gebeurt er als je dat doet?

Spoiler alert: niet veel dat indruk maakt.

Intuitie en de styleguide

De meeste organisaties hebben een styleguide. Soms zijn het dikke boekwerken, soms zijn het handige wiki’s en soms is het een PDF die niemand ooit echt leest. Hoe ze ook zijn vastgelegd, ze hebben een belangrijke functie: ze beschrijven de som van regels die de stem van de organisatie in kwestie bepaalt.

En over het algemeen werken ze prima, ….althans, voor mensen.

Want wanneer de styleguide voorschrijft dat de toon zakelijk en vriendelijk moet zijn, dan weten mensen wat dat in verschillende contexten betekent.

En wanneer de styleguide stelt dat zinnen kort moeten zijn, dan snappen mensen wanneer “kort” kort genoeg is en wanneer het té kort is.

AI kan dat echter niet. En precies daar liep ik tegenaan toen ik aan de slag ging met prompts die juist die merkstem moesten bewaken.

Interpreteren versus handelen

Een goede les om te onthouden als je een prompt aan het bakken bent: hoe meer ruimte je de LLM geeft om zelf te interpreteren, hoe groter de impact op de consistentie van je output.

Duidelijke en concrete instructies zorgen dat de LLM minder bewegingsruimte heeft en niet zelf hoeft te kiezen wat “korte zinnen” eigenlijk zijn. En hoe meer ruimte je openlaat in je instructies binnen een prompt, hoe vaker de LLM zelf moet kiezen.

Misschien voel je al aan dat dat ten koste gaat van de consistentie van je output, omdat de LLM de ene keer de ene keuze maakt (zinnen van maximaal 5 woorden) en een volgende run een andere keuze maakt (zinnen van maximaal 10 woorden).

Je moet daarom je instructies, guidelines en guardrails “machine readable” maken. Waarbij machine readable niet betekent dat je het zo formuleert dat een LLM het kan lezen en interpreteren. Het betekent dat je het zo formuleert dat een systeem het kan lezen en uitvoeren.

Je instructie moet voldoen aan in elk geval één van deze voorwaarden:

Het is:

• Gekwantificeerd
  Er staat een concreet getal, grens, of maat in: “Zinnen van maximaal 12 woorden” in plaats van “korte zinnen”
• Gedragsmatig gedefinieerd
  Het beschrijft een actie en geen gevoel: “Gebruik graag in plaats van moet” in plaats van “wees vriendelijk”

Zodra je dit kader hanteert, valt 80% van elke corporate style guide door de mand. Niet omdat het slecht geschreven is overigens, maar omdat het geschreven is voor mensen die context aanvoelen in plaats van voor systemen die instructies uitvoeren.

Wat zeg je eigenlijk?

Om onze styleguide dus uitvoerbaar te krijgen voor machines, moest ik alle regels dus herschrijven om te voldoen aan de genoemde voorwaarden. Want zoals het is opgeschreven voor mensen, laten de richtlijnen ruimte voor professionele interpretatie. Maar voor een LLM is dat als een Rorschach test.

Niet omdat hij er helemaal niks mee kan of doet. Zoals we weten, gaan LLMs altijd (!) aan de slag, maar omdat hij te veel intuïtief moet invullen en dat heeft hij nu net niet: de aangescherpte intuïtie van een expert.

Wat je wil, is het uitsluiten van zoveel mogelijk interpretatieve vrijheid. Omdat mensen net als LLMs probabilistische systemen zijn, maar anders dan LLMs combineren wij dat met normbesef, context en ervaring en dat is een zeer relevant verschil.

Dus ging ik aan de slag.

Uit de styleguide:

• Een goede tussenkop spreekt de lezer aan, is eenduidig, concreet en kort. Maakt het onderwerp van de alinea duidelijk.

Werd

• Beperk tussenkopjes tot 3 tot 8 woorden.
• Vermijd deze leestekens in tussenkopjes: punten, komma’s en uitroeptekens
• Maak tussenkopjes concreet en inhoudelijk scherp. Vermijd vage kopjes zoals “Meer informatie” of “Hoe werkt het?”
• Zorg dat tussenkopjes de kern van de bijbehorende tekst parafraseren of samenvatten.

Hier een kritische noot, die wel belangrijk is. Je komt er soms niet onderuit dat guidelines te “zacht” blijven. Niet alles is te vertalen naar gedragsinstructies voor de machine. Soms kun je voorbeelden geven om dat op te lossen, soms kun je een woordenlijst meegeven om dat op te lossen, soms kan de rol die je meegeeft bijdragen aan een oplossing.

Wat ik wil zeggen is: promptdesign vraagt je om goed na te denken over wat je probeert te bereiken (output) en dan te kijken wat de beste manier is om dat te doen (prompt). Kortom: blijf opletten.

Contextualiteit kent geen tijd

Misschien valt het je op dat elk punt in de machine-taal, 1 gedragsdriver is: het schrijft 1 ding voor. Dat is niet toevallig. Want ik wil de losse regels, namelijk in verschillende combinaties kunnen hergebruiken.

Die verschillende combinaties zou  je ook verschillende contexten kunnen noemen. Content is namelijk informatie die gecontextualiseerd is. Dat klinkt vaag, maar dat is het niet hoor.

Een voorbeeld:

Informatie: Spaarrekening X kan pas na een jaar beëindigd worden

Content:

• Op de website: Wil je je spaarrekening opzeggen? Dat is pas mogelijk na een jaar.
• In de app(ingelogd): Opzeggen? Dat kan op datum X.
• Campagne: Kies spaarrekening X en laat je geld in elk geval 1 jaar groeien!

Om de context goed te krijgen in je prompt, heb je voor verschillende situaties, een verschillende set nodig aan richtlijnen. Want dat is namelijk ook hoe je hoofd werkt. Je past niet alle 100+ richtlijnen uit de styleguide toe op elke stukje tekst dat je schrijft…toch?

Door de richtlijnen in je prompt atomair te maken, oftewel zoveel mogelijk 1 type gedrag aan te laten sturen, maak je het gemakkelijker voor jezelf om sets samen te stellen van losse richtlijnen die je kunt inzetten voor specifieke typen content.

Maar, dat is een ontwerpkeuze die ik hier heb gemaakt en misschien is in jouw situatie een andere keuze beter.

Een discipline die nog niet (echt) bestaat

Terug naar de styleguide. Die waren nooit bedoeld als uitvoerbare logica, maar als professionele afspraken tussen volwassen mensen. De styleguide is een gedeeld referentiekader en een manier om te zeggen: zo doen wij dat hier.

Maar AI verandert dat.

Het vraagt om een manier om impliciete keuzes om te zetten in expliciete gedragsregels. En een manier om interpretatie van mensen (experts) te vertalen naar gedrag van LLMs.

En dat vraagt weer om een mix tussen taalontwerp en begrip van LLMs.

Je zou het behavioral rule engineering kunnen noemen. Of language systems design. Of iets anders dat nog niet bestaat maar ook heel tof klinkt.

Wat het ook wordt, het is de job van het ontwerpen van operationele taal en op de meeste plekken doen we dat nog niet.

Machine-readability is een ontwerpdiagnose

Wat ik dus eigenlijk aan het doen was, was niet “vertalen” van guidelines, maar ontwerpen van herbruikbare, machine readable taalinstructies.

Dat heeft een mooie verzameling, gekwantificeerde en/of gedefinieerde content guidelines opgeleverd, die ook netjes getagged en ge-metadateerd zijn, gemakkelijk te beheren en te slim te combineren.

Aangezien LLMs content genereren, is het niet onbelangrijk om een dergelijke vertaalslag te maken en de juiste (contextueel correcte) combinaties van richtlijnen óók te ontwerpen.Dat zorgt er namelijk voor dat bijvoorbeeld je chatbot gepaster communiceert én in de stem van je organisatie.

Waarom dit nu ineens urgentie heeft

Pre-AI was werkte de huidige styleguide prima. Je ervaren redacteuren wisten precies wat ze, wanneer moesten toepassen.

Maar met GenAI vermenigvuldigt output en dat doet het ook nog eens (middels prompts) automagisch. En daarmee vermenigvuldigt dus ook inconsistentie, vaagheid, interpretatiefouten.

Eén onduidelijke richtlijn die 200 keer per maand wordt toegepast door mensen, kun je nog wel managen. Diezelfde richtlijn toegepast door een model dat 2000 berichten per dag genereert? Dan heb je niet meer een klein probleem, maar een structureel risico en geautomatiseerd falen.

Organisaties denken dat AI hun contentprobleem oplost. Maar wat het eigenlijk doet, is hun gebrek aan structuur zichtbaar maken. AI fungeert als spiegel en als megafoon.

Het probleem was er al, maar je mensen losten het impliciet op. Daar heeft je LLM verontrustend weinig talent voor.

Dus wat nu?

Als je AI wilt inzetten voor content, moet je eerst leren jezelf te begrijpen. Niet jezelf als organisatie, maar jezelf als taal.

Wat bedoel je écht wanneer je “empathisch” zegt? Hoe ziet “duidelijk” er concreet uit? Welke regel gaat voor wanneer twee richtlijnen botsen?

Machine-readability dwingt je die vragen te beantwoorden. Want als jij niet weet wat je eigenlijk precies bedoelt, dan kan een model het natuurlijk ook niet consistent uitvoeren.

The post LLMs spreken geen styleguide, tijd om het te vertalen appeared first on Xa4a.net.

1. Context
2. Perspective (optioneel)
3. Role
4. Instructions
5. Guidelines
6. Guardrails
7. Output Instructions
8. Output Example (optioneel)
9. Self-check (optioneel)

Het is een modulaire, component based structuur. Het idee is dat je componenten kunt hergebruiken, centraal kan managen en governance kan toepassen op je prompts. Handig in een corporate setting, waar veel prompts door de organisatie zwerven. Wil je meer weten over ECHO, lees dan hier. In deze serie artikelen werk ik elk van de componenten uit.

We starten met het Context component

Wat is het Context component

Het Context-component vertelt de LLM in welke wereld het opereert: wat er gebeurt, wie erbij betrokken is, en waarom het ertoe doet.

Zonder die informatie maakt het model aannames op basis van statistische waarschijnlijkheden uit zijn training. Soms klopt dat toevallig voldoende, maar vaak niet of onvoldoende. Het punt is dat als je dit niet meegeeft, het model het invult en de consistentie van je output eronder lijdt.

Daarnaast geef je, door de context duidelijk te schetsen, de LLM een referentiekader dat bepaalt hoe het elk volgend onderdeel van je prompt interpreteert.

Stel je vraagt aan iemand om een tekst te vertalen naar Spaans, dan maakt het veel uit of dat Mexicaans Spaans of Dominicaans Spaans moet zijn. De instructie is hetzelfde “vertaal naar Spaans”, maar de uitvoering is heel anders.

Waarom is het belangrijk/wat doet dit component?

De Context bepaalt welk deel van zijn trainingslandschap een model gebruikt om tokens te voorspellen.

Zonder Context vist het model theoretisch uit zijn volledige (finetuned) trainingsdata. Mét een duidelijke Context beperk je dat landschap: de LLM sluit patronen uit die niet bij de door jou beschreven situatie passen.

Elk domein, zoals banken, zorg, onderwijs, tech, overheid, HR, heeft eigen taal, prioriteiten, risicogevoeligheden en impliciete communicatienormen. LLMs “kennen” die normen niet expliciet. Maar door Context vooraf te plaatsen, maak je sommige patronen meer onwaarschijnlijk en andere juist meer waarschijnlijk.

“We maken een maandelijkse nieuwsbrief voor de inwoners van Guadalajara” sluit Dominicaanse varianten uit van het Spaans uit. Niet omdat het expert is op het gebied van specifieke typen Spaans, maar omdat die Context de tokenwaarschijnlijkheden verschuift richting patronen die in die situatie voorkwamen in de training.

Zonder Context moet het kiezen uit álle varianten, terwijl je mét Context beperkt welke varianten plausibel zijn.

Hoe het werkt in relatie tot de LLM

Voor LLMs is de positie van informatie in een prompt niet neutraal: de volgorde waarin informatie aangeboden wordt, beïnvloedt hoe het model latere delen van de prompt interpreteert.

Context staat in ECHO vooraan. Dus Context:

• Beïnvloedt hoe latere tokens geïnterpreteerd worden
• Maakt bepaalde woorden en woordpatronen waarschijnlijker in de rest van de output

Positional primacy:
In de praktijk hebben de eerste tokens in een prompt meer invloed op het totale inferentietraject (het proces waarmee het model zijn antwoord genereert) dan latere tokens.

Door te starten met een duidelijke Context, wordt elk volgend component, zoals je Role, Instructions en Guidelines, geïnterpreteerd door de statistische lens die je in het Context-component al hebt gedefinieerd.

Concreet:

Als je schrijft “Er is een storing van vier uur in het betaalsysteem die 10.000 klanten raakt”, dan zijn alle volgende tokenpredictions verschoven richting crisispatronen, urgente taal, en stakeholdermanagement. Niet omdat het model “begrijpt” dat er een crisis is, maar omdat die vroege tokens het “waarschijnlijkheidslandschap” hebben aangepast.

Zonder die vroege verankering opereert de LLM vanuit een breder en generieker deel van zijn trainingdata.

Onderzoek dat dit onderbouwt

Positie in de prompt bepaalt invloed
Onderzoek toont aan dat de volgorde waarin informatie wordt gepresenteerd direct impact heeft op nauwkeurigheid waarmee LLMs redeneren. Modellen presteren tot 30% beter wanneer premissen in logische volgorde worden aangeboden, waarbij vroege informatie als anker functioneert voor latere interpretatie van de prompt.

Bron: Premise Order Matters in Reasoning with Large Language Models

Context aan het begin verbetert taakuitvoering
Analyses over meerdere LLMs laten zien dat input-context aan het begin of in het midden van prompts consistent betere resultaten oplevert dan context aan het eind. Claude Opus was bijvoorbeeld 12% nauwkeuriger bij classificatietaken wanneer de context vooraan geplaatst werd.

Bron: Optimizing Prompts Across LLMs

Contextuele informatie reduceert ambiguïteit
Gestructureerde prompts die expliciete contextuele informatie bevatten, leiden tot meer consistente en relevante output. Het beschrijven van achtergrondinformatie zorgt voor een beter operationeel kader dat het model helpt om nuances te begrijpen.

Bron: Ensuring Consistent LLM Outputs Using Structured Prompts

Wat gebeurt er zonder Context?

Zonder Context moet het model raden welk deel van zijn trainingslandschap relevant is. Het heeft geen anker om te bepalen:

• In welk domein het opereert (tech, zorg, overheid, banking)
• Wat de urgentie of stakes zijn
• Wie de doelgroep is en welk taalniveau past
• Welke domein-typische communicatienormen gelden

Het resultaat: het model kiest standaard voor het statistisch meest voorkomende patroon uit zijn training. Dat is vrijwel altijd generiek en dus niet de taal die passend is bij jouw specifieke situatie.

Concreet voorbeeld:

Zonder Context: “Schrijf een bericht over de vertraging”

Het model genereert iets tussen een vriendelijke app-notificatie en een blogpost-update. Geen gevoel voor urgentie, geen stakeholder-bewustzijn en geen domeinspecificiteit.

Met Context: “Er is een virusuitbraak in het ziekenhuis die 200 patiënten raakt. Schrijf een bericht over de vertraging in behandelingen”

Het model activeert nu medische communicatiepatronen, urgentietaal, stakeholder-management, meer compliance-bewuste formulering.

Dezelfde Instruction, levert een andere uitvoering op, omdat de Context het waarschijnlijkheidslandschap (het deel van de datavijver waar de LLM in vist) heeft aangepast voordat de Instruction werd gelezen.

Context-component failure modes

• Te vage situatiebeschrijving
  “We hebben een probleem met klanten” geeft het model te weinig houvast. Welk probleem? Welke klanten? Wat is de impact? Het model vult de gaten in met statistische gemiddelden en dus niet met jouw specifieke situatie.
• Context vermengen met Instructions
  “We hebben een storing, schrijf een reactie” stopt de Instruction in de Context. Het model krijgt twee signalen tegelijk en kan niet onderscheiden wat situatie is en wat actie moet zijn. Scheid deze altijd: eerst wat er is, dan wat ermee moet gebeuren.
• Organisatie-specifieke afkortingen zonder uitleg
  “De KYC-flow in onze CDD-proces heeft een RT van 4 dagen” activeert geen relevante patronen als het model niet weet dat KYC = Know Your Customer, CDD = Customer Due Diligence, RT = response time. Vertaal jargon of leg het kort uit.
• Te veel context waardoor focus verdwijnt
  Een halve pagina achtergrondinformatie over de geschiedenis van het bedrijf, marktpositie, eerdere campagnes en toekomstige plannen verdringt wat écht relevant is voor deze specifieke taak. Het model moet zoeken naar wat belangrijk is. Beperk Context tot wat direct invloed heeft op hoe de taak uitgevoerd moet worden.
• Context ontbreekt volledig
  Het model krijgt alleen “Schrijf een persbericht” zonder te weten: waarover? Voor wie? In welke situatie? Waarom nu? Het standaardpatroon dat eruit komt, past bijna nooit bij wat je daadwerkelijk nodig hebt.

Kortom

De Context is niet de achtergrondinformatie, maar de laag die bepaalt in welk deel van het trainingslandschap de LLM moet opereren voordat het aan een taak begint.

Zonder Context laat je het model daarnaar raden: welk domein, welke doelgroep en met welke urgentie. Met een duidelijke Context schets je de relevante scène.

Door de Context vooraan te plaatsen (zoals in ECHO), profiteer je van positional primacy: vroege tokens hebben disproportioneel veel invloed op hoe alle volgende tokens geïnterpreteerd worden. Je activeert daardoor dus domein-specifieke patronen voordat Instructions, Guidelines of Guardrails worden gelezen.

Het verschil tussen “schrijf een reactie” in een bankcrisiscommunicatie versus een voor een productlancering zit niet in de Instruction, want die is identiek. Het verschil is contextueel en zit dus in de Context.

Een goed Context-component verandert dus niet alleen wat de AI schrijft, maar ook hoe de AI “redeneert” binnen de taak die je het geeft.

The post Serie | ECHO: het Context component appeared first on Xa4a.net.

Toch hield ik voet bij stuk. Want we hebben wél een promptstrateeg nodig. Ja jij misschien ook. 

De promptwereld in bedrijven: Promptistan

Laten we eerst eens breed om ons heen kijken. Hoe ziet het wilde westen van Promptistan er nu uit?

Binnen grotere organisaties worden op verschillende plekken, prompts bedacht, gemaakt, gebruikt en opgeslagen. Soms door mensen die er bakken van kaas van hebben gegeten, soms door mindere promptgoden, soms door mensen die LLM niet eens kunnen spellen. Allemaal mooi, maar ook allemaal niet per se zo handig. 

Want:

• Het is lastig om de kwaliteit van prompts te vergelijken, als iedereen zijn eigen methoden heeft
• Op verschillende plekken wordt het prompt-wiel opnieuw uitgevonden en dat is zonde van de tijd en moeite
• Niemand heeft zicht op welke prompts er rondzweven, hoe goed ze zijn en welke risico’s ze in zich dragen
• Omdat we te maken hebben met GenAI, zijn de prompts het middel waarmee je toon en stijl uit een GPT trekt. Elke afwijkende content-regel in verschillende prompts, levert kleine nuanceverschillen in toon en stijl op, die opgeteld leiden tot de verloedering van je merkstem

Daar moet een manager bij

Laten we eerlijk zijn, dat alles wil je allemaal niet. Niet alleen omdat je de efficiëntie van je GenAI inzet negatief beïnvloedt, maar ook omdat je zicht wil hebben op wat er tussen mens en machine gebeurt. Niet om dan direct boetes uit te delen, maar omdat we willen kunnen aantonen dat we de juiste dingen doen, welke dingen dat precies zijn en omdat we ook (zeer belangrijk) onze eigen collega’s willen beschermen. 

Enter…de promptmanager. 

Haar rol is breed en belangrijk. Zij zorgt dat er een centrale plek is waar prompts worden bewaard. Ze controleert prompts op risico’s, kwaliteit en effectiviteit. Ze draagt eraan bij dat GenAI inzet niet alleen in Fantasia tijd/geld bespaart, maar ook in de echte wereld. Met prompts die herbruikbaar zijn, slim én efficiënt. Ik mag haar nu al.

Wat levert dat op? Binnen drie weken weet iedereen waar de (gevalideerde) prompts staan, welke versie live is en wat je wél/niet mag aanpassen. Binnen drie maanden gebruiken 60% van de teams library-prompts in plaats van eigen hacks. De correctietijd voor AI-output daalt merkbaar en elke output draagt ook nog een prompt-ID, zodat je kunt aantonen wat er is gebruikt als iemand vragen stelt.

Domeinspecifiek prompten

Er zijn natuurlijk bakken met prompts, die door iedereen gebruikt kunnen worden. Een samenvat-prompt bijvoorbeeld of een spelling-controle-prompt. 

Maar er zijn ook prompts die domeinspecifiek zijn. Een Risk-afdeling heeft andere (of extra) guardrails nodig dan een HR-afdeling. En waar voor een legalteam een Instructie in een prompt gevaarlijk kan zijn, is diezelfde instructie voor de Klantenservice helemaal prima. 

Wat die inhoudelijke differentiaties zijn, weten de mensen uit de verschillende domeinen je waarschijnlijk wel te vertellen. Een generalist daarentegen heeft daar meer moeite mee. Dat is ook de reden dat veel van de prompts die je op internet kunt vinden, bijna nooit out-of-the-box voor je werken. Jouw context is belangrijk en die is deels inhoudelijk van aard. 

Elk domein moet dus een eigen promptmanager hebben. Hoe specifiek je dat maakt, hangt af van de omvang van de organisatie, de inrichting ervan en potentiële impact als er iets misgaat. Geen zorgen, de promptmanager hoeft het domein niet als haar broekzak te kennen (ze hoeft zelf geen jurist te zijn, al zou dat kunnen), maar ze moet dicht genoeg op het domein zitten om de belangrijke nuances te vangen. 

Tot zover had ik mijn collega overigens nog mee. De promptmanager begreep hij. Maar ik was nog niet klaar.

Zij heeft visie en diepte

Want dan missen we nog steeds de prompstrateeg. Dat is weer een ander beestje. Zij is degene die de kaders bepaalt, de trends ziet, de LLM’s in de smiezen houdt en er in algemene termen voor zorgt dat de standaarden up-to-date blijven, de processen werkbaar en de resultaten voer zijn voor een mooie demo of roadshow. 

Vooral in grotere organisaties, is zij geen luxe. We lijken het ons nog te weinig te realiseren, maar prompts zijn entiteiten die een bepalende rol spelen in de vorming van de stem en boodschap van organisaties. Het zijn niet gewoon kleine verzoekjes aan SjeTGTP (zoals mijn vader het noemt), maar een belangrijk en definiërend deel van je GenAI succes. 

Promptstrateeg=promptmanager? Dat kan best!

In kleinere organisaties kan deze rol prima een dubbelrol zijn (een promptmanager, die ook promptstrateeg is of een inhoudelijk specialist, die een goede promptmanager is) overigens. We hoeven de wereld natuurlijk niet vol te stoppen met rollen. 

Naast het waarborgen van processen en standaarden, is de promptstrateeg ook verantwoordelijk voor de opslag van de prompts als eigenaar van de library, de ontwikkeling van die library en houdt een vinger aan de pols als de tech-bro’s besluiten om alles om te gooien in gebruikte LLM(‘s). Kortom: zij heeft het vergezicht, de managers houden zich bezig met de alledaagse dingen in Promptistan.

Prompt governance

Ik noem het nog maar even Promptistan, want in de meeste organisaties is het nog een beetje het wilde westen. Wat natuurlijk spannend is, maar geen houdbare situatie. Dat prompts governance nodig hebben, is evident. Hoe dat eruit moet zien, is iedereen nog aan het uitvogelen of …moet dat in elk geval gaan doen. 

Mijn collega en ik hebben er wekenlang over gediscussieerd. Eigenlijk stopten we pas toen hij een andere baan vond. Dat lag niet aan deze discussie wil ik benadrukken, maar ik mis het sparren wel. 

Terwijl ik dit schrijf, ben ik er (ondanks zijn tegenwerpingen) echter nog meer overtuigd dat prompt governance nodig is, daar rollen bij horen en de promptstrateeg er één van is. Maar ik nodig je uit om me uitgebreid tegen te spreken. Dan kan ik mijn gedachten nog meer scherpen en daar houd ik wel van.  

Extra: De AI Begrippenlijst

The post Het moment is daar: het is tijd voor promptgovernance appeared first on Xa4a.net.

Still, I stood my ground. Because we DO need a prompt strategist. Yeah, and maybe you do too.

The prompt world in companies: Promptistan

Let’s first take a broad look around us. What does the wild west of Promptistan look like?

Within larger organizations, prompts are conceived, made, used and stored in different places. Sometimes by people who really know their stuff, sometimes by lesser prompt gods, sometimes by people who can’t even spell LLM. All fine, but also not necessarily all that handy.

Because:

• It’s difficult to compare the quality of prompts when everyone has their own methods
• In different places the prompt wheel is being reinvented and that’s a waste of time and effort
• Nobody has insight into which prompts are floating around, how good they are and what risks they carry
• Because we’re dealing with GenAI, the prompts are the means by which you extract tone and style from a GPT. Every deviating content rule in different prompts produces small nuances in tone and style, which added up lead to the deterioration of your brand voice

There needs to be a manager for that

Let’s be honest, you don’t want any of that. Not only because you negatively affect the efficiency of your GenAI deployment, but also because you want insight into what’s happening between human and machine. Not to immediately hand out fines, but because we want to be able to demonstrate that we’re doing the right things, what exactly those things are and because we also (very important) want to protect our own colleagues.

Enter…the prompt manager.

Her role is broad and important. She ensures there’s a central place where prompts are stored. She checks prompts for risks, quality and effectiveness. She contributes to GenAI deployment not only saving time/money in Fantasia, but also in the real world. With prompts that are reusable, smart AND efficient. I like her already.

What does that deliver? Within three weeks everyone knows where the (validated) prompts are, which version is live and what you can/can’t modify. Within three months 60% of teams use library prompts instead of their own hacks. The correction time for AI output drops noticeably and every output also carries a prompt ID, so you can demonstrate what was used if someone asks questions.

Domain-specific prompting

There are of course loads of prompts that can be used by everyone. A summarize prompt for example or a spell-check prompt.

But there are also prompts that are domain-specific. A Risk department needs different (or additional) guardrails than an HR department. And where an Instruction in a prompt can be dangerous for a legal team, that same instruction is completely fine for Customer Service.

What those substantive differentiations are, people from the different domains can probably tell you. A generalist on the other hand has more trouble with that. That’s also the reason many of the prompts you can find on the internet almost never work out-of-the-box for you. Your context matters and that’s partly substantive in nature.

So each domain needs to have its own prompt manager. How specific you make that depends on the size of the organization, its structure and potential impact if something goes wrong. Don’t worry, the prompt manager doesn’t need to know the domain like the back of her hand (she doesn’t need to be a lawyer herself, though that could work), but she needs to sit close enough to the domain to catch the important nuances.

Up to this point I still had my colleague with me, by the way. He understood the prompt manager. But I wasn’t done yet.

She has vision and depth

Because then we’re still missing the prompt strategist. That’s a different beast. She’s the one who sets the frameworks, sees the trends, keeps tabs on the LLMs and in general terms ensures that the standards stay up-to-date, the processes workable and the results are fodder for a nice demo or roadshow.

Especially in larger organizations, she’s no luxury. We still don’t seem to realize it enough, but prompts are entities that play a defining role in shaping the voice and message of organizations. They’re not just little requests to ChattyGippy (as my father calls it), but an important and defining part of your GenAI success.

Prompt strategist = prompt manager? That can work!

In smaller organizations this role can perfectly well be a dual role (a prompt manager who’s also a prompt strategist or a content specialist who’s a good prompt manager), by the way. We don’t need to stuff the world full of roles, of course.

Besides safeguarding processes and standards, the prompt strategist is also responsible for the storage of the prompts as owner of the library, the development of that library and keeps a finger on the pulse when the tech bros decide to upend everything in the LLM(s) used. In short: she has the long view, the managers concern themselves with everyday things in Promptistan.

Prompt governance

I’ll still call it Promptistan, because in most organizations it’s still a bit of the wild west. Which is exciting, of course, but not a sustainable situation. That prompts need governance is evident. What that should look like, everyone is still figuring out or…needs to start doing at least.

My colleague and I discussed it for weeks. We actually only stopped when he found another job. That wasn’t because of this discussion, I want to emphasize, but I do miss the sparring.

While I write this, I’m (despite his objections) even more convinced that prompt governance is needed, that roles belong to it and the prompt strategist is one of them. But I invite you to thoroughly contradict me. Then I can sharpen my thoughts even more and I like that.

The post The moment is here: it’s time for prompt governance appeared first on Xa4a.net.