Een taalmodel redeneert niet

In september 2025 schreef ik in een interne update dat het nieuwe platform van Inora nu kon redeneren, verder dan een algemeen taalmodel. In december kondigde ik “Structured reasoning” aan als nieuwe functie.

Het woord was verkeerd. De functie niet; het woord.

Wat er gebeurde: het model schreef eerst tussenstappen op, las ze terug en schreef dan pas het antwoord. Dat helpt. Antwoorden worden er beter van. Maar het is geen redeneren, en wie het zo noemt, verkoopt iets wat er niet is. Ik heb dat zelf gedaan. Daarom schrijf ik dit.

Wat een taalmodel is

Een groot taalmodel kiest steeds het waarschijnlijkste volgende stukje tekst, op basis van statistische patronen in alles wat het gelezen heeft. Dat klinkt klein. Het is het niet. In juli 2025 las ik hoe verpleegkundige kennis is opgebouwd uit taken die op verborgen manieren met elkaar samenhangen, en ik schreef dat taalmodellen daar belachelijk goed in zijn: statistische patronen herkennen.

Dat vind ik nog steeds. Een taalmodel vindt verbanden in taal die niemand heeft opgeschreven. Het maakt van een rommelige notitie in seconden een leesbare overdracht. Het kan een vraag in spreektaal aan, met een typefout en zonder hoofdletters.

Wat het niet doet: weten wat het niet weet. Het klinkt even zeker als het ernaast zit. Het vertelt je graag wat je wilt horen; onderzoekers noemen dat sycophancy, en het is geen fout van één model maar gedrag van de hele soort. En het weet niet wie de vraag stelt, welk werk die persoon doet of welke versie van het protocol vandaag geldt.

Een brein is geen computer

In december 2025 kreeg ik een betoog toegestuurd dat algoritmes het menselijk oordeel beter kunnen vervangen, omdat mensen onderling zo verschillen. Ik schreef terug dat zo’n argument staat of valt met één aanname: dat een brein een computer is. Dat stuk staat in Variatie is geen ruis.

Ik accepteer die aanname niet. De overeenkomsten tussen hoe mensen leren en hoe taalmodellen worden getraind zijn opvallend, en ik vind ze fascinerend. Maar overeenkomst is geen gelijkheid.

Wat een taalmodel op den duur met ons eigen denken doet, weet nog niemand. Er is nauwelijks onderzoek dat mensen daarin jaren volgt. Wie nu al zeker weet dat AI ons dommer maakt, of juist slimmer, weet meer dan er te weten valt. Ik ben voorzichtig met beide conclusies. Wat ik wel zie: het juiste model, goed ingezet, helpt mensen beter werk te doen, zolang het een hulpmiddel blijft en het denken niet vervangt.

Ik heb die denkfout zelf ook gemaakt, de andere kant op. Eerder had ik tegen de inhoudsdeskundige met wie ik werkte gezegd dat de kennisbibliotheek al die boeken over communicatie niet nodig had: dat kon het taalmodel zelf wel. Ik had het mis.

Een model dat vloeiend praat, weet daarmee nog niet hoe je een moeilijk gesprek voert met een familie die boos is. Daarvoor is vakkennis nodig, uit een bron die iemand heeft gekozen.

Wat dat betekent voor de zorg

Als een taalmodel niet redeneert, moet je het werk verdelen. Zo ontwerpen wij dat.

Het model schrijft. Het ordent, vat samen en zet wat een zorgmedewerker opschreef in het format van de organisatie. Daar is het goed in.

De bronnen bepalen wat waar is. Elk antwoord hoort op zijn bronnen te rusten, en wie erom vraagt, moet de bron kunnen zien: de laag, de versie en de passage. Staat het niet in de bronnen, dan hoort het systeem dat te zeggen, te zeggen waar het gezocht heeft en wie over dat onderwerp gaat. Het mag niet gokken.

Code doet wat exact moet. Een som hoort als code te draaien op de echte gegevens, niet in de tekst van het model. Zo bouwen we Inora. De kopjes van een rapportage komen uit het register van de organisatie, niet uit het model. De grens van wat Inora doet, hoort in de code te zitten, niet in een instructie die iemand kan wegpraten.

De professional beslist. Inora beslist niets over een cliënt. Het ondersteunt de professional met bronnen en met wat de zorgmedewerker zelf schreef. Het besluit blijft bij wie ervoor verantwoordelijk is.

En in Nederland

Twee dingen maken dit hier dringend.

Ten eerste gebeurt het al. Volgens Nivel gebruikte iets meer dan de helft van de 890 zorgmedewerkers die het ondervroeg, in de tweede helft van 2025 AI in het werk, twee derde van hen op eigen initiatief. Een algemeen taalmodel klinkt altijd alsof het weet wat het zegt. Wie niet weet wat het is, gelooft het.

Ten tweede verandert het model onder je voeten. In augustus 2025, kort nadat een nieuw model uitkwam, zag ik dat het op de dag van de lancering bijna een ander model was dan een paar weken later. Wie zorg laat rusten op een taalmodel, moet elke nieuwe versie testen op de eigen vragen van de organisatie voordat het personeel ermee werkt. Die test kun je niet blind aan een ander taalmodel overlaten: dat heeft dezelfde neiging om het met je eens te zijn. Een model mag meekijken, maar de maat is wat de kwaliteitsmensen van de organisatie een goed antwoord vinden. Ons uitgangspunt is dat wat een organisatie in Inora stopt, geen enkel model traint.

Toen ik in februari 2026 onze eerste agent draaide die in meerdere stappen door de bronnen zoekt, schreef ik dat hij nog heel dom was en zonder systeemprompt draaide. Dat was geen bescheidenheid. Het was een beschrijving. De slimheid zit niet in het model. Ze zit in wat je eromheen bouwt: bronnen met een eigenaar, code die de grens bewaakt, een test op echte vragen, en een professional die beslist.

Een taalmodel redeneert niet. Het hoeft ook niet. Het moet goed schrijven, en wij moeten zorgen dat wat het schrijft ergens op rust.

Bronnen

• Sharma e.a., Towards Understanding Sycophancy in Language Models, arXiv:2310.13548.
• Nivel, Kunstmatige intelligentie (AI) in de zorg: de meningen van verpleegkundigen, verzorgenden, verpleegkundig specialisten, begeleiders en praktijkondersteuners, 9 april 2026.