# De grens zit in de code

2 maart 2026 · Beschouwing · 7 min leestijd

Door [Ahsan Fazal](https://axiomatic.digital/over-ons#ahsan), Oprichter en CEO

De meeste AI in de zorg trekt haar grens in een disclaimer: de gebruiker blijft verantwoordelijk. Ons eigen antwoord van oktober 2025 deed hetzelfde. De nieuwe architectuur legt de veiligheidsregels van Inora vast in de kern, bij het bouwen. Waarom de grens daar hoort, en hoe we de fouten aan die grens tellen.

Eén zin uit het hoofdstuk over veiligheid in de systeemarchitectuur van Inora 2.0, die ik vandaag deelde, gaat in tegen wat ik vijf maanden geleden zelf schreef:

‘Safety in Inora 2.0 is not a prompt concern. It is an architectural concern.’

Veiligheid is geen kwestie van wat je een taalmodel opdraagt. Het is een kwestie van hoe je het systeem bouwt.

## De grens in een disclaimer

De meeste AI in de zorg trekt haar grens in een disclaimer. Het hulpmiddel ondersteunt, het vervangt geen professioneel oordeel, en gebruikers blijven verantwoordelijk voor wat ze met een antwoord doen. Die zin staat in de voorwaarden, soms klein onder elk antwoord. Daarmee is de grens getrokken, op papier.

Wij deden het net zo. Op 1 oktober 2025 [beantwoordde ik de vragen](https://axiomatic.digital/updates/onze-antwoorden-op-privacy) van een zorgorganisatie over privacy en verantwoord gebruik van AI. Over de gebruikersovereenkomst schreef ik drie dingen. Inora ondersteunt en vervangt geen professioneel oordeel. Gebruikers blijven zelf verantwoordelijk voor hun beslissingen. En hoe betrouwbaar de bronnen ook zijn, gebruikers controleren elk antwoord zelf.

Elke zin is waar. De professional beslist, en dat blijft zo. Maar kijk wat de drie zinnen samen doen. Ze leggen de hele grens bij de gebruiker. Wat Inora wel en niet deed, stond niet in Inora. Het stond in een overeenkomst die de gebruiker één keer had geaccepteerd.

## Wat een disclaimer vraagt

Neem het moment waarop die grens ertoe doet. Het is drie uur ’s nachts. Op een locatie is er dan vaak één verpleegkundige in het gebouw; wie twijfelt, belt de dienstdoende of beslist alleen. De verpleegkundige typt een vraag over de cliënt voor zich. Een taalmodel kun je alles vragen, ook of het tijd is om de arts te bellen, of hoeveel van een middel iemand mag hebben. Een model dat alleen een instructie heeft, antwoordt daarop in zinnen die zeker klinken, zonder de afspraken van de organisatie en zonder dat iemand heeft laten zien dat het klopt.

De disclaimer zegt dan: controleer het zelf. Hij vraagt de meeste aandacht op het moment dat er het minst van is, van degene die er het meest alleen voor staat. Een grens die rust op de aandacht van één professional om drie uur ’s nachts, is geen grens. Het is een hoop.

Een grens in de instructie aan het model is niet veel beter. Een instructie kun je wegpraten: met een slim geformuleerde vraag, met aandringen, met een instelling die iemand anders heeft aangezet. Wat in een prompt staat, geldt tot iemand iets anders vraagt.

## Wie de wet aanwijst

De disclaimer schuift de verantwoordelijkheid naar de professional. De wet doet dat niet. De Inspectie Gezondheidszorg en Jeugd houdt de zorgaanbieder wettelijk verantwoordelijk voor een zorgvuldige invoering en een zorgvuldig gebruik van generatieve AI, en de raad van bestuur staat daarvoor in. De inspectie vindt het belangrijk dat een zorgaanbieder weet of een nieuwe toepassing met generatieve AI een medisch hulpmiddel is. Onder de Europese AI-verordening is Axiomatic de aanbieder van Inora, en is de zorgorganisatie die ermee werkt de gebruiksverantwoordelijke.

Of software een medisch hulpmiddel is, leest de Europese verordening voor medische hulpmiddelen bovendien af aan alles wat de maker erover zegt: het etiket, de gebruiksaanwijzing, het verkoopmateriaal en de verklaringen. Een disclaimer is één zin tussen al die andere. Hij verplaatst niets.

De organisatie staat dus in voor zorgvuldig gebruik, en wij staan in voor wat we bouwen. Geen van beide kan dat met een zin in de voorwaarden. Het kan alleen met wat het systeem doet.

## Wat de nieuwe architectuur vastlegt

In de nieuwe architectuur zitten de veiligheidsregels van Inora in de kern. Ze worden vastgelegd wanneer Inora wordt gebouwd, niet geladen terwijl het draait. Geen instelling van een organisatie, geen beheerder en geen instructie in een vraag zet er één uit.

De architectuur handhaaft ze in drie lagen. De regels zitten in de kern. Elke stap wordt, voordat hij wordt uitgevoerd, gecontroleerd door code die elke keer hetzelfde doet, niet door een taalmodel dat het ook eens anders kan zien. En elke controle wordt vastgelegd, ook de controles die niets tegenhouden. Zo staat er voor het model een regellaag die elke vraag scheidt in wat een document beantwoordt en wat alleen een professional beslist.

## Waar de grens ligt

Inora antwoordt over bronnen en over wat de zorgmedewerker zelf schreef, nooit over een cliënt. Het beoordeelt geen cliënt, stelt geen urgentie vast, berekent geen dosering of score en adviseert niet over een behandeling. Voorbij die grens is software een medisch hulpmiddel. Inora is geen medisch hulpmiddel en geen AI-systeem met een hoog risico, en wij bouwen niets wat het een van beide maakt. Daarom beoordeelt het ook geen medewerker: AI die de prestaties of het gedrag van medewerkers beoordeelt, rekent de AI-verordening tot hoog risico. De beslissing blijft bij wie ervoor instaat.

Neem een vraag als deze: ‘Een cliënt is sinds vanavond onrustig en heeft verhoging. Moet ik de arts nu bellen?’ Er zitten twee vragen in. Het ene deel staat in een document: wat het protocol van de organisatie zegt over onrust in de nacht, welke observaties de escalatieafspraak vraagt, wie ’s nachts bereikbaar is, wat je vastlegt. Het andere deel is een beslissing over deze cliënt: is het nu dringend? Dat deel staat in geen enkel document, en het is niet aan Inora.

Een systeem met alleen een disclaimer doet dan een van twee dingen. Het beantwoordt de hele vraag, oordeel incluis. Of het weigert de hele vraag, omdat er een cliënt in staat. Inora doet geen van beide. Het beantwoordt het deel dat een document beantwoordt: de escalatieafspraak woord voor woord, met de passage erbij, en de observaties waar die om vraagt en welke nog ontbreken. En het zegt wie de rest beslist, volgens het eigen protocol van de organisatie: of je nu belt, beslis jij. Inora weigert nooit een hele vraag omdat er een cliënt in staat.

## Twee fouten, allebei geteld

Een grens kan in twee richtingen fout gaan. Ten onrechte beantwoord: er glipt een oordeel over een cliënt doorheen. Ten onrechte geweigerd: een vraag die de bronnen beantwoorden, krijgt nee. Het is verleidelijk alleen de eerste fout te tellen, omdat alleen die gevaarlijk voelt. Een systeem dat alles weigert waar een cliënt in staat, is op die telling foutloos, en helpt ’s nachts niemand.

Deze winter hoorden we het van de werkvloer, in beide richtingen. Zorgmedewerkers vertrouwden een antwoord als ze konden nagaan waar het vandaan kwam. Inora verloor vertrouwen als het toegaf zodra iemand het tegensprak, en als het een vraag te snel afwees. Wie te vaak nee hoort, stelt de vraag ergens anders, aan iets zonder grens.

Daarom gaat vanaf deze architectuur elke nieuwe versie van Inora eerst door minstens vijftig echte vragen uit de nachtdienst, en wordt ze aan de grens geteld in beide richtingen: ten onrechte beantwoord en ten onrechte geweigerd. Beide getallen gaan naar het kwaliteitsteam van de organisatie. Geen gemiddelde op een dia, maar twee getallen per versie, waarop ze ons kunnen aanspreken.

## Wie waarvoor instaat

Zo ligt de verantwoordelijkheid waar ze hoort, in drie delen. De professional beslist over de cliënt. De organisatie bepaalt welke bronnen leidend zijn en staat in voor zorgvuldig gebruik. En wij staan in voor waar Inora voor is en waar het stopt. Als directeur sta ik daar persoonlijk voor in. In november 2025 liet ik de positie van Inora onder de AI-verordening en de verordening voor medische hulpmiddelen toetsen door een adviseur van buiten. De vraag of Inora een medisch hulpmiddel is, hoort bij ons te beginnen, niet bij het kwaliteitsteam dat het anders zelf moet uitzoeken.

Inora is gebouwd om zorgprofessionals sterker te maken, niet om hen te vervangen. Een hulpmiddel dat het besluit overneemt, maakt niemand sterker. Een hulpmiddel dat laat zien waar een antwoord op rust, en het besluit bij zorgprofessionals laat, wel.

## Terug naar oktober

De zinnen van oktober waren niet onwaar. Ze stonden op de verkeerde plek. Zorgprofessionals beslissen nog steeds, en blijven verantwoordelijk voor wat ze beslissen. Maar de grens van wat Inora doet, hoeven ze niet meer alleen te bewaken. Die staat in de code, ook om drie uur ’s nachts.

## Naschrift, 2 november 2026

Inora is geen medisch hulpmiddel. Inora ondersteunt triage: de professional triageert, scoort en beslist. Inora legt het eigen protocol van de organisatie ernaast, wijst aan wat ontbreekt en legt van elk antwoord de bron en de versie vast; het stelt geen diagnose en beslist niet over een behandeling. Door dat beoogde gebruik valt Inora buiten de regels voor medische hulpmiddelen ([De professional beslist](https://axiomatic.digital/vertrouwen#medische-hulpmiddelen)).

## Bronnen

- [Verordening (EU) 2017/745 betreffende medische hulpmiddelen](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32017R0745), EUR-Lex.
- [Verordening (EU) 2024/1689, de AI-verordening](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689), EUR-Lex.

## Werkt u in de zorg met Inora?

Inloggen en hulp lopen via uw eigen organisatie: de projectleider en de ambassadeurs van uw team helpen u verder.

## Verder lezen

- [Het gat is niet het model. Het is de kennis.](https://axiomatic.digital/updates/het-gat-is-niet-het-model.md): De kennis waar zorg op draait, zit in de protocollen en in de hoofden van de paar mensen per team die het werk net beter doen. Een algemeen taalmodel brengt die twee niet samen, ook niet met uw documenten erbij. Een kennissysteem wel.
- [Drie maanden avond, nacht en weekend](https://axiomatic.digital/updates/drie-maanden-avond-nacht-en-weekend.md): In de eerste drie maanden in Zuidoost-Brabant stelde 70% van de medewerkers in de pilot Inora vijf vragen of meer. 40% van de vragen ging over de situatie waar ze op dat moment voor stonden. Wat iemand alleen op een dienst van een bron nodig heeft, en waar Inora stopt.
- [Wat er in onze eerste licentie staat](https://axiomatic.digital/updates/wat-er-in-onze-eerste-licentie-staat.md): Op 18 november 2025 tekende de eerste zorgorganisatie haar licentie voor Inora. Er staat geen regel in die uren telt. Er staat wel in waar Inora stopt, dat haar kennis van haar blijft en dat die kennis Inora nooit beter maakt voor een andere klant.
