De derde stoel in de spreekkamer

AI komt de zorg niet binnen als een robot in witte jas. De komst is subtieler. Een arts laat een conceptbrief herschrijven. Een verpleegkundige krijgt een automatische samenvatting van een lang dossier. Een patiënt stelt vooraf vragen aan een chatbot. Een leverancier voegt een AI-assistent toe aan software die al jaren in gebruik is.

Geen van deze voorbeelden voelt als een fundamentele verandering van de zorgrelatie. Het lijkt vooral handig. Minder administratie, betere teksten, snellere samenvattingen, meer overzicht. In een sector die kampt met werkdruk, personeelstekorten en complexe dossiers is dat geen bijzaak.

Toch verandert er wel degelijk iets. AI schuift niet alleen aan als hulpmiddel, maar als nieuwe bemiddelaar tussen arts en patiënt. Het systeem beïnvloedt welke informatie als eerste zichtbaar wordt, welke toon een brief krijgt, welke risico’s worden benadrukt en welke samenvatting het vertrekpunt wordt van professioneel oordeel.

Daarmee ontstaat een derde stoel in de spreekkamer. Op die stoel zit niet letterlijk de AI-founder. Maar zijn model, zijn ontwerpkeuzes, zijn standaardinstellingen en zijn commerciële logica kunnen wel doorwerken in de relatie tussen patiënt en zorgverlener.

De Nederlandse zorg begint niet bij nul. Er zijn patiëntrechten, beroepsnormen, kwaliteitskaders, privacyregels, informatiebeveiliging, medische hulpmiddelenwetgeving en toezicht. De WGBO beschermt de patiënt in de behandelrelatie. De Wkkgz regelt kwaliteit, klachten en leren van incidenten. De Europese AI Act stelt eisen aan hoog-risico AI-systemen. Internationale kaders zoals WHO-richtlijnen en FUTURE-AI formuleren principes voor betrouwbare medische AI.

Dat is een stevige basis. Maar zij beantwoordt niet automatisch de diepere vraag: welk oordeel mag een zorginstelling door AI laten beïnvloeden, en welk oordeel blijft onvervreemdbaar menselijk?

Die vraag wordt urgent omdat AI vaak binnenkomt als gemak. Een teksthulp lijkt onschuldig. Een samenvatter lijkt efficiënt. Een triage-ondersteuner lijkt praktisch. Maar in de zorg zijn taal, volgorde en nadruk nooit neutraal. Een samenvatting bepaalt wat buiten beeld blijft. Een patiëntbrief beïnvloedt vertrouwen. Een risicosignaal kan de interpretatie van een arts kleuren. Een chatbotantwoord kan een patiënt al vóór het consult richting geven.

AI kan de zorgrelatie versterken. Dat verdient erkenning. Als een arts minder naar het scherm kijkt en meer naar de patiënt, is dat winst. Als AI administratieve last vermindert, kan er tijd vrijkomen voor aandacht. Als complexe medische informatie begrijpelijker wordt uitgelegd, kan de patiënt beter deelnemen aan het gesprek. In die vorm ondersteunt AI precies wat goede zorg nodig heeft: aanwezigheid, uitleg en overzicht.

Maar nuttig is niet hetzelfde als gelegitimeerd.

De kernvraag is niet alleen of een AI-tool veilig is, maar ook of het contract klopt, of de data beschermd zijn en of er menselijke controle plaatsvindt. Dat zijn noodzakelijke vragen, maar ze komen te laat wanneer vooraf niet is vastgesteld wat AI in de zorgrelatie mag doen.

Een AI-samenvatting kan technisch correct zijn en toch het eerste interpretatiekader van de arts worden. Een AI-gegenereerde patiëntbrief kan juridisch netjes zijn verwerkt en toch de toon van de behandelrelatie veranderen. Een AI-functie kan onderdeel zijn van bestaande software en toch een nieuwe vorm van machinale deelname aan zorg introduceren.

Daarom hebben zorginstellingen meer nodig dan AI-governance. Zij hebben eerst een AI-covenant nodig. Niet als extra beleidsdocument. Niet als complianceformulier. Maar als institutionele belofte: onder deze voorwaarden mag AI deelnemen aan onze zorgprocessen, en onder deze voorwaarden niet.

Zo’n covenant maakt expliciet waar AI mag ondersteunen, waar menselijk oordeel verplicht blijft, welke patiëntgegevens niet mogen worden gebruikt voor ongewenste training of hergebruik, wanneer het gebruik van AI zichtbaar moet zijn voor de patiënt, wie output mag negeren of corrigeren, wie een toepassing kan stilleggen en hoe schade of misleiding wordt hersteld.

Dat klinkt bestuurlijk, maar het raakt aan iets zeer concreets. De patiënt vertrouwt niet op OpenAI, Google, Microsoft, Epic, ChipSoft of een start-up. De patiënt vertrouwt op de arts en de instelling. Als AI achter de schermen meedoet, blijft de instelling verantwoordelijk voor wat die deelname betekent.

Daarmee wordt ook het begrip “human in the loop” onvoldoende. Want een mens in de lus zonder tijd, informatie, kennis en mandaat is decor. De professional moet AI-output kunnen controleren, negeren, corrigeren en escaleren. Zonder die bevoegdheid wordt de zorgverlener het aansprakelijkheidsschild van technologie die elders is ontworpen.

Een goed covenant begint daarom bij inventarisatie. Niet alleen officiële AI-projecten, maar ook publieke tools, copilots, samenvatters, generatieve functies in bestaande software en leveranciersupdates moeten in beeld zijn. Shadow AI ontstaat juist waar organisaties alleen zien wat formeel is goedgekeurd, terwijl feitelijk al veel meer wordt gebruikt.

Daarna moet per toepassing worden vastgesteld welk oordeel wordt geraakt. Administratieve ondersteuning is iets anders dan patiëntcommunicatie. Een samenvatting is iets anders dan triage. Een planningssuggestie is iets anders dan behandeladvies. En een AI-brief is geen AI-besluit, maar ook haar taal kan zorginhoudelijke betekenis hebben.

Vervolgens moet een instelling vastleggen welke oordelen niet overdraagbaar zijn. Definitieve diagnose, behandelbesluit, ingrijpende triage, communicatie over ernstige diagnoses, beoordeling van wilsbekwaamheid en complexe afwegingen tussen richtlijn, patiëntwens en professionele inschatting vragen om menselijke verantwoordelijkheid. AI kan helpen voorbereiden, ordenen en signaleren. Zij mag niet ongemerkt drager van het oordeel worden.

Ook leveranciers moeten aan deze zorgspecifieke belofte worden gebonden. Niet alleen via verwerkingsovereenkomsten en securitychecks, maar via afspraken over modeltraining, opslag, logging, updates, performance, wijzigingsbeheer, incidentmelding, uitlegbaarheid en exit. Vendor-embedded AI is hierbij misschien wel de grootste uitdaging. Niet de grote AI-transformatie vormt altijd het risico, maar de kleine knop die plotseling in een vertrouwd werkproces verschijnt.

De invloed van AI op de dokter-patiëntrelatie is dus dubbel. In de beste variant geeft AI artsen tijd terug, verbetert zij uitleg en helpt zij informatie beter te ordenen. In de slechtste variant ontstaat een zorgrelatie waarin empathie wordt gegenereerd, verantwoordelijkheid wordt verspreid over onzichtbare partijen en de patiënt onderdeel wordt van een dataketen die hij niet of nauwelijks begrijpt.

De toets is daarom niet alleen of AI werkt. De toets is of de zorgrelatie er beter van wordt.

AI mag in de spreekkamer aanwezig zijn, maar niet anoniem. De patiënt moet kunnen vertrouwen op de expliciete belofte van de instelling die voor hem zorgt, niet op de moraal, defaults of commerciële logica van de modelbouwer.

In die zin komt het covenant vóór governance. Eerst bepaalt de zorg wat zij niet aan de machine weggeeft. Daarna pas komen toolbeleid, contracten, audits, monitoring en training.

---

Dit artikel verscheen oorspronkelijk in The IC Institute op Substack.