Intelligence Brief
Shadow AI. Het schrikbeeld van AI zonder mandaat.
Het rapport The Shadow AI Crisis in the Legal Profession beschrijft een probleem dat in de juridische sector eerder zichtbaar wordt dan elders.
Het rapport The Shadow AI Crisis in the Legal Profession beschrijft een probleem dat in de juridische sector eerder zichtbaar wordt dan elders. Advocaten en juristen gebruiken publieke AI-tools om stukken samen te vatten, argumenten te ordenen, onderzoek te versnellen of correspondentie voor te bereiden. Soms gebeurt dat bewust buiten de formele systemen om. Soms komt AI binnen via een leverancier die een bestaande softwareomgeving uitbreidt met nieuwe functies, zonder dat de organisatie opnieuw heeft bepaald wat dit betekent voor vertrouwelijkheid, toezicht en verantwoordelijkheid.
De reflex is om dit te lezen als een complianceprobleem. Er zijn dan mensen die zich niet aan beleid houden, tools die niet zijn goedgekeurd, data die verkeerd terechtkomen en systemen die beter moeten worden geblokkeerd of gemonitord. Dat is allemaal waar, maar het is niet de kern. De juridische sector laat iets fundamentelers zien. Shadow AI is niet alleen AI buiten zicht. Het is AI zonder mandaat.
In het recht is dat snel duidelijk. Een cliënt deelt informatie met een advocaat onder strikte voorwaarden. Die relatie rust op geheimhouding, beroepsethiek, procesbelang en vertrouwen. Niet iedereen mag zomaar aanschuiven bij die relatie. Een kantoorgenoot onder geheimhouding wel. Een externe leverancier soms, als de afspraken helder zijn. Een publieke AI-tool met onduidelijke dataverwerking, modeltraining of bewaartermijnen niet. Niet omdat technologie principieel verdacht is, maar omdat de professionele relatie niet stilzwijgend kan worden uitgebreid met een derde partij die geen deel uitmaakt van het mandaat.
Dat is bewustwording dat vaak ontbreekt in discussies over Shadow AI. We praten over tools, maar het gaat over deelname aan oordeel. We praten over datalekken, maar het gaat over de vraag wie mag meewerken aan een vertrouwensrelatie. We praten over medewerkers die snel iets in ChatGPT plakken, maar het onderliggende probleem is dat de organisatie niet heeft vastgesteld onder welke voorwaarden een externe intelligentie mag meedoen aan werk dat raakt aan verantwoordelijkheid.
De juridische sector is daarmee niet een uitzonderlijk geval, maar een vroege waarschuwing. In het recht heet het cliëntgeheim of privilege. In de zorg heet het medisch beroepsgeheim, waardigheid en afhankelijkheid. In het onderwijs heet het ontwikkeling, beoordeling en pedagogische verantwoordelijkheid. In de overheid heet het rechtspositie, behoorlijk bestuur en vertrouwen in de staat. De woorden verschillen, maar de structuur is hetzelfde. Mensen staan in een verhouding tot een organisatie waarin zij erop moeten kunnen vertrouwen dat informatie, oordeel en macht niet ongemerkt worden gedeeld met partijen die daarvoor geen zichtbare rol hebben gekregen.
Daarom is Shadow AI in maatschappelijke organisaties zwaarder dan in gewone commerciële contexten. Een klant kan meestal weg bij een webwinkel. Een burger kan niet zomaar weg bij de gemeente. Een patiënt kan niet eenvoudig afstand nemen van zijn dossier. Een leerling heeft weinig keuze in de manier waarop hij wordt beoordeeld. Een cliënt in een juridische procedure kan door één verkeerd processtuk, één verkeerd signaal of één verkeerd advies langdurig worden geraakt. Vooral daar is het onaanvaardbaar als AI zich als een onzichtbare derde partij in het werk nestelt.
Dat gebeurt inmiddels op twee manieren. De eerste is bekend: professionals gebruiken zelf publieke AI-tools, vaak uit tijdsdruk of praktische noodzaak. Dat is zelden pure roekeloosheid. Het werk is taai, traag en talig. Dossiers zijn lang. Verslagen moeten zorgvuldig zijn. Brieven moeten begrijpelijk zijn. Informatie moet worden samengevat. Een AI-tool biedt op dat moment onmiddellijke verlichting. Als de organisatie geen veilige route biedt, zoeken mensen een korte route. Dat is geen vrijbrief, maar wel een bestuurlijk signaal.
De tweede manier is geniepiger. Leveranciers voegen AI-functionaliteit toe aan software die al is goedgekeurd. Een documentmanagementsysteem krijgt een samenvatter. Een e-mailomgeving krijgt automatische tekstsuggesties. Een zaaksysteem krijgt semantische zoekfuncties. Een CRM krijgt een AI-assistent. De organisatie heeft ooit de software beoordeeld, maar niet noodzakelijk deze nieuwe vorm van machinale deelname aan het werk. De gebruiker ziet een knop in een vertrouwde omgeving en neemt aan dat het wel mag. De leverancier noemt het innovatie. De organisatie ontdekt later dat het contract met de technologie in de praktijk is veranderd.
Daar zit een fundamentele blinde vlek bij de bestuurders. Veel organisaties behandelen AI-functionaliteit als een uitbreiding van software, terwijl het vaak een uitbreiding van oordeel is. Een gewone softwarefunctie helpt informatie opslaan, vinden of verwerken. Een AI-functie kan informatie ordenen, samenvatten, prioriteren, herformuleren of interpreteren. Dat verschil is wezenlijk. De vraag is dan niet alleen of de tool veilig is, maar of de organisatie het recht heeft om die vorm van interpretatie in deze relatie toe te laten.
Daarom is een verbod maar een beperkt antwoord. Soms moet het tijdelijk. Bij acute risico’s, bij het gebruik van publieke tools zonder duidelijke voorwaarden of wanneer met gevoelige data wordt gewerkt. Maar als structurele strategie is een verbod zwak. Het behandelt Shadow AI als ongehoorzaamheid en niet als symptoom van een ontbrekend institutioneel ontwerp. Professionals blijven behoefte houden aan ondersteuning. Leveranciers blijven functies toevoegen. Werkdruk blijft bestaan. Wie alleen verbiedt, maakt het probleem niet kleiner, maar minder zichtbaar.
Het alternatief is niet alles toestaan. Dat is de andere vorm van gemakzucht. De organisatie die AI overal omarmt zonder haar vertrouwensrelaties opnieuw te doordenken, verwart adoptie met volwassenheid. Dan wordt AI een laagje snelheid bovenop processen waarvan niemand meer precies weet waar menselijk oordeel begint en machinale beïnvloeding eindigt.
Wat nodig is, is een expliciete afspraak over mandaat. Niet alleen intern, richting medewerkers, maar ook extern, richting de mensen over wie informatie wordt verwerkt, beoordeeld of gebruikt. Daar komt het AI-convenant in beeld. Niet als nette naam voor een policy. Niet als document om in SharePoint te zetten. Een convenant is een institutionele belofte. Het zegt onder welke voorwaarden AI mag deelnemen aan werk dat raakt aan vertrouwen.
Dat convenant moet beginnen bij zichtbaarheid. AI-gebruik dat invloed heeft op oordeel, verslaglegging, advisering of besluitvorming mag niet verborgen zijn. De organisatie moet weten waar AI wordt gebruikt, de professional moet weten wat de grenzen zijn, en degene over wie wordt geoordeeld moet in relevante situaties kunnen begrijpen dat AI een rol heeft gespeeld.
Pas daarna komt begrenzing. Sommige gegevens horen niet in publieke of externe AI-systemen. Sommige beslissingen horen niet aan AI te worden overgelaten. Sommige toepassingen passen niet bij een maatschappelijke taak, ook niet als de leverancier ze als efficiënt presenteert. Begrenzing is geen technologievrees, maar bescherming van het mandaat.
Vervolgens is uitlegbaarheid nodig. Niet de onmogelijke belofte dat elk model volledig transparant is, maar de praktische eis dat de organisatie kan uitleggen hoe AI heeft meegedaan. Ging het om samenvatten, herschrijven, signaleren, ordenen, adviseren of selecteren? Welke informatie is gebruikt? Welke controle heeft plaatsgevonden? Welk menselijk oordeel bleef beslissend?
Menselijke beoordeling moet daarbij meer zijn dan een rituele handtekening. Een mens in de lus zonder tijd, kennis of bevoegdheid is geen waarborg, maar decor. Wie moet beoordelen, moet ook mogen twijfelen, vertragen, corrigeren en stoppen. Anders gebruikt de organisatie de professional als aansprakelijkheidsschild.
Ten slotte moet herstel mogelijk zijn. Als AI-gebruik schade veroorzaakt, moet duidelijk zijn waar iemand terecht kan, wie corrigeert, wie verantwoordelijkheid neemt en hoe herstel plaatsvindt. Zonder herstelroute is governance vooral taal. Vertrouwen wordt pas echt beschermd wanneer fouten niet alleen worden geregistreerd, maar ook worden rechtgezet.
Het convenant maakt AI dus niet onpraktisch. Het maakt AI volwassen. Het erkent dat AI waarde kan hebben in professioneel werk, maar weigert te doen alsof elke vorm van AI-deelname vanzelf gelegitimeerd is zodra een tool handig is. Daarmee verschuift de discussie van “mag deze tool?” naar “mag dit oordeel op deze manier worden beïnvloed?”
Dat is precies de vraag die organisaties nu moeten stellen. Niet pas wanneer wetgeving volledig is uitgekristalliseerd. Niet pas wanneer de leverancier zijn voorwaarden wijzigt. Niet pas wanneer een incident publiek wordt. De organisatie is de plek waar AI feitelijk handelt. Daar wordt het echte contract gesloten. Niet door de staat, niet door de leverancier en niet door de individuele gebruiker alleen, maar door de instelling die verantwoordelijk is voor de relatie waarin AI wordt toegelaten.
Shadow AI laat zien wat er gebeurt als die afspraak ontbreekt. Dan sluiten medewerkers, leveranciers en tools in de praktijk al contracten namens de organisatie. Zonder zichtbaar mandaat. Zonder heldere grens. Zonder toestemming van degenen die geraakt worden. En vaak zonder iemand die achteraf nog precies weet wie verantwoordelijk was.
Daarom is Shadow AI geen personeelsprobleem en ook geen puur technisch risico. Het is een institutionele waarschuwing. Een organisatie die geen AI-convenant sluit, laat anderen bepalen wie er mag aanschuiven in haar vertrouwensrelaties.
AI mag helpen. AI mag ordenen. AI mag taal verbeteren, werk verlichten en professionals ondersteunen. Maar AI mag nooit ongemerkt derde partij worden in een relatie die rust op vertrouwen.
Daar begint volwassen AI-governance: niet bij de vraag welke tool wordt gebruikt, maar bij de vraag wie het mandaat heeft om mee te oordelen.
The Shadow AI Crisis In The Legal Profession
367KB ∙ PDF file
door Jana Saad, Legal Tech & AI specialist
Dit artikel verscheen oorspronkelijk in The IC Institute op Substack.
Delen