De schaduwmacht van de AI-founder

AI-systemen komen organisaties binnen als hulpmiddel. Snel, slim, onzichtbaar. Maar met deze belofte van verlichting brengen ze ook een externe machtsstructuur mee. Bestuurders die AI zien als software-inkoop, onderschatten de invloed van modelbouwers op kennis, werk, klantrelaties en verantwoordelijkheid. Het antwoord ligt niet alleen bij wetgever of leverancier, maar bij de organisatie zelf: de vierde partij in het nieuwe sociale contract met AI.

AI is in veel organisaties niet ingevoerd met een formeel besluit dat de strategische orde veranderde. De technologie kwam binnen als efficiency-instrument, als copiloot, als vertaalhulp, als samenvatter van stukken, als chatbot, als hulpmiddel bij klantcontact of als ondersteuning voor professionals die sneller wilden werken. De toegangspoort was praktisch, niet constitutioneel.

Toch is de aard van de technologie constitutioneel. Grote AI-modellen beïnvloeden inmiddels hoe organisaties informatie verzamelen, dossiers samenvatten, klanten beantwoorden, risico’s inschatten, kandidaten beoordelen, teksten opstellen en besluiten voorbereiden. Daarmee is AI niet langer vergelijkbaar met een klassieke softwaretoepassing die een afgebakend proces digitaliseert. AI raakt het oordeel zelf.

Dat maakt de positie van de AI-founder ongemakkelijk. Het gaat niet om oprichters van AI-bedrijven die per definitie onverantwoordelijk zouden zijn, noch om technologische ambitie die verdacht is, noch om commerciële innovatie die op zichzelf een probleem vormt. De werkelijke kern ligt elders: een kleine groep private partijen bouwt infrastructuur die steeds vaker fungeert als kennislaag, communicatiekanaal en beslisondersteuning binnen organisaties. Daarmee oefenen zij invloed uit op processen waarvoor zij zelden een expliciet maatschappelijk mandaat hebben gekregen.

De macht van AI-founders zit dus niet alleen in marktkapitalisatie, rekenkracht of datacenters. Zij zit in de stille verschuiving van oordeel.

Invloed zonder plaats in het organogram

In de meeste organisaties heeft deze macht geen formele plaats. Zij staat niet in het organogram, wordt niet benoemd in het mandatenregister, en verschijnt zelden expliciet op de agenda van bestuur, toezicht, of compliance. Toch werkt zij door in de dagelijkse operatie.

Een medewerker die een klantcasus laat samenvatten door een model, vertrouwt op een externe ordening van feiten. Een jurist die een AI-assistent gebruikt, werkt vanuit een eerste interpretatie van risico’s die elders is geproduceerd. Een HR-afdeling die AI inzet bij vacatureteksten of selectie, laat een extern systeem mede bepalen hoe talent wordt beschreven, herkend, en beoordeeld. Een onderwijsinstelling die AI zonder duidelijke kaders toestaat, verandert impliciet wat leren, oefenen, en beoordelen betekenen. En een commerciële afdeling die klantcontact automatiseert, verschuift een deel van haar klantbelofte naar een systeem dat geen relatie met die klant heeft.

In al deze gevallen gebeurt er meer dan neutrale efficiëntieverbetering of procesondersteuning. Het is een vorm van institutionele beïnvloeding.

De invloed is donker in de letterlijke zin van het woord: zij is vaak slecht zichtbaar. Niet noodzakelijk kwaadaardig, maar ondoorzichtig. Zij beweegt via standaardinstellingen, trainingsdata, productontwerp, veiligheidsfilters, optimalisatiedoelen en commerciële prikkels. De organisatie ziet de interface; de onderliggende ordening blijft grotendeels buiten beeld.

Daar ontstaat een bestuurlijk probleem. Want invloed die niet zichtbaar is, kan moeilijk worden beoordeeld. En invloed die niet wordt beoordeeld, kan moeilijk worden bestuurd.

Dat is precies de bestuurlijke blinde vlek. Organisaties behandelen AI als gereedschap, terwijl zij zich gedraagt als een externe infrastructuur voor oordeel.

Technologie is nooit alleen techniek

Paus Leo XIV formuleert in zijn encycliek Magnifica Humanitas een waarschuwing die opvallend goed aansluit bij het bestuurlijke vraagstuk rond AI. De encycliek is gewijd aan het beschermen van de menselijke persoon in het tijdperk van kunstmatige intelligentie. Zij plaatst AI niet tegenover de mens als technologie die noodzakelijk verkeerd is, maar benadrukt dat technologie in de praktijk nooit neutraal is. Technologie neemt kenmerken over van degenen die haar ontwerpen, financieren, reguleren en gebruiken. (Vaticaan)

Die formulering is voor bestuurders relevanter dan zij op het eerste gezicht lijkt. Veel organisaties beoordelen AI nog primair op functionaliteit, kosten, beveiliging en juridische voorwaarden. Dat zijn noodzakelijke criteria, maar ze zijn onvoldoende. Een AI-systeem brengt niet alleen technische capaciteit mee. Het brengt ook een impliciete opvatting mee over efficiëntie, taal, relevantie, risico, prioriteit, normaliteit en aanvaardbare foutmarges.

Die opvattingen zijn niet waardenvrij. Zij zijn gevormd door projectteams, investeerders, datasets, moderatiekeuzes, concurrentiedruk en de commerciële noodzaak om gebruik te stimuleren. Dat hoeft niet tot kwade uitkomsten te leiden. Maar het betekent wel dat je het systeem niet zonder institutioneel tegenwicht in een organisatie kunt plaatsen.

De encycliek wijst bovendien op een machtsverschuiving die voor bedrijven en publieke instellingen herkenbaar zal zijn: technologische ontwikkeling wordt in hoge mate gedreven door private, vaak transnationale partijen met middelen en interventiekracht die die van veel overheden overstijgen. Daardoor krijgt technologische macht een ongekend privaat karakter, wat het moeilijker maakt haar op het algemeen belang te richten. (Vaticaan)

Dit is geen theologische bijzaak. Dit is een regieprobleem.

De leverancier als medebestuurder

Wat veel organisaties over het hoofd zien, is dat het klassieke leveranciersmodel bij AI tekortschiet. Een softwareleverancier levert functionaliteit. Een AI-leverancier levert daarentegen ook interpretatiecapaciteit. Dat verschil is fundamenteel.

Wanneer een organisatie een CRM-systeem gebruikt, structureert dat systeem klantinformatie. Wanneer een organisatie een AI-model gebruikt, kan het systeem meeschrijven aan de interpretatie van die klant. Het kan sentiment duiden, prioriteiten suggereren, risico’s inschatten, bezwaren samenvatten of vervolgstappen voorstellen. Daarmee schuift de AI-leverancier dichter op het domein van professioneel oordeel.

Die verschuiving heeft gevolgen voor aansprakelijkheid en vertrouwen. Een klant die verkeerd wordt geïnformeerd door een AI-chatbot ervaart geen fout van een leverancier, maar een fout van de organisatie. Een kandidaat die door AI-ondersteunde selectie wordt benadeeld, heeft geen relatie met het modelbedrijf, maar met de werkgever. Een patiënt, student, cliënt of burger die door een AI-ondersteund proces verkeerd wordt behandeld, kijkt naar de instelling die het systeem heeft ingezet.

De organisatie kan software inkopen, maar zij kan verantwoordelijkheid niet uitbesteden.

Daarmee ontstaat een nieuwe bestuurlijke opgave. De AI-founder en het modelbedrijf kunnen niet worden behandeld als neutrale achterliggende partijen. Hun producten dragen bij aan de wijze waarop organisaties weten, wegen, spreken en handelen. Zij zijn geen gewone leveranciers meer zodra hun systemen het oordeel binnen de organisatie mede vormgeven.

Zelfregulering is te smal

Veel AI-bedrijven wijzen op interne veiligheidsprocedures, red teaming, evaluaties, modelkaarten, responsible AI-teams en externe consultaties. Dat is zinvol. Het is ook ontoereikend.

Zelfregulering blijft begrensd door het belang van de partij die reguleert. Een bedrijf dat tegelijk model ontwikkelt, markt wint, investeerders tevreden moet houden, klanten bindt en risico’s communiceert, opereert onvermijdelijk in een spanningsveld. Goede intenties nemen dat spanningsveld niet weg.

De vraag is daarom niet of AI-founders oprecht zijn. De vraag is of hun macht extern wordt begrensd, lokaal wordt geïnterpreteerd en institutioneel wordt ingebed.

Een AI-bedrijf kan namelijk algemene veiligheidsnormen formuleren. Maar het kan niet voor iedere organisatie bepalen welk menselijk oordeel onvervangbaar is. Het kan niet bepalen welke klantrelatie kwetsbaar is. Het kan ook niet bepalen welke beroepsnormen in een specifieke context gelden. En het kan niet bepalen welke gevolgen acceptabel zijn voor leerlingen, patiënten, burgers, medewerkers of klanten in de praktijk.

Dat kan alleen de organisatie zelf.

De vierde partij

In het werk van The Intelligence Covenant (IC) Institute wordt daarom gesproken over de organisatie als “vierde partij” in het sociale contract met AI. De eerste partij is de staat, die wetgeving, toezicht en publieke normen moet ontwikkelen. De tweede partij bestaat uit modelaanbieders en technologiebedrijven. De derde partij is de individuele gebruiker, medewerker, klant of burger die met AI te maken krijgt.

De vierde partij is de institutionele gemeenschap waar AI feitelijk wordt ingezet: de onderneming, school, zorginstelling, gemeente, uitvoeringsorganisatie, adviespraktijk of afdeling die AI gebruikt in werkprocessen en dienstverlening.

Precies in deze vierde partij is doorslaggevend. De staat is nodig, maar beweegt vaak trager dan de technologie. De leverancier is invloedrijk, maar heeft eigen belangen. De individuele gebruiker is betrokken, maar mist meestal macht en overzicht. De organisatie bevindt zich op de plek waar AI concreet gevolgen krijgt, en is de partij die dit kan besturen.

Daarom begint verantwoord AI-gebruik niet bij de keuze voor een tool, maar bij het expliciet maken van het institutionele contract dat met die tool wordt gesloten.

Zo’n contract is meer dan een juridische licentie. Het is een bestuurlijke afspraak over macht, oordeel en verantwoordelijkheid.

Het bepaalt waar AI mag ondersteunen en waar AI niet mag komen. Het bepaalt waar menselijke beoordeling verplicht blijft. Het bepaalt welke data buiten de deur blijven. Het bepaalt wie output controleert, wie fouten mag melden, wie schade herstelt en wie bevoegd is om een toepassing stil te leggen. En het bepaalt ook wat de organisatie aan klanten, medewerkers en andere betrokkenen moet uitleggen over het gebruik van AI.

De prijs van impliciete adoptie

Organisaties die dit contract niet expliciet maken, sluiten het alsnog. Alleen gebeurt het dan via defaults.

Via medewerkers die publieke tools gebruiken omdat interne alternatieven ontbreken. Via afdelingen die pilots starten zonder gedeelde afspraken. Via leveranciers die AI-functionaliteit toevoegen aan bestaande softwarepakketten. Via consultants die productiviteitswinst beloven. Via managementteams die innovatie willen tonen zonder het institutionele ontwerp aan te passen.

De kosten van deze impliciete adoptie worden pas zichtbaar bij incidenten. Een datalek. Een discriminerende uitkomst. Een fout advies. Een onverklaarbaar besluit. Een klant die geen menselijke correctie krijgt. Een medewerker die zijn vakmanschap langzaam inruilt voor modelafhankelijkheid. Een organisatie die niet meer kan reconstrueren hoe een besluit tot stand kwam.

Wat hier zichtbaar wordt, zijn geen randproblemen van digitale transformatie. Het zijn tekenen van bestuurlijke erosie.

En dat is zorgelijk. De schaduwmacht van AI-founders wordt namelijk pas echt riskant wanneer zij samengaat met bestuurlijke passiviteit aan de kant van de afnemer. De leverancier levert de infrastructuur. De organisatie laat haar binnen. De gevolgen landen bij mensen die geen invloed hadden op het contract.

Van inkoop naar constitutioneel ontwerp

De praktische conclusie is helder. AI-regie hoort niet alleen thuis bij IT, privacy of compliance. Zij hoort thuis in de bestuurskamer, bij HR, juridische zaken, risk, operations, klantverantwoordelijke teams en medezeggenschap. Niet als rem op innovatie, maar als voorwaarde voor volwassen adoptie.

Dat vraagt om een andere taal. Minder nadruk op use cases alleen. Meer nadruk op beslisrechten. Minder nadruk op productiviteit alleen. Meer nadruk op kwaliteit van werk en klantrelatie. Minder nadruk op vendor claims. Meer nadruk op eigen normen, controles en herstelmechanismen.

De organisatie moet vastleggen welk menselijk oordeel zij wil beschermen, welke vormen van automatisering zij onaanvaardbaar vindt, welke afhankelijkheden zij accepteert en welke rechten betrokkenen hebben wanneer AI mede een uitkomst heeft bepaald.

In die zin raakt AI-regie aan constitutioneel ontwerp op organisatieniveau. Niet omdat iedere organisatie een staat is, maar omdat iedere organisatie regels nodig heeft voor macht, tegenmacht en verantwoording.

De macht zichtbaar maken

De belangrijkste stap is het zichtbaar maken van macht die nu vaak onzichtbaar blijft. De AI-founder is niet fysiek aanwezig in de vergaderkamer, het klantgesprek of het dossieroverleg. Zijn model is dat wel. Het model brengt een externe ordening van taal, kennis en waarschijnlijkheid mee. Die ordening moet onder lokaal toezicht komen te staan.

Dat is de kern van institutionele AI-volwassenheid. Niet technologie afwijzen. Niet technologie vereren. Wel erkennen dat AI macht uitoefent zodra zij oordeel beïnvloedt.

The IC Institute positioneert zijn werk precies op dat snijvlak: tussen technologische adoptie en institutionele verantwoordelijkheid. Want het sociale contract met AI wordt niet alleen in parlementen of model labs gevormd. Het krijgt vorm in de organisaties die AI dagelijks gebruiken tegenover medewerkers, klanten, cliënten, leerlingen, patiënten en burgers.

De vraag voor bestuurders is daarmee verschoven. De eerste vraag is niet meer welke AI-tool de meeste productiviteit oplevert. De eerste vraag is onder welk institutioneel contract deze nieuwe macht de organisatie binnenkomt.

Wie dat contract niet zelf schrijft, werkt met het contract van een ander.

En dat is de plaats waar innovatie omslaat in schaduwmacht.