Een nieuw convenant tussen mens en AI als grondslag voor samenwerking — deel 2

Wanneer in een organisatie wordt gezegd dat ‘de AI heeft x gedaan’, klinkt dat vaak als het resultaat van een simpele serie stappen die door een computer is genomen. Het kan betekenen dat het systeem informatie heeft geordend, een risico heeft berekend of misschien wel een kandidaat heeft aanbevolen. En prettig en overzichtelijk als dat klinkt, die formulering verhult iets wezenlijks: Een model kan blijkbaar grote invloed uitoefenen op een besluit, maar kan zelf geen verantwoordelijkheid dragen voor consequenties daarvan. En dat is een probleem..

In het eerste deel van dit essay stond de vraag centraal onder welke voorwaarden de invloed en ‘macht’ van AI legitiem kan zijn in een organisatie, wat dat betekent voor de manier waarop kennis wordt opgebouwd en uiteindelijk voor de vrijheid van de medewerkers. Daaruit volgt een tweede vraag: hoe behoudt je agency wanneer AI steeds meer werk overneemt? Het gebruikelijke antwoord is dat de mens het laatste woord houdt, human-in-the-loop. Maar dat zegt weinig zolang onduidelijk is wie vooraf de doelen bepaalt en -misschien nog wel belangrijker- , of mensen werkelijk van het systeem kunnen afwijken. Menselijke aanwezigheid is nog geen menselijke soevereiniteit.

En dat zul je vooraf moeten regelen. Daarvoor grijpen we nogmaals naar de ideeën van Rousseau en zijn concept van een ‘sociaal contract’. Een contract tussen mens en machine. Maar kan dat wel?

AI is geen contractspartij

‘Een sociaal contract tussen mens en machine’ klinkt beloftevol, maar is filosofisch problematisch. Een contract veronderstelt gelijkwaardige partijen, althans partijen die minstens willens en wetens verplichtingen kunnen aangaan. Maar ook die aanspraak kunnen maken op wederkerigheid en verantwoordelijk kunnen worden gehouden wanneer de toezeggingen niet worden nagekomen.

AI is in die zin geen echte of ‘morele persoon’. Een model kan veel handige dingen. Het kan zelfs de indruk wekken dat het begrijpt of weloverwogen instemt. Maar dat is schijn. Het kan niet op menselijk- of op institutioneel niveau schuld aanvaarden of verantwoordelijkheid dragen voor de gevolgen van het schenden van het contract.

Het convenant wordt daarom niet met de machine gesloten. Het is geen actieve-, maar een passieve partij. Het contract wordt gesloten tussen mensen en instituties over de voorwaarden waaronder zij machine-intelligentie tot hun gemeenschap toelaten. Achter iedere toepassing staan partijen die het systeem hebben geselecteerd, ontworpen, gevoed, begrensd en in een proces hebben geplaatst. Zij kunnen hun verantwoordelijkheid niet laten oplossen in verwijzingen naar gebruikers, ontwikkelaars, leveranciers en modellen.

De machine is het onderwerp van het convenant, niet de ondertekenaar ervan.

Het gemeenschappelijke belang en de discussie over draagvlak

Terug naar Rousseau. Zijn bekendste en tegelijkertijd meest omstreden begrip is de algemene wil, de volonté générale. Vrij vertaald: het gemeenschappelijk belang. Let op: dit is niet hetzelfde als ‘de wil van iedereen’, wat de optelsom van afzonderlijke voorkeuren en belangen is, de consensus. De algemene wil betreft wat de leden van een gemeenschap gemeenschappelijk hebben en over de voorwaarden waaronder zij als vrije en gelijkwaardige deelnemers kunnen samenleven.

Dat onderscheid is relevant, omdat organisaties legitimiteit al snel verwarren met draagvlak. Legitimiteit kan voortkomen uit een verzameling van losse wensen van verschillende doelgroepen binnen de organisatie, wat zeker niet altijd leidt tot draagvlak bij alle stakeholders.

Neem een AI-systeem voor personeelsselectie. Het kan recruiters tijd besparen en sollicitaties consistenter beoordelen. Tegelijk kunnen sollicitanten moeilijk achterhalen waarom zij zijn afgewezen en kan de norm voor een ‘goede kandidaat’ ongemerkt worden beïnvloed door externe, biased data en ontwerpkeuzes van de leverancier. De voordelen komen dan vooral bij de organisatie terecht, terwijl de gevolgen van fouten worden gedragen door mensen die nauwelijks invloed op het systeem hebben.

Een Rousseauiaans convenant vraagt daarom niet alleen hoeveel gebruikers tevreden zijn of hoeveel tijd wordt bespaard. Het vraagt of de AI-toepassing kan worden gerechtvaardigd tegenover iedereen die door haar invloed wordt geraakt. Dus niet alleen: wie profiteert? Maar ook: wie draagt het risico, wie is verantwoordelijk en wie kan een fout laten herstellen? Dat zijn de contouren van de algemene wil en daarmee de richtlijnen voor het sociale contract.

Het gemeenschappelijke belang is geen vooraf gegeven lijst van waarden en ook niet wat een bestuur, ethische commissie of ondernemingsraad namens de gemeenschap vaststelt. Het moet ontstaan in een institutionele praktijk waarin verschillende perspectieven worden gehoord, besluiten kunnen worden verantwoord en de gevolgen voor minder machtige groepen zichtbaar meewegen. Het vereist een gesprek. En discussie. Dat maakt het gemeenschappelijke belang veel veeleisender dan consensus.

Wat niet kan worden overgedragen

Rousseau stelt dat soevereiniteit niet kan worden vervreemd. Een regering kan namens de gemeenschap handelen en besluiten uitvoeren, maar zij kan niet de plaats van de gemeenschap innemen als auteur van de fundamentele regels. Wanneer een groep slechts wil wat een ander voor hen bepaalt, houdt het volgens Rousseau op als soevereine gemeenschap te bestaan. Dit is een fundamenteel inzicht en is buitengewoon actueel in een tijd waarin AI-beslissingen steeds centraler komen te staan.

Dit concept ligt aan de basis van het nieuwe sociale contract. Immers: niet iedere taak hoeft door een mens te worden uitgevoerd. Analyse, patroonherkenning, vertaling, planning en het genereren van alternatieven kunnen prima aan systemen worden gedelegeerd. Wat echter niet zonder catastrofaal verlies van soevereiniteit kan worden overgedragen aan systemen, is het eigenaarschap voor de normen waaronder beslissingen plaatsvinden.

Een model kan voorspellen welke sollicitant waarschijnlijk goed zal presteren, maar die voorspelling bepaalt niet wat goed werkgeverschap is.

Het kan berekenen welke behandeling gemiddeld het meeste effect heeft, maar daarmee is nog niet vastgesteld welk risico voor een individuele patiënt verantwoord is.

Een taalmodel kan overtuigende antwoorden produceren over rechtvaardigheid of aanvaardbare schade. De overtuigingskracht van die antwoorden verschaft het systeem echter geen legitiem gezag om de normen vast te stellen.

Mensen moeten daarom blijven bepalen welk probleem wordt opgelost, welke categorieën worden gebruikt, welke fouten zwaarder wegen, wanneer uitzonderingen nodig zijn en op welk moment een toepassing niet langer gerechtvaardigd is. Dat is een veel zwaardere opvatting van menselijk oordeel dan het bekende principe van een human-in-the-loop.

Een mens die alleen een door het systeem gevormde conclusie mag bevestigen, is dan misschien formeel nog wel aanwezig in het proces, maar kan materieel machteloos zijn. Wanneer tijdsdruk, automatiseringsbias of organisatorische verwachtingen elke afwijking feitelijk onmogelijk maken, is de menselijke aanwezigheid slechts een stempel voor een besluit dat elders tot stand is gekomen.

Menselijk oordeel betekent niet dat iedere berekening handmatig moet worden overgedaan. Het betekent het blijvende recht en vermogen om invloed uit te blijven oefenen, uitzonderingen te erkennen en verantwoordelijkheid te dragen. Andersom geformuleerd: AI kan prima deelnemen aan de uitvoering van institutionele macht. Zij mag echter niet ongemerkt de auteur worden van de voorwaarden waaronder die macht wordt uitgeoefend.

Gelijkheid maakt tegenspraak mogelijk

Een convenant op zichzelf is nog niet voldoende. Het moet mogelijk zijn om te discussiëren over de toepassing en uitkomsten van werken met AI. Dat kan alleen maar plaatsvinden in een veilige omgeving, waarin de belanghebbenden vrij zijn. Volgens Rousseau kan vrijheid niet bestaan zonder een zekere mate van gelijkheid. Hij bedoelt dat niet hiërarchisch, maar in de zin dat niet iedereen dezelfde talenten, middelen of positie hoeft te hebben, zolang de machtsverschillen niet zo groot worden dat de ene partij de voorwaarden kan dicteren en de andere alleen formeel vrij is om ermee in te stemmen.

Rond AI zijn die verschillen aanzienlijk. Een leverancier weet vaak meer over het model dan de organisatie die het gebruikt. Sterker: het gebruikte model weet dat ook beter dan de individu. Een convenant moet daarom niet alleen vastleggen wie mag meepraten, maar ook of die deelname betekenis heeft. Kunnen mensen begrijpen welke rol AI speelt en hebben zij de mogelijkheid om een uitkomst te betwisten?

Wederkerigheid is daarbij essentieel. De partij die het grootste voordeel ontvangt, mag onzekerheid en schade niet eenzijdig afwentelen op degene met de minste macht. Een instelling die mensen door modellen laat beoordelen, moet ook redenen geven, fouten herstellen en een geloofwaardige route naar menselijke herbeoordeling bieden. Een goed werkend sociaal contract vereist dus ook een veilige omgeving waarin gelijken het met elkaar oneens kunnen zijn.

Wie blijft soeverein?

De legitimiteit van machine-intelligentie hangt niet alleen af van een verantwoordelijke functionaris of een formele mogelijkheid tot menselijke tussenkomst. Zij hangt af van de vraag of mensen en instituties de auteurs blijven van de doelen, waarden en grenzen van het systeem. Dat auteurschap moet bovendien onder voorwaarden van voldoende gelijkwaardigheid worden uitgeoefend, zodat tegenspraak meer is dan een ceremonieel recht.

Daarmee is het probleem nog niet opgelost. Een organisatie kan het normatieve auteurschap formeel bij mensen laten en het in de praktijk toch verliezen. Wanneer professionals niet meer zonder AI kunnen oordelen, alternatieven verdwijnen en uitschakelen alleen theoretisch mogelijk is, blijft menselijke soevereiniteit vooral op papier bestaan.

Een convenant is slechts zo sterk als het handelingsvermogen van de mensen die het moeten dragen. Het moet daarom niet alleen de inzet van AI begrenzen, maar ook de kennis en vaardigheden, de institutionele ruimte en de alternatieven beschermen waarmee mensen die grenzen kunnen bepalen en handhaven. Daarmee verschuift de vraag van wie bevoegd is naar wat die bevoegdheid werkbaar maakt.

Want de inzet is niet alleen hoe wij AI begrenzen, maar ook hoe wij voorkomen dat AI ons vermogen tot begrenzen uitholt.

Bronnen en literatuur

Jean-Jacques Rousseau, Du contrat social ou Principes du droit politique (1762), in het bijzonder boek I, hoofdstukken 5-8, en boek II, hoofdstukken 1, 3, 4, 6 en 11.

Christopher Bertram, “Jean-Jacques Rousseau”, Stanford Encyclopedia of Philosophy.

The Intelligence Covenant Institute, “Het sociale contract met AI wordt in instituties gesloten”.

The Intelligence Covenant Institute, “The New Intelligent Covenant”.

---

Dit artikel verscheen oorspronkelijk in The IC Institute op Substack.