Een nieuw convenant tussen mens en AI als grondslag voor samenwerking — deel 3

Een organisatie kan vastleggen dat een mens altijd het laatste woord heeft. Maar wat betekent dat wanneer de mens zonder het systeem niet meer weet hoe hij tot een oordeel moet komen? Formele zeggenschap is weinig waard wanneer kennis, ervaring en historie ondertussen zijn verdrongen door AI.

In het vorige deel van dit essay stond de menselijke medeverantwoordelijkheid centraal. AI kan besluiten voorbereiden, maar mensen en instituties moeten doelen, normen en grenzen blijven bepalen. Die medeverantwoordelijkheid bestaat alleen wanneer mensen ook daadwerkelijk tegen het systeem in kunnen gaan; echte vrijheid vereist naast beslissingsrecht ook het vermogen om anders te handelen dan de consensus.

Dat is aanleiding voor een nieuwe vraag: wat doet langdurig gebruik van AI met de mensen en organisaties die erop vertrouwen? Wat zijn de korte- en langetermijneffecten van dagelijkse ondersteuning door AI? En welke grenzen zijn nodig om te voorkomen dat die prettige ondersteuning langzaam verandert in afhankelijkheid?

Wat de technologie met ons doet

Rousseau’s filosofie betreft niet alleen politieke instituties. Zij gaat ook over de manier waarop maatschappelijke omstandigheden mensen vormen. In zijn Discours sur les sciences et les arts verzet hij zich tegen de vanzelfsprekende gedachte dat wetenschappelijke en technische vooruitgang automatisch tot morele vooruitgang leidt. Hij komt tot de conclusie dat de beschikking over meer kennis en middelen een samenleving verfijnder en productiever kan maken, maar zonder haar rechtvaardiger of haar leden vrijer te maken!

Een belangrijke waarschuwing en relevant voor AI. Het debat concentreert zich momenteel namelijk rondom prestaties: wat een model kan, hoeveel tijd het bespaart en welke taken het overneemt. Daarmee blijft buiten beeld dat elke nieuwe technologie ook gewoonten, verwachtingen en de menselijke blik verandert.

Een prachtig voorbeeld daarvan is de auto. Reizen en onze beleving van vrijheid zijn in de jaren vijftig van de vorige eeuw fundamenteel veranderd door de introductie van betaalbare auto’s in de Verenigde Staten.

Wie AI voor zich laat schrijven, verandert zijn relatie met taal en auteurschap. Wie zich structureel laat adviseren, verliest het vermogen om bij twijfel zelfstandig op onderzoek uit te gaan. Geautomatiseerde standaarden veranderen bovendien ons beeld van wat goed of professioneel werk is. Vakmanschap wordt vervangen door technische handigheid…

Technologie produceert dus niet alleen proces en resultaat. Zij vormt ook de mensen die ermee werken.

Een convenant moet daarom niet alleen beschrijven wat het gebruik van AI voor een organisatie doet. Het moet ook definiëren wat het langdurige gebruik van dat systeem voor invloed op mensen kan (mag) hebben. Welke skills willen wij versterken? Welke kennis mag niet verdwijnen? Ook niet wanneer automatisering goedkoper of efficiënter is!

En -misschien nog wel het belangrijkste- welk werk moeten mensen blijven doen omdat de uitvoering ervan praktische wijsheid of verantwoordelijkheidsbesef ontwikkelt?

Het laatste woord zonder eigen oordeel

AI-zelfredzaamheid wordt vaak gedefinieerd als het vermogen om AI systemen goed te gebruiken. Dat is veel te beperkt. Een zelfredzame professional is per definitie ook autonoom. Hij ziet ook wanneer het hulpmiddel niet passend is of wanneer de uitkomst onvoldoende of zelfs incorrect is. Een echte zelfredzame professional is in staat om vervolgens los van het systeem te handelen.

Zoals al eerder is aangegeven, kan die onafhankelijkheid sluipend verdwijnen. Wanneer professionals jarenlang door AI geordende informatie en ondersteunde werkzaamheden uitvoeren, vermindert de kennisbasis waarop menselijk toezicht berust. De professional houdt misschien dan formeel wel het laatste woord, maar beschikt steeds minder over een eigen oordeel waarmee hij dat finale oordeel betekenis kan geven.

Hetzelfde geldt op organisatieniveau. Een onderneming kan juridisch eigenaar blijven van haar processen en ondertussen door jarenlange symbiose tussen AI en werkprocessen afhankelijk worden van één leverancier met één AI model. Uitschakelen is dan technisch wel mogelijk, maar organisatorisch bijna ondenkbaar. Mensen en hun werkprocessen zijn zo sterk rond de AI-toepassing vormgegeven dat terugkeer naar een zelfstandige uitvoering van het proces geen reële optie meer is.

Vanuit Rousseau bezien is dat een serieus vrijheidsprobleem. Afhankelijkheid wordt problematisch wanneer mensen zijn overgeleverd aan een macht of invloed waarvan de onderliggende principes en guardrails niet meer kunnen worden herzien.

En het recht om ‘nee’ te zeggen heeft weinig betekenis wanneer alle alternatieven verdwenen zijn.

Machinematige terughoudendheid

Een AI convenant moet dus voorzien in machinematige terughoudendheid, Machine Restraint. Dit is meer dan governance en meer dan een verzameling veiligheidsmaatregelen. Het is een constitutioneel beginsel. De essentie is dat je niet alleen overweegt welke toepassing technisch mogelijk is, maar ook of die institutioneel wenselijk is. De omvang van de automatisering moet worden begrensd tot het niveau waarop mensen en organisaties in staat blijven om zelfstandig te kunnen blijven oordelen, te handelen en te corrigeren.

In de praktijk betekent dit dat sommige processen scherp begrensd moeten worden bij AI-automatisering, omdat zij mensen bijvoorbeeld beoordelen. Andere activiteiten kunnen slechts gedeeltelijk geautomatiseerd worden, omdat de menselijke relatie onderdeel vormt van de waarde van het werk. Een tafelgesprek in de zorg heeft bijvoorbeeld niet alleen waarde doordat het correcte informatie oplevert. Erkenning, empathie en de bereidheid van een professional om verantwoordelijkheid te dragen voor de zorg zullen bijdragen aan de ervaren waarde. Iets vergelijkbaars geldt voor onderwijs, leiderschap of publieke dienstverlening.

Terughoudendheid vraagt ook om omkeerbaarheid. Een organisatie die een AI-toepassing niet meer kan stilleggen zonder haar kernprocessen te ontwrichten, heeft een deel van haar handelingsvermogen en dus vrijheid verloren. Het convenant moet daarom niet alleen bepalen wanneer een systeem mag worden ingevoerd, maar ook onder welke voorwaarden het kan worden aangepast, vervangen of zelfs uitgezet.

Daarvoor is meer nodig dan de metaforische uitknop. Je moet dus ook het alternatief onderhouden. Menselijke kennis moet behouden blijven, data en werkprocessen moeten overdraagbaar zijn en professionals moeten ook zonder het systeem kunnen oefenen. Anders is de formele bevoegdheid om AI te stoppen even leeg als vrijheid van meningsuiting in een dictatoriaal regime.

Let op: Machinematige terughoudendheid is geen afwijzing van AI. Zij is de erkenning dat een vrije gemeenschap alleen duurzaam gebruik kan maken van automatisering als zij die daadwerkelijk kan begrenzen en terugnemen.

Rousseau als inspiratie en waarschuwing

Rousseau biedt een krachtige lens om na te denken over gezamenlijke verantwoordelijkheid in het tijdperk van AI. Tegelijkertijd bevat zijn denken een wezenlijke waarschuwing. De algemene wil kan worden toegeëigend door leiders of instituties die menen beter te weten wat goed is voor de gemeenschap dan de leden van die gemeenschap zelf. Vooral aan de extreme kant van de verschillende overtuigingen is dat uiterst riskant. Een razend interessante studie is Twitter, die door dit fenomeen als gevolg van de besturing door eerst Jack Dorsey en daarna door Elon Musk van de ene uiterste naar de andere kant verschoof. Rousseau’s bekende formulering dat iemand kan worden ‘gedwongen vrij te zijn’ laat zien hoe gemakkelijk volgens hem het ideaal van collectieve vrijheid kan omslaan in bevoogding en zelfs onderdrukking.

Een hedendaags convenant kan daarom niet volstaan met een beroep op het gemeenschappelijke goede. Geen bestuurder, commissie, technoloog of AI-systeem mag zonder tegenspraak bepalen wat dat goede inhoudt. Gebruikscijfers en tevredenheidsmetingen kunnen laten zien hoe mensen zich binnen bestaande omstandigheden gedragen. Zij bewijzen niet waarmee mensen vrij, geïnformeerd en weloverwogen zouden instemmen.

Rousseau’s ideaal van ‘collectief auteurschap’ moet daarom worden verbonden met individuele rechten, diversiteit en de bescherming van minderheden. Er moet ruimte blijven voor afwijkende professionele oordelen en principiële bezwaren. Begrijpelijke motivering, onafhankelijke toetsing, mogelijkheden tot beroep en daadwerkelijk herstel vormen de waarborgen dat een particulier belang zich niet ongemerkt als het algemeen belang kan presenteren.

Om dezelfde reden kan een convenant nooit als definitief voltooid worden beschouwd. Nieuwe systemen verschuiven machtsverhoudingen en brengen gevolgen aan het licht die vooraf niet volledig konden worden voorzien. Legitimiteit is daarom geen eenmalig verkregen resultaat, maar een voortdurende praktijk van beoordeling, tegenspraak en herziening.

Het AI convenant vóór de governance

Daarmee wordt ook de verhouding tussen het AI convenant en governance scherper. Het convenant formuleert de morele grondslag. Het bepaalt welk mensbeeld de organisatie hanteert, welk gemeenschappelijk goed AI moet dienen en welke menselijke bevoegdheden niet mogen worden vervreemd.

De organisatie vertaalt die grondslag naar rechten, plichten en machtsverhoudingen. Zij bepaalt wie mag meebeslissen, wie verantwoording aflegt, hoe tegenspraak wordt beschermd en welke grenzen niet door een gewone managementbeslissing kunnen worden opgeheven.

Governance organiseert vervolgens de uitvoering. Daar horen alle eerder besproken zaken als toolselectie, training, toezicht en incidentprocedures bij. Maar onder de paraplu van het AI convenant. Zonder morele en constitutionele uitgangspunten behandelt governance bestaande commerciële doelen en machtsverhoudingen anders als neutrale feiten. En dat zijn ze niet.

The New Intelligent Covenant dat het IC Institute heeft ontwikkeld, krijgt zo een samenhangende betekenis. Human Judgment beschermt het menselijke auteurschap over doelen, normen en uitzonderingen. Common Good verlangt dat toepassingen worden beoordeeld vanuit allen die door hun macht worden geraakt. Machine Restraint bewaakt dat mensen en organisaties die macht kunnen begrijpen, begrenzen en terugnemen.

Een orde die kan worden herzien

Het sociale contract met AI is uiteindelijk geen overeenkomst over technologie alleen. Het gaat over de manier waarop mensen onder veranderende technologische omstandigheden willen samenwerken en samenleven.

Rousseau toont ons dat een herordening van onze omgeving door een AI systeem niet legitiem wordt doordat het efficiënt functioneert. Het wordt legitiem wanneer degenen die ermee moeten werken zichzelf als vrije en gelijkwaardige medeverantwoordelijken voor die nieuwe orde kunnen blijven beschouwen. Dat betekent dat mensen niet alleen formeel het laatste woord moeten houden. Zij moeten ook de kennis, positie en alternatieven behouden om dat woord inhoud te geven.

Alleen dan kan governance meer zijn dan het ordelijk beheren van een voldongen feit. Zij wordt dan de praktische uitvoering van een orde die instemming kan verdienen, omdat de gemeenschap haar zelf heeft gevormd en haar ook werkelijk kan herzien. Een boodschap die organisaties maar beter in hun oren kunnen knopen als zij hun organisatie vreedzaam en succesvol het tijdperk van AI in willen leiden.

Bronnen en literatuur

Jean-Jacques Rousseau, Du contrat social ou Principes du droit politique (1762), in het bijzonder boek I, hoofdstukken 6-8, en boek II, hoofdstukken 1, 3, 6 en 11.

Jean-Jacques Rousseau, Discours sur les sciences et les arts (1750). (Liberty Fund)

Christopher Bertram, “Jean-Jacques Rousseau”, Stanford Encyclopedia of Philosophy.

The Intelligence Covenant Institute, “Het sociale contract met AI wordt in instituties gesloten”.

The Intelligence Covenant Institute, “The New Intelligent Covenant”.

---

Dit artikel verscheen oorspronkelijk in The IC Institute op Substack.