Menselijke goedkeuring bij AI-agents

Welke handelingen een agent alleen mag doen

Twee vragen bepalen of een handeling zonder mens kan: is ze terug te draaien, en wie merkt een fout? Lezen, opzoeken, samenvatten en sorteren veroorzaken weinig schade wanneer het misloopt en kunnen doorgaans zelfstandig. Anders ligt het bij handelingen die het bedrijf verlaten of geld in beweging zetten: een mail naar een klant, een bestelling bij een leverancier, een betaling, een prijsafspraak, het wissen van gegevens. Die zijn moeilijk of niet te herstellen. Daartussen zit een grijze zone, zoals het aanpassen van een leverdatum of een klantfiche. Daar hangt het antwoord af van hoe snel een vergissing opvalt en wat ze kost.

Hoe een goedkeuringsstap eruitziet

Een goedkeuring werkt alleen wanneer ze weinig moeite vraagt en toch echt gelezen wordt. De medewerker krijgt het voorstel in het scherm waar hij al werkt, met ernaast de bron waarop de agent zich baseerde: de oorspronkelijke mail, het document, de opgezochte prijs. Hij kan goedkeuren, aanpassen of afwijzen, en bij afwijzen een reden geven die later dient om de instructies bij te sturen. Wie mag goedkeuren, hangt af van de rol, net als bij gewone bevoegdheden in het bedrijf. Let op een bekend gevaar: wanneer de voorstellen bijna altijd kloppen, gaan mensen blind doorklikken. Minder goedkeuringen op de juiste plaats beschermen daarom beter dan veel goedkeuringen overal.

Limieten die de agent zelf niet kan omzeilen

Een instructie in gewone taal is geen grens, want een taalmodel kan ze verkeerd begrijpen of zich laten beïnvloeden door wat in een binnenkomend document staat. Echte limieten zitten in de koppelingen en de rechten. De agent krijgt een eigen account met alleen de toegang die de taak vraagt. Een bedrag boven een afgesproken drempel, een onbekende klant of een afwijkende hoeveelheid stuurt het dossier automatisch naar een persoon. Het aantal handelingen per taak en per periode krijgt een maximum, zodat een agent die vastloopt niet blijft doorgaan. Die grenzen worden in gewone programmacode vastgelegd, buiten het model. Dat maakt de agent minder soepel, en precies dat is de bedoeling.

Het logboek en wat uw verantwoordelijkheid blijft

Een logboek legt per dossier vast wat de agent ontving, welke gegevens hij opzocht, wat hij voorstelde, welke regel een goedkeuring vereiste en wie die gaf. Daarmee kunt u een klacht onderzoeken, een patroon in de fouten herkennen en aan een klant of auditor tonen hoe een beslissing tot stand kwam. Draait de agent op uw eigen server of in een private cloud, dan blijft ook dat logboek bij u. Wat geen enkele inrichting verandert: het bedrijf blijft aanspreekbaar voor wat in zijn naam gebeurt. Iemand in het bedrijf moet dus eigenaar zijn van de regels, de uitzonderingen opvolgen en geregeld nagaan of de grenzen nog passen bij hoe het werk veranderd is.