Human in the loop: zo werken mens en AI-agent samen in een bedrijfsproces

Human in the loop betekent dat een AI-agent werk in een bedrijfsproces voorbereidt en uitvoert, terwijl een mens op vaste punten beslist. In een goede hybride agent-flow keurt een mens eerst het plan goed; daarna werken gespecialiseerde agents tegelijk, valt een tegenrol het resultaat aan en weegt een reviewer alles. Vaste regels laat u over aan gewone procesautomatisering.

In het kort

• Een hybride agent-flow is een bedrijfsproces waarin mensen, AI-agents en gewone automatisering elk doen waar ze het best in zijn.
• Teken het proces eerst in BPMN. Dan ziet u waar oordeel nodig is en waar alleen regels.
• Het patroon dat werkt: plan, akkoordpoort, parallelle specialisten, tegenrol en reviewer.
• Laat de mens beslissen waar het werk richting krijgt, waar het onomkeerbaar wordt en waar het een persoon raakt.
• De AI Act eist menselijk toezicht (artikel 14) alleen bij AI-systemen met een hoog risico. Voor de meeste kennisprocessen is een akkoordpoort goede praktijk, geen wettelijke plicht.

Wat is een hybride agent-flow, en wat betekent human in the loop?

Een hybride agent-flow is een vastgelegd proces waarin AI-agents stappen uitvoeren en een mens op benoemde momenten beslist. Hybride slaat op de mix: mens, agent en gewone automatisering in één proces.

Een AI-agent is software die met een taalmodel zelf bepaalt welke stappen nodig zijn voor een opdracht. Hij zoekt informatie op, leest documenten en schrijft een tussenresultaat. Dat is krachtig, maar niet volledig voorspelbaar. Daarom geeft u een agent een plek in een proces, met grenzen eromheen.

Human in the loop betekent dan: het proces gaat op afgesproken punten niet verder zonder het oordeel van een mens. Bij human on the loop kijkt een mens alleen mee en kan hij ingrijpen. Bij human out of the loop beslist het systeem alleen. Welke vorm past, hangt af van wat er op het spel staat.

Wat zijn BPM en BPMN, in gewone taal?

BPM (business process management) is de manier waarop een organisatie haar processen ontwerpt, uitvoert, meet en verbetert. BPMN (Business Process Model and Notation) is de tekentaal waarmee u zo'n proces vastlegt, zodat iedereen hetzelfde plaatje leest.

BPMN is een open standaard van de Object Management Group (OMG). De huidige versie is BPMN 2.0.2 uit januari 2014. Versie 2.0.1 is ook vastgelegd als internationale norm ISO/IEC 19510:2013. U hoeft de hele norm niet te kennen. Met vijf bouwstenen tekent u de meeste processen:

De winst zit in de banen. Met een baan voor mensen en een baan voor agents ziet u waar het werk van eigenaar wisselt. Juist op die overgangen hoort controle.

Waar past een AI-agent in een procesmodel, en waar niet?

Zet een agent in waar oordeel nodig is over rommelige invoer: lezen, ordenen, wegen en samenvatten. Gebruik gewone automatisering waar de regel vastligt. Laat de mens beslissen waar het gevolgen heeft.

Veel processtappen zijn deterministisch: bij dezelfde invoer hoort altijd dezelfde uitkomst. Denk aan een factuur boeken, een bestand in de juiste map zetten of een herinnering sturen op dag dertig. Daarvoor bestaan RPA (robotic process automation, software die handelingen op een scherm nadoet) en workflowtools zoals Power Automate en n8n. Die zijn goedkoper, sneller en beter te testen. Een taalmodel voegt daar alleen onzekerheid toe.

Een agent verdient zijn plek waar de invoer rommelig is en de regel niet volledig op te schrijven valt. Denk aan een dataroom met honderden contracten, een dossier met brieven van beide partijen of een stapel beleidsstukken. Daar moet iemand lezen, verbanden zien en wegen. Daar zijn taalmodellen goed in geworden.

Een vuistregel: kunt u de beslisregel op één A4 uitschrijven, gebruik dan geen agent.

Bouwers van AI-systemen onderscheiden workflows, waarin de route vastligt, van agents, die zelf hun route kiezen. In een bedrijfsproces wilt u meestal een vaste route met agents in de stappen. Die kunt u tekenen en controleren.

Hoe ziet het hybride patroon eruit?

Het patroon heeft vijf bouwstenen: een plan, een akkoordpoort, parallelle specialisten, een tegenrol en een reviewer. Een redacteur maakt er daarna de oplevering van.

Hybride agent-flow in BPMN-stijl: de mens kiest de stukken en keurt het plan goed, vier agents werken parallel, een tegenrol en een reviewer wegen het resultaat.

1. Plan. Een plannende agent zet de opdracht om in een werkplan. Welke vragen moeten beantwoord worden, met welke documenten, en wat ontbreekt er? Het plan is kort en controleerbaar.

2. Akkoordpoort. Een mens leest het plan en kiest: akkoord, bijsturen met een toelichting of afbreken. Dit is het goedkoopste moment om in te grijpen. Een fout in de scope herstelt u hier met één zin; na de analyse moet al het werk opnieuw.

3. Parallelle specialisten. Na het akkoord werken meerdere agents tegelijk, elk aan een eigen deel. Elke specialist krijgt eigen instructies en eigen bronnen. Zo blijft elk deel overzichtelijk en lopen de onderwerpen niet door elkaar.

4. Tegenrol. Een agent neemt de positie in van de partij aan de andere kant: de wederpartij, de belastinginspecteur of de toezichthouder. Hij zoekt overdrijving, zwakke plekken en wat de specialisten hebben gemist. Dat voorkomt een eenzijdig of te alarmerend resultaat.

5. Reviewer. Een laatste agent weegt het werk van de specialisten tegen de tegenrol. Hij voegt dubbele bevindingen samen, stelt de ernst bij en maakt van elke bewering zonder bron een open vraag.

Elke bouwsteen vangt een zwakte van taalmodellen. Het plan voorkomt dat de agent de verkeerde vraag beantwoordt. Parallelle specialisten houden elke taak klein. De tegenrol werkt tegen de neiging van een model om het met zichzelf eens te zijn. De reviewer dwingt bronvermelding af.

Waar laat u de mens beslissen?

Laat de mens beslissen op drie soorten momenten: waar het werk richting krijgt, waar het onomkeerbaar wordt en waar het een persoon raakt. Daartussen mag de agent doorwerken.

In de praktijk zijn dat vaak deze momenten:

• Bij de start. Welke opdracht, welke stukken, voor welke kant? Wie de stukken kiest, bepaalt de grenzen van het werk.
• Na het plan. Klopt de scope, ontbreekt er iets, is de drempel goed gekozen?
• Voordat iets het huis verlaat. Een advies, een brief aan de wederpartij, een besluit over een klant of medewerker.

Raakt een besluit iemand persoonlijk, dan speelt ook de AVG. Artikel 22 geeft mensen het recht om niet te worden onderworpen aan een besluit dat uitsluitend geautomatiseerd tot stand komt. Dat geldt als het besluit rechtsgevolgen heeft of iemand in aanmerkelijke mate treft. Een mens die alleen een knop indrukt, is dan geen echte tussenkomst.

Een poort werkt alleen als de mens er echt iets kan beoordelen. De Autoriteit Persoonsgegevens publiceerde in juli 2025 handvatten voor betekenisvolle menselijke tussenkomst, langs vier factoren: mens, technologie en ontwerp, proces en governance. Vertaald naar een agent-flow:

Checklist: een goede akkoordpoort

• De beoordelaar ziet het tussenresultaat zelf, niet alleen een samenvatting.
• Bij de poort staat wat hij moet controleren.
• Hij kan akkoord geven, bijsturen met een toelichting of afbreken.
• Het proces wacht echt: zonder besluit gebeurt er niets.
• Wie lang wacht, krijgt een herinnering. Een poort mag niet stil verstoffen.
• Elk besluit wordt vastgelegd: wie, wanneer, welke keuze en waarom.
• De beoordelaar heeft de kennis en het mandaat om nee te zeggen.

Let op automation bias: de neiging om een systeem te snel te geloven. Een poort die altijd op groen gaat, beschermt niemand. Meet daarom hoe vaak er wordt bijgestuurd.

Zo werkt het bij Prudai: een dataroom due diligence stap voor stap

In LEO, ons platform voor juridisch werk, volgen de meeste workflows dit patroon. Hieronder ziet u het sjabloon "Dataroom due diligence" zoals het in onze code staat.

Bij een due diligence onderzoekt een koper een bedrijf voordat het wordt overgenomen. De documenten staan in een dataroom. Het werk is groot, verdeeld over vakgebieden en tijdkritisch: een goed voorbeeld voor het hybride patroon.

1. Intake (mens). U kiest de dataroom in uw dossier en vult in voor welke kant u adviseert, het soort transactie, de hoofdstukken en eventueel een materialiteitsdrempel. LEO kan de kaart vanuit het gesprek voorinvullen, maar de stukken kiest u altijd zelf. De run start pas als u bevestigt; de AI kan hem niet zelf starten.
2. Planner (agent). De planner verdeelt de documenten over vier hoofdstukken: corporate, arbeidsrecht, IE/IT en privacy, en fiscaal. Per hoofdstuk noemt hij de kernvragen en de stukken die hij mist. Ontbreekt een drempel, dan stelt hij er een voor.
3. Plan-akkoord (mens). De run pauzeert. Bij de poort staat wat u controleert: klopt de transactiecontext en zitten de documenten in het juiste cluster? U geeft akkoord, stuurt bij met een toelichting of breekt af. Na een bijsturing werkt de planner het plan bij en komt de poort opnieuw langs.
4. Vier specialisten (agents, parallel). Een corporate-, arbeidsrecht-, IE/IT- en fiscale specialist werken elk aan hun eigen cluster, met eigen instructies. De corporate-specialist raadpleegt bijvoorbeeld het Handelsregister. Elke bevinding krijgt een vast formaat: ernst, bron met vindplaats, toelichting en vervolgactie.
5. Tegenrol (agent). De advocaat van de wederpartij relativeert waar dat eerlijk kan en geeft zijn lezing van de documenten. Wat overeind blijft, markeert hij als "houdt stand".
6. Reviewer (agent). De reviewer, in dit sjabloon "judge" genoemd, voegt dubbele bevindingen samen en weegt de ernst opnieuw na de tegenrol. Een bevinding zonder vindplaats wordt een open vraag.
7. Redacteur (agent). Die stelt drie stukken op: een risicomatrix, een DD-memo per hoofdstuk en een chronologie van kernfeiten, met een managementsamenvatting bovenaan.
8. Oplevering. De run levert de stukken op. U beoordeelt ze en beslist wat ermee gebeurt. De run neemt geen besluit voor u.

Dit sjabloon is er één van 74 in LEO en LEO Fiscaal (stand 2 oktober 2026). Het patroon is herkenbaar, maar niet elke workflow heeft alle stappen. Elk van de 73 sjablonen die als workflow draaien, heeft precies één menselijke poort. In 72 daarvan staat die direct na het plan. 53 sjablonen hebben een tegenrol, zoals de inspecteur, de advocaat van de wederpartij of de toezichthouder. Wilt u zien welke soorten documentanalyse LEO doet, kijk dan bij juridische documentanalyse.

Drie details maken de poort in de praktijk betrouwbaar:

• Melding en herinnering. Wacht een poort op u, dan krijgt u direct een melding, standaard ook per mail. Wacht de poort op uw besluit, dan volgt na een dag een herinnering, en daarna één per wachtdag.
• Vastgelegd besluit. Elk besluit van een mens wordt vastgelegd met wie, wanneer en in welke ronde, voordat de run verdergaat. Lukt dat vastleggen niet, dan gaat de run ook niet verder.
• Een grens aan bijsturen. Elke bijsturing laat de planner opnieuw werken. Daarom komt een poort standaard hoogstens drie keer langs. In de derde ronde kiest u akkoord of afbreken.

Past een sjabloon niet precies bij uw praktijk? Dan kopieert u het en maakt u er een eigen workflow van. In de workfloweditor voegt u stappen, beslispunten en menselijke controles toe. De kopie krijgt alleen bronnen die in uw abonnement zitten.

Hetzelfde principe zit in de proceseditor van IRMA, onze software voor risicomanagement en informatiebeveiliging. U tekent een proces met een start, stappen, beslissingen, subprocessen en een einde, en hangt er controlepunten aan. IRMA kan voorstellen welk risico of welke maatregel bij een stap hoort. Elk voorstel moet een onderbouwing en minstens één bronverwijzing hebben, anders wordt het niet opgeslagen. Zo'n voorstel wordt pas een echte koppeling als een medewerker het goedkeurt. Een afgewezen voorstel blijft bewaard en komt niet opnieuw terug. AI-voorstellen staan per organisatie standaard uit; de registers werken ook zonder AI.

Waarom is procesvolwassenheid een voorwaarde?

Een agent versnelt het proces dat u hebt, ook als dat proces rommelig is. Begin pas met agents als het proces herhaalbaar is en vastligt.

Het Business Process Maturity Model (BPMM) van de OMG, uit 2008, onderscheidt vijf niveaus van procesvolwassenheid:

Op niveau 1 vult een agent zelf de gaten in het proces in, en dat wilt u juist niet. Op niveau 3 weet u waar de poort hoort en wat de specialisten moeten opleveren.

Een tweede voorwaarde is dat uw informatie op orde is. Een agent die twee versies van hetzelfde beleid vindt, kiest er een, en niet altijd de goede. Lees daarover meer in Eén feit, één plek en in ons artikel over informatie-alignment.

Wat heeft Lean Six Sigma ermee te maken?

Lean Six Sigma verbetert processen met de cyclus DMAIC: Define, Measure, Analyze, Improve en Control. Die cyclus past goed bij het invoeren van een agent-flow, omdat u eerst meet waar de verspilling zit en pas daarna automatiseert.

Lean let onder meer op wachten. In een hybride flow verschuift het wachten: de agents zijn snel, de mens bij de poort wordt het knelpunt. Meet de wachttijd bij de poort daarom apart. Ons artikel over de Lean Six Sigma AI Consultant laat zien hoe een agent de DMAIC-cyclus zelf kan ondersteunen.

Wat eist de AI Act van menselijk toezicht, en wat niet?

Artikel 14 van de AI Act eist menselijk toezicht alleen voor AI-systemen met een hoog risico. Sinds de Digitale omnibus gelden die plichten voor de systemen uit bijlage III pas vanaf 2 december 2027. Voor de meeste kennisprocessen is een akkoordpoort verstandig, maar geen wettelijke plicht.

Wat de AI Act wél zegt:

• Artikel 14 is een ontwerpeis voor wie een AI-systeem met een hoog risico aanbiedt. Het systeem moet de mensen die toezicht houden, waar dat passend is, in staat stellen de werking te begrijpen, bedacht te blijven op automation bias, de uitkomst te negeren of terug te draaien en het systeem te stoppen.
• Artikel 26, lid 2 verplicht de organisatie die zo'n systeem gebruikt (in de wet: de gebruiksverantwoordelijke) om het toezicht te beleggen bij mensen met de nodige bekwaamheid, opleiding en autoriteit.
• Bijlage III noemt de gebieden met een hoog risico. Voorbeelden zijn werving en selectie, de kredietwaardigheid van personen en AI die een rechterlijke instantie helpt bij het uitleggen en toepassen van het recht.
• De Digitale omnibus (Verordening (EU) 2026/1744, in werking sinds 27 juli 2026) verschoof die verplichtingen. Ze gelden vanaf 2 december 2027 voor systemen uit bijlage III en vanaf 2 augustus 2028 voor AI in producten uit bijlage I.

Wat de AI Act níet zegt:

• Hij eist geen akkoordpoort in elk proces met AI. Een agent die voor een advocatenkantoor een dataroom screent, valt doorgaans niet onder bijlage III. Een systeem dat een rechter helpt het recht toe te passen, valt er wel onder.
• Een mens tussen de stappen maakt een systeem niet vanzelf "conform". Ook een systeem met een poort kan een hoog risico hebben, en dan gelden alle eisen, niet alleen het toezicht.

Voor iedereen geldt wel artikel 4: aanbieders en gebruikers nemen maatregelen om de AI-geletterdheid van hun mensen te ondersteunen. Sinds de omnibus hoeft u daarbij geen bepaald niveau meer te waarborgen. Daarnaast blijven de AVG en uw beroepsregels gelden. Wie adviseert, blijft zelf verantwoordelijk voor dat advies. Een akkoordpoort maakt die verantwoordelijkheid zichtbaar.

Werkt u bij een overheid, lees dan ook ons artikel over de IAMA bij gemeenten.

Voor de specialist

De poort als toestandsmachine. Een run die bij de poort aankomt, wacht in LEO op een mens. Een besluit noemt altijd de ronde waarop het antwoordt, zodat een dubbele klik nooit dubbel telt. Bij het hervatten krijgt de run de actuele bronrechten van de beslisser mee: een bron die tijdens het wachten is ingetrokken, valt weg.

Wachten of doorgaan. Een poort kan wachten tot er een besluit is, of na een ingestelde tijd zelf doorgaan met het voorstel zoals het er ligt. In de sjablonen wacht de run bij 68 van de 73 poorten onbeperkt. Bij vijf sjablonen gaat de run na vier of 24 uur zelf door.

De instructie bij de poort. Elke poort in een sjabloon heeft een vaste instructie voor de beoordelaar. Die beschrijft alleen het proces: wat u nakijkt. Termijnen, bedragen en wetsartikelen staan er bewust niet in; die horen met vindplaats in het stuk zelf. Bouwt u zelf een workflow en laat u instructie en beschrijving leeg, dan stelt LEO bij de start van de run een instructie voor. Lukt dat niet, dan ziet de beoordelaar een algemene instructie.

BPMN-modellering. Modelleer de beoordeling als user task in de baan van de mens en de agents als taken in een eigen baan. De herinnering is een niet-onderbrekende timer boundary event: de taak blijft openstaan, de herinnering gaat parallel de deur uit. Bijsturen is een keuzepoort (exclusive gateway) met een lus terug naar de planner. Standaard-BPMN kent nog geen eigen symbool voor een AI-agent. Onderzoekers stelden eind 2024 een BPMN-uitbreiding voor, gepubliceerd op SEAA 2025 (Ait, Cánovas Izquierdo en Cabot). Daarmee legt u vast wie verantwoordelijk is voor een taak, welke strategie een agent volgt en hoe wordt beslist als agents verschillende uitkomsten voorstellen.

Workflows en agents. In de termen van Anthropic ("Building effective agents") is dit een workflow en geen autonome agent: de route ligt vast. De specialisten zijn parallelisatie. Tegenrol en reviewer lijken op een evaluator, maar sturen het werk niet automatisch terug. Bijsturen gebeurt bij de poort, door een mens.

Artikel 6, lid 3. Een systeem uit bijlage III is toch geen hoog risico als het geen significant risico op schade geeft. Dat kan alleen als het een van vier afgebakende taken doet, zoals een beperkte procedurele taak of een voorbereidende taak voor een beoordeling. Bij profilering van personen geldt die uitzondering nooit.

Veelgestelde vragen

Wat betekent human in the loop?

Human in the loop betekent dat een proces met AI op vaste punten wacht op het oordeel van een mens. De AI bereidt voor en voert uit; de mens beslist over richting en gevolgen.

Is een menselijke akkoordpoort verplicht onder de AI Act?

Niet in het algemeen. Artikel 14 eist menselijk toezicht bij AI-systemen met een hoog risico, zoals bij werving en selectie of kredietwaardigheid. Die plichten gelden voor systemen uit bijlage III vanaf 2 december 2027. Voor andere processen is een poort een verstandige ontwerpkeuze, geen wettelijke eis.

Wanneer kies ik Power Automate of n8n in plaats van een AI-agent?

Kies gewone automatisering als u de regel volledig kunt opschrijven en dezelfde invoer altijd dezelfde uitkomst moet geven. Een agent is pas zinvol waar gelezen en gewogen moet worden. Vaak gebruikt u beide in één proces.

Een vergelijking met een checklist per proces leest u in AI-agent of Power Automate: wanneer kiest u welke oplossing?.

Wat doet een tegenrol in een agent-flow?

Een tegenrol is een agent die het werk bekijkt vanuit de andere partij, zoals de wederpartij, de inspecteur of de toezichthouder. Hij zoekt overdrijving en gemiste risico's. Daarna weegt een reviewer de bevindingen en de tegenlezing tegen elkaar af.

Hoeveel menselijke controlemomenten zijn genoeg?

Zo weinig als kan, op de plekken die ertoe doen. Een poort na het plan grijpt in wanneer bijsturen het minst kost. Zet een tweede moment waar het werk onomkeerbaar wordt of een persoon raakt. Te veel poorten leiden tot afvinkgedrag.

Bronnen

• Verordening (EU) 2024/1689 (AI Act), artikel 4, 6, 14, 26 en bijlage III. EUR-Lex, geraadpleegd 2 oktober 2026.
• Verordening (EU) 2026/1744 (Digitale omnibus inzake AI), Publicatieblad 24 juli 2026.
• Verordening (EU) 2016/679 (AVG), artikel 22.
• Autoriteit Persoonsgegevens, Handvatten betekenisvolle menselijke tussenkomst, 23 juli 2025.
• OMG, Business Process Model and Notation 2.0.2, januari 2014, en ISO/IEC 19510:2013.
• OMG, Business Process Maturity Model 1.0, juni 2008.
• Ait, Cánovas Izquierdo en Cabot, Towards Modeling Human-Agentic Collaborative Workflows: A BPMN Extension, SEAA 2025.
• Anthropic, Building effective agents, 19 december 2024.

Wilt u weten hoe een hybride agent-flow in uw eigen processen past? In een AI-workshop brengen we samen in kaart waar AI uw processen versterkt en waar de mens beslist.

Bijgewerkt op 2 oktober 2026

Foto: rawpixel via Pixabay