De andere zeven systemen
Vraag waar de intelligentie zit in een AI-agent en iedereen wijst naar het model. Terecht: het model is de hersenen, het deel dat redeneert. Het is ook één orgaan. Een lichaam is geen brein in een pot, en een agent is geen model met een prompt eraan geplakt.
Kijk nog eens naar de figuur. Zeven van de acht systemen zijn niet het model. Zij bepalen of een slim antwoord werk wordt dat je kunt gebruiken: wat de agent onthoudt, wat hij kan bereiken, wat hij mag aanraken, wie het resultaat tekent. Een agent die faalt, faalt bijna nooit bij de hersenen. Hij faalt bij een van de andere zeven, en meestal kun je aanwijzen bij welke.
Het geheugen is wat mensen op het verkeerde been zet. Het zijn de spieren, en het teken is spiergeheugen: de agent is vloeiend in wat hij vorige run deed en blanco over wat hij niet meenam. Geen diepe bron voedt hem. Hij leest een handvol bestanden opnieuw bij het begin van elke run, doet alsof hij ze zeker weet, en vergeet de rest. Als een agent zichzelf tegenspreekt tussen dinsdag en donderdag, komt dat hierdoor. Geen zwak model. Een dunne spier.
Vaardigheden en tools lijken hetzelfde. Dat zijn ze niet. Een vaardigheid zit in de handen: een routine die de agent al kent, met eigen stappen en eigen grenzen. Een tool is iets wat hij oppakt: een zoekopdracht, een database, een bestand dat hij schrijft. Je zou je handschrift niet verwarren met de pen. De agents die standhouden houden die grens scherp; de agents die afdwalen grijpen naar een tool waar ze een vaardigheid nodig hadden, of andersom.
Guardrails zijn de huid. Het meeste ontwerpwerk aan een echte agent gaat zitten in wat hij niet mag doen: wat hij weigert, wat hij escaleert, wat hij teruggeeft voordat hij handelt. Autonomie is een grens die strak genoeg getrokken is dat de agent er binnen kan bewegen, niet het model dat vrij rondloopt.
De mond is het laatste orgaan, en het kleinste. Eén kanaal naar buiten, een mens aan de kraan. De agent maakt een concept, een persoon keurt het goed, niets gaat vanzelf de deur uit. Zo is het ontworpen, niet later aangebouwd.
Je bouwt een agent zoals je een lichaam bouwt, één systeem tegelijk: voeg het orgaan toe dat ontbrak, voed het orgaan dat te dun was. De hersenen waren nooit het moeilijke deel. Het moeilijke deel is alles eromheen, het werk dat je afmaakt voordat je hem laat spreken.