Ge din AI-agent typade verktyg i stället för en sökruta

Många AI-agenter gör fel för att de får söka fritt i stället för att använda väldefinierade verktyg. Motgiftet, enligt en ny artikel på Towards Data Science, är tre saker: typade verktyg, hårda gränser och en gate som agenten inte kan prata sig förbi.

Fri sökning är roten till problemet

När en agent får en sökruta och fri kontextsökning kan den plocka ihop information som ser relevant ut men saknar stöd. Resultatet blir felaktiga svar och åtgärder som är svåra att spåra. Ett typat verktyg har däremot en definierad in- och utdatatyp, så agenten vet exakt vad den får tillbaka.

Typade verktyg och hårda gränser

Ge agenten ett litet antal verktyg med tydliga typer i stället för generell sökning. Hårda gränser betyder att agenten inte kan anropa vad som helst — den får bara de funktioner och det datautrymme du definierar. En gate är en kontroll som avgör om ett steg får passera, och agenten kan inte övertala gaten att släppa igenom ett otillåtet anrop.

Ett typat verktyg kan se ut så här, med in- och utdatatyp deklarerad:

{
 "name": "hämta_order",
 "parameters": {
 "type": "object",
 "properties": {
 "order_id": { "type": "string" }
 },
 "required": ["order_id"]
 },
 "returns": {
 "type": "object",
 "properties": {
 "status": { "type": "string" }
 }
 }
}

Agenten vet då exakt vilka fält den ska skicka och vad den får tillbaka.

Ett konkret exempel

En agent som svarar på kundfrågor får tre typade verktyg: hämta order, hämta produkt och skapa retur. Varje verktyg tar en typ och returnerar en typ. Försöker agenten anropa något utanför dessa tre nekas anropet av gaten i stället för att köras. Det begränsar inte agenten — det gör den förutsägbar.

Mönstret tar inte bort alla fel, men det flyttar kontrollen dit du kan se den: i verktygens typer och gränser snarare än i modellens prompt.

Källa: Towardsdatascience