Vercel gör agent-evals till en säkerhetsfråga med Run SDK

Vercel har släppt Run SDK för ett problem som blivit akut när AI-agenter får arbeta mer självständigt: hur låter du genererad kod göra nytta utan att samtidigt ge den nycklarna till hela applikationen? Paketet är byggt för att köra opålitlig JavaScript och TypeScript utan direkt åtkomst till Node.js, nätverket eller systemets hemligheter. Körningen kan dessutom pausas när ett steg kräver autentisering eller ett mänskligt godkännande.

Det gör lanseringen mer intressant än ett vanligt utvecklarverktyg. Många företag har redan interna agentflöden där en modell skriver små program som hämtar data, sorterar resultat och anropar verktyg. I enklare eval- eller interpreterupplägg får den koden ofta samma rättigheter som applikationen runt omkring. Då blir varje felaktigt verktygsanrop också ett säkerhetsproblem.

Vercel beskriver Run SDK som en sandbox där koden körs i en ny QuickJS-kontext i en worker-tråd. I stället för fri åtkomst till allt definierar applikationen smala host functions som agenten får använda. Det kan vara något så konkret som store.listOrders() eller orders.refund(id), medan databasklient, API-nycklar och intern logik stannar utanför sandboxen. När körningen når ett känsligt steg går den att avbryta, spara och återuppta först efter ett godkännande.

För utvecklare och plattformsteam är lärdomen enkel: ge inte en agent ett generellt request-verktyg bara för att det går snabbt att bygga. Ge den ett litet antal affärsnära funktioner, separera läsning från åtgärder och markera vilka steg som kräver människa i loopen. Vercel säger också att Run SDK är samma modul som driver code mode i AI SDK. Det gör släppet relevant även för team som inte använder Vercels plattform men som brottas med samma fråga på riktigt: hur agentkod ska få arbeta utan att hela systemet följer med in i körningen.

Källa: Vercel