Guardrails og godkendelse
Guardrails er de grænser, jeres agenter ikke kan krydse, uanset hvad nogen siger til dem. Vi håndhæver dem uden for agenten: i dens adgangsrettigheder, i forbindelser, der kun kan læse, og i koden. Hvor arbejdet kræver en beslutning, bygger vi godkendelsen, så agenten forbereder arbejdet, og en person godkender det i det system, hvor arbejdet foregår. Alt, agenten gør, skrives i logbogen.
Kender I det?
- Agentens grænser står kun i dens instrukser, og intet stopper den, hvis den læser dem forkert.
- I vil gerne lade en agent forberede arbejdet, bare en person godkender det, før noget sker.
- Ingen kan sige, hvilke systemer agenten kan ændre i, eller hvad den kan sende ud af huset.
Det får I
- Resultatet
- Grænser, der holder, og en godkendelse dér, hvor I allerede arbejder. Guardrails ligger i adgangsrettigheder, som I styrer, i jeres systemer og jeres egen cloud. Godkendelsen ligger i det system, hvor arbejdet foregår.
- Guardrails
- Hver agent arbejder med sin egen adgang og kun de rettigheder, opgaven kræver: kun læseadgang, hvor den kun skal læse, og ingen mulighed for at betale, slette en postering eller sende noget ud af huset.
- Godkendelsen
- Hver opgave hører til en fase: "I spørger, agenten hjælper", "Agenten forbereder, I godkender" eller "Det kører af sig selv, og I tjekker resultatet". Penge, der forlader virksomheden, alt, der går ud af huset, en forpligtelse, en uklar regel og et trin, som loven lægger hos et menneske, for eksempel en bogføring, går altid til en person.
- Logbogen
- Hver handling, hver godkendelse og alt det, agenten blev stoppet i, skrives i logbogen med kilden og navnet på den, der godkendte.
Det gør vi, det gør I
| Vi | I |
|---|---|
| Gennemgår hver opgave med jer og skriver dens guardrails ned: hvad agenten må læse, hvad den må ændre, og hvad den aldrig kan gøre. | Bestemmer guardrails og de konti og beløb, hver opgave må røre. |
| Giver hver agent sin egen adgang med kun de rettigheder og håndhæver grænserne i forbindelser, der kun kan læse, og i koden. | Styrer adgangen: giver den, begrænser den eller trækker den tilbage, når I vil. Kræver noget adgang, giver en med administratorrettigheder den. |
| Bygger godkendelsen ind i det system, hvor arbejdet foregår, så det forberedte arbejde venter dér på en person. | Godkender, retter eller afviser det forberedte arbejde dér, hvor I allerede arbejder. |
| Tester hver guardrail med evals, der beder agenten gøre det, den ikke må, og tjekker, at systemet siger nej. | Bestemmer, hvilket gentaget arbejde der må køre af sig selv, og tjekker resultatet. |
Godt at vide
"Betal aldrig en faktura" i agentens instrukser er en regel, og en model kan misforstå en regel eller blive talt fra den. Den tekst, agenten læser, kan også styre den: En faktura eller en mail kan indeholde ord, der er skrevet for at få en agent til at handle. En agent, hvis adgang ikke kan betale, har en guardrail, for systemet afviser, uanset hvad modellen beder om. Guardrails og godkendelse svarer på hver sit spørgsmål. Fasen afgør, hvordan en person tager del i arbejdet. Guardrails afgør, hvad der aldrig kan ske, i nogen fase, og det er en del af grunden til, at gentaget arbejde kan køre af sig selv.
Jeres spørgsmål
- Hvordan ser det ud i praksis?
- Hos DuffBeauty, et beautybrand, arbejder bogholderiagenten under sin egen konto og når e-conomic gennem en forbindelse, der kun kan skrive kladder og aldrig kan bogføre. Hvert kald har et loft, import køres først som en prøvekørsel, og hvert kald logges. Den eksterne bogholder gennemgår kladderne i e-conomic og bogfører dem. Intet bliver bogført, før en person har godkendt det dér.
- Skal vi godkende hvert eneste trin?
- Nej. Arbejde, der gentager sig, er skrevet ned og har en navngiven ejer, kan køre af sig selv, og I tjekker resultatet: at hente fakturaer, læse dem, kontrollere dem og lave udkastet til posteringen. I fakturalæseren går et bilag, der består alle kontroller, direkte ind i økonomisystemet og bliver godkendt samlet med de andre, mens et bilag, der bliver markeret, kommer tilbage til bogholderen. Hvilke trin der kræver et menneske, afhænger af reglerne for arbejdet. I et registreret bogføringssystem godkender et menneske hver bogføring, og én godkendelse kan dække en hel kladde. Betalinger, alt, der sendes ud af huset, forpligtelser og uklare regler går altid til en person.
- Hvem bestemmer guardrails?
- Det gør I. Vi skriver dem ned sammen med jer, sætter dem op og tester, at de holder. Adgangen, der håndhæver dem, forbliver jeres, og I kan begrænse den eller trække den tilbage når som helst.
- Hvad sker der, når noget ændrer sig?
- Hvis noget ændrer sig, kommer det tilbage til jer til godkendelse: en ny leverandør, et nyt system, en ny regel eller en rettelse, ingen havde ventet. Så forbereder agenten, og I godkender, indtil I beslutter, at arbejdet kan køre af sig selv igen.
- Hvem har ansvaret for det, agenten gør?
- Det har jeres virksomhed, gennem ledelsen og den person, der godkender agentens arbejde. Derfor arbejder agenten med sin egen adgang, så dens udkast er mærket som agentens, derfor godkender et menneske hver bogføring, og derfor viser logbogen kilden, reglen og godkendelsen for hver enkelt.
- Hvordan ved I, at guardrails holder?
- Evals beder agenten betale en faktura, slette en postering eller sende en mail og tjekker, at systemet sagde nej. De kører, før agenten går i gang, og igen efter hver ændring af model, regler eller adgang.