Com donar accés d'escriptura a un agent d'IA sense perdre el control
Un agent amb permisos d'escriptura necessita més que autenticació: revisions, límits, aprovacions, idempotència i un model clar de responsabilitats.
El problema no és si un agent pot escriure. El problema és què passa quan escriu malament, amb context desactualitzat o sobre una dada que ha canviat des que la va llegir.
No tots els permisos d'escriptura són iguals
Separaria les capacitats en nivells: llegir, proposar, crear esborranys, modificar, publicar i executar accions irreversibles. Un agent no necessita començar pel nivell màxim per ser útil.
Fes que cada canvi generi una revisió
Una escriptura directa sobre l'estat final elimina context i dificulta entendre què ha passat. Les revisions immutables permeten comparar canvis, auditar decisions i recuperar un estat anterior sense confiar en la memòria del model.
Evita que un agent sobreescrigui dades desactualitzades
Una tècnica simple és exigir un base_revision_id o una versió equivalent a cada modificació. Si l'estat actual ja no coincideix amb el que l'agent va llegir, el sistema rebutja el canvi i obliga a tornar a inspeccionar.
Separa escriure de publicar
Crear un draft pot ser una operació de risc baix. Publicar, enviar un correu, fer un pagament o eliminar dades no ho és. Aquestes fronteres haurien de quedar reflectides en les eines que exposes a l'agent.
Dissenya les accions perquè siguin idempotents
Els agents poden repetir tool calls per errors de xarxa, reintents o interpretacions incorrectes. Una acció ben dissenyada ha de detectar repeticions i evitar crear dues vegades el mateix recurs o executar dues vegades el mateix efecte.
Registra qui, què i sobre quin estat
- Identitat de l'agent o usuari que inicia l'acció.
- Eina invocada i arguments normalitzats.
- Versió o revisió base utilitzada.
- Resultat i identificador de la nova revisió.
- Aprovació humana quan sigui necessària.
L'objectiu no és confiar en l'agent
Un sistema segur assumeix que l'agent es pot equivocar. Les garanties importants han de viure al backend: validació, permisos, revisions, locks, auditories i rollback. Quan aquestes peces existeixen, donar capacitat d'escriptura deixa de ser un salt de fe i passa a ser una decisió d'arquitectura controlable.