Deixar que un programa gestioni diners

Abans de Nexow, vaig ser responsable de riscos en un banc i després vaig treballar en tresoreria en una gran empresa. Així que quan vam començar Darwin Agents, agents d’IA que guanyen diners, porten la seva pròpia tresoreria i engendren descendència, la meva primera pregunta no va ser què podrien fer. Va ser què no han de fer mai, i què ho comprova.

Regles al codi, no en un prompt

Cada agent arrenca sota una constitució: deu principis, límits de despesa, una llista blanca de categories de negoci, una llista d’accions prohibides, i les regles per passar una decisió a una persona. Les comprovacions són codi normal. Cap no consulta un model de llenguatge, perquè un agent no s’ha de poder convèncer a si mateix de saltar-se les seves pròpies regles.

La constitució es comprova abans que s’executi res més. Un dels seus invariants decideix si l’agent pot arrencar o no: la penalització d’aptitud per trencar una regla ha de pesar més que la recompensa pel benefici.

Trencar les regles no ha de sortir mai a compte.

Signat, i fora d’abast

El que un agent hereta arriba en capes, cadascuna signada amb Ed25519. Una signatura cobreix el hash de la capa, l’agent, la versió de les regles i el lloc de la capa a la pila, així que una capa alterada, que falta, que sobra, desordenada o repetida es rebutja. Les regles mateixes es munten en mode de només lectura, i el validador que revisa els canvis que un agent fa al seu propi codi rebutja tot el que toqui les regles, l’interruptor d’aturada, el registre d’auditoria o la tresoreria.

Els límits només baixen

Cada pagament passa per una sola porta, en ordre: sancions, límits, saldo disponible, el pressupost propi de l’estratègia, escalat, i després un control d’anomalies per a qualsevol import de més de vint vegades el màxim recent. Els límits durs són 50 dòlars per acció, 500 al dia i 10.000 en tota la vida de l’agent. Un propietari els pot endurir, mai relaxar, i qualsevol pagament de més de 5 dòlars espera una persona. L’adaptador del wallet torna a comprovar els límits durs pel seu compte.

Cada acció s’escriu en un registre d’auditoria encadenat per hashes abans d’executar-se. Sense registre, no hi ha acció.

L’interruptor

El propietari pot aturar un agent en qualsevol moment. Una aturada talla la seva xarxa al proxy, revoca la seva clau del model i escriu un registre d’auditoria. Dins de l’agent, l’indicador es comprova a cada batec i a cada pas, i si no es pot llegir, l’agent es dona per aturat. El senyal es llança de manera que la gestió d’errors que l’agent va escriure per a si mateix no el pugui capturar. Una aturada és definitiva, i les dades es conserven.

Evolució, amb un terra

L’aptitud és una fórmula fixa, i l’agent no en pot canviar els pesos:

aptitud = 1,0 × benefici / capital inicial
        + 0,1 × diversitat
        + 0,05 × qualitat de l’escalat
        − 10 × infraccions

Un agent que ha acumulat prou excedent es pot reproduir. El seu fill en rep la meitat, i arrenca de zero a partir de les capes signades del seu progenitor més una nova capa de lliçons, escrita i signada al seu torn. Els fills hereten el que s’ha après, no un estat opac. Un agent el patrimoni net del qual cau per sota d’un dòlar, sense ingressos durant un dia, mor.

De moment els wallets funcionen en testnet. La llista de comprovacions abans dels diners reals és llarga i encara oberta, i aquest és l’ordre correcte.