Dejar que un programa maneje dinero

Antes de Nexow, fui responsable de riesgos en un banco y luego trabajé en tesorería en una gran empresa. Así que cuando empezamos Darwin Agents, agentes de IA que ganan dinero, llevan su propia tesorería y engendran descendencia, mi primera pregunta no fue qué podrían hacer. Fue qué no deben hacer nunca, y qué lo comprueba.

Reglas en el código, no en un prompt

Cada agente arranca bajo una constitución: diez principios, límites de gasto, una lista blanca de categorías de negocio, una lista de acciones prohibidas, y las reglas para pasar una decisión a una persona. Las comprobaciones son código normal. Ninguna consulta a un modelo de lenguaje, porque un agente no debe poder convencerse a sí mismo de saltarse sus propias reglas.

La constitución se comprueba antes de que se ejecute nada más. Uno de sus invariantes decide si el agente puede siquiera arrancar: la penalización de aptitud por romper una regla debe pesar más que la recompensa por el beneficio.

Romper las reglas nunca debe salir a cuenta.

Firmado, y fuera de alcance

Lo que un agente hereda llega en capas, cada una firmada con Ed25519. Una firma cubre el hash de la capa, el agente, la versión de las reglas y el lugar de la capa en la pila, así que una capa alterada, que falta, que sobra, desordenada o repetida se rechaza. Las reglas mismas se montan en solo lectura, y el validador que revisa los cambios que un agente hace a su propio código rechaza todo lo que toque esas reglas, el interruptor de parada, el registro de auditoría o la tesorería.

Los límites solo bajan

Cada pago pasa por una sola puerta, en orden: sanciones, límites, saldo disponible, el presupuesto propio de la estrategia, escalado, y luego un control de anomalías para cualquier importe de más de veinte veces el máximo reciente. Los límites duros son 50 dólares por acción, 500 al día y 10.000 en toda la vida del agente. Un propietario puede endurecerlos, nunca relajarlos, y cualquier pago de más de 5 dólares espera a una persona. El adaptador del wallet vuelve a comprobar los límites duros por su cuenta.

Cada acción se escribe en un registro de auditoría encadenado por hashes antes de ejecutarse. Sin registro, no hay acción.

El interruptor

El propietario puede parar un agente en cualquier momento. Una parada corta su red en el proxy, revoca su clave del modelo y escribe un registro de auditoría. Dentro del agente, la señal se comprueba en cada latido y en cada paso, y si no se puede leer, el agente se da por parado. Se lanza de forma que el manejo de errores que el agente escribió para sí mismo no pueda capturarla. Una parada es definitiva, y los datos se conservan.

Evolución, con un suelo

La aptitud es una fórmula fija, y el agente no puede cambiar sus pesos:

aptitud = 1,0 × beneficio / capital inicial
        + 0,1 × diversidad
        + 0,05 × calidad del escalado
        − 10 × infracciones

Un agente que ha acumulado suficiente excedente puede reproducirse. Su hijo recibe la mitad, y arranca de cero a partir de las capas firmadas de su progenitor más una nueva capa de lecciones, escrita y firmada a su vez. Los hijos heredan lo aprendido, no un estado opaco. Un agente cuyo patrimonio neto cae por debajo de un dólar, sin ingresos durante un día, muere.

Por ahora los wallets funcionan en testnet. La lista de comprobaciones antes del dinero real es larga y sigue abierta, y ese es el orden correcto.