Recursive Harness Engineering
Primeiro harness engineering, depois melhoria recursiva.
Sistemas de AI em produção · Berlim
Desenho sistemas de AI em produção que abrangem engenharia de software, agentes, avaliação, retrieval, segurança e infraestrutura, transformando traces e falhas em experiências controladas, releases fiáveis e comportamentos mais seguros.
A minha série Recursive Harness Engineering começa pelos fundamentos: construir um harness, avaliar o seu comportamento de forma independente e testar alterações. Os capítulos seguintes automatizarão a procura de melhorias e investigarão se a experiência de rondas anteriores ajuda em tarefas novas.
Automatize a experiência, não a autoridade para a declarar segura.
Primeiro harness engineering, depois melhoria recursiva.
Em ordem. Comece pelo ciclo.
Mais lidos
As mesmas tarefas de apoio ao cliente como agente, agente com aprovação, agente dentro de um fluxo de trabalho, router e fluxo de trabalho sem agente, comparadas no mesmo conjunto de testes.
Como os requisitos da tarefa moldam um agent harness: escolher o fluxo de controlo, as ferramentas, a execução de código, o estado, as permissões e a evidência antes de escolher um framework.
Um prólogo ao recursive harness engineering: testar alterações sequenciais de um LLM a uma ferramenta de memória e compará-las com uma pesquisa simples.
Sobre
Sou Slava Dubrov, Staff AI System Engineer com um doutoramento em diagnóstico com AI. Trabalho em engenharia de software, sistemas de agentes, avaliação, retrieval, segurança e infraestrutura de produção.