Recursive Harness Engineering
Erst Harness Engineering, dann rekursive Verbesserung.
AI-Systeme für den Produktionseinsatz · Berlin
Ich entwerfe produktionsreife AI-Systeme an der Schnittstelle von Software Engineering, Agents, Evaluation, Retrieval, Sicherheit und Infrastruktur – und überführe Traces und Fehler in kontrollierte Experimente, zuverlässige Releases und sichereres Verhalten.
Meine Serie Recursive Harness Engineering beginnt mit den Grundlagen: einen Harness bauen, sein Verhalten unabhängig evaluieren und Änderungen testen. Spätere Kapitel werden die Suche nach Verbesserungen automatisieren und untersuchen, ob Erfahrungen aus früheren Runden bei neuen Aufgaben helfen.
Automatisiere das Experiment, nicht die Befugnis, es für sicher zu erklären.
Erst Harness Engineering, dann rekursive Verbesserung.
Der Reihe nach. Beginne beim Loop.
Meistgelesen
Dieselben Support-Aufgaben als Agent, als Agent mit Freigabe, als Agent in einem Workflow, als Router und als Workflow ohne Agent, verglichen auf einem Testset.
Wie die Anforderungen einer Aufgabe einen Agent-Harness formen: Ablaufsteuerung, Tools, Codeausführung, State, Berechtigungen und Nachweise festlegen, bevor man ein Framework wählt.
Ein Prolog zum rekursiven Harness Engineering: sequenzielle Änderungen eines LLM an einem Speicherwerkzeug testen und mit einfacher Suche vergleichen.
Über mich
Ich bin Slava Dubrov, Staff AI System Engineer mit einem Doktorgrad in AI-Diagnostik. Ich arbeite an Software Engineering, Agentensystemen, Evaluation, Retrieval, Sicherheit und Produktionsinfrastruktur.