Originalquelle: Agent Harness: Working with your data, safely
Dies ist einer der nützlichsten Beiträge zum Agent-Engineering in diesem Jahr, weil er sich der üblichen Demo-zuerst-Autonomie-Falle verweigert. Stattdessen konzentriert er sich darauf, wie Agenten mit echten Benutzerdaten und echten Konsequenzen umgehen sollten.
Die drei hier hervorgehobenen Bausteine sind genau richtig.
Dateizugriff gibt Agenten eine nützliche Verankerung in benutzereigenen Daten.
Genehmigungsprüfung verhindert die stillschweigende Ausführung folgenreicher Aktionen.
Dauerhafter Speicher vermeidet wiederholte Interaktionen, ohne die Kontrolle zu opfern.
Die meisten Teams investieren zu viel in Werkzeugbreite und zu wenig in Berechtigungssemantik. Das ist rückwärtsgewandt. Ein Agent mit zehn Werkzeugen und schwachen Genehmigungsgrenzen ist weniger wert als ein Agent mit drei Werkzeugen und vorhersagbaren Kontrollpunkten.
Das beste praktische Muster in diesem Artikel ist die abgestufte Genehmigungsstrategie:
Verlangen Sie immer eine Genehmigung für risikoreiche Werkzeuge wie Handel oder destruktive Operationen.
Genehmigen Sie risikoarme Lesevorgänge automatisch, um den Arbeitsfluss zu erhalten.
Verwenden Sie eingeschränkte Dauerermächtigungen für wiederholte vertrauenswürdige Aktionen innerhalb einer Sitzung.
Das erzeugt ein gesundes Risikogefälle. Benutzer werden nicht für harmlose Lesevorgänge unterbrochen, bleiben aber eingebunden, wenn die Konsequenzen teuer oder irreversibel werden.
Mir gefällt auch die explizite Trennung zwischen Dateispeicher und Foundry-Speicher. Teams sollten aufhören zu versuchen, ein Speichermodell für jedes Problem zu erzwingen. Grobe, explizite Dateiartefakte sind hervorragend für benutzersichtbare Zustände wie Berichte und Watchlists. Faktenebenen-Speicherextraktion eignet sich besser für Präferenzen und Gesprächskontext. Beides zu mischen liefert bessere Ergebnisse, als so zu tun, als sei eines von beiden ausreichend.
Meine meinungsstarke Einschätzung: Die Zukunft der Agentenqualität wird weniger an cleveren Prompts gemessen als an der Ergonomie der Sicherheit. Wenn Ihre Genehmigungsabfragen zu laut sind, klicken Benutzer blind durch. Wenn Ihre Speichergrenzen unklar sind, hören Benutzer auf, dem Assistenten zu vertrauen. Wenn Ihre Datenzugriffsstandards zu permissiv sind, werden Sicherheitsteams das Projekt stoppen.
Für .NET- und Python-Teams, die dieses Muster übernehmen, ist der entscheidende Schritt, Richtlinien-Callbacks und Genehmigungsregeln als Kern-Geschäftslogik zu behandeln – versioniert und getestet wie jeder andere kritische Code. Lassen Sie sie nicht als Ad-hoc-Lambdas in Beispielen vergraben.
Agentensysteme, die Vertrauen verdienen, sind nicht die, die am meisten tun. Sie sind die, die genau das tun, was Benutzer beabsichtigt haben – nicht mehr, nicht weniger – mit klaren Unterbrechungspunkten, wenn das Risiko steigt.
Das ist der Unterschied zwischen einer beeindruckenden Demo und Software, der Menschen echte Arbeit anvertrauen.
