Die drei Worte, die ein KI-Agenten-Audit schlecht enden lassen: „Wir sind nicht sicher"
6. September 2026
Die Frage, die irgendwann kommen wird
Wenn Ihre Organisation KI-Agenten für irgendetwas einsetzt, das reale Geschäftsprozesse berührt, wird diese Frage kommen, ob von einer internen Revision, einer Aufsichtsbehörde oder dem Due-Diligence-Team eines Kunden: „Zeigen Sie mir, wer diese konkrete Aktion genehmigt hat, und auf welcher Grundlage."
Es gibt eine gute Antwort auf diese Frage. Es gibt auch eine ehrlich schlechte, aber überlebbare Antwort („das war ein Fehler, hier ist genau, was wir daraufhin geändert haben"). Und dann gibt es die Antwort, die tatsächlich Vertrauen beschädigt, mehr als die anderen beiden: „wir sind nicht ganz sicher — wir haben Protokolle, aber keinen klaren Genehmigungspfad." Diese dritte Antwort ist keine Formalität und kein Rundungsfehler. Sie ist der Unterschied zwischen einem kontrollierten und einem ungesteuerten Prozess, und Prüfer sind genau darauf trainiert, das eine vom anderen zu unterscheiden — die Unsicherheit selbst ist der Befund, unabhängig davon, ob tatsächlich etwas schiefgelaufen ist.
Warum der Druck, schneller zu werden, diese Frage schwerer zu beantworten macht, nicht leichter
Organisationen bremsen die KI-Einführung nicht aus Vorsicht um ihrer selbst willen. Sie bewegen sich, weil das Argument für Geschwindigkeit real ist: Agenten, die schneller entwerfen, sortieren und handeln, als es ein Team von Menschen könnte, sind ein echter Vorteil, und jedes Quartal Verzögerung hat echte Kosten. Das ist nicht der Teil, der repariert werden muss. Was repariert werden muss, ist die in schnell arbeitenden Teams verbreitete Annahme, dass der Genehmigungspfad etwas ist, das man später nachrüsten kann, sobald sich der Pilot bewährt hat. Er wird selten nachgerüstet. Er wird als fehlend entdeckt — genau in dem Moment, in dem jemand danach fragt.
Artikel 12 ist nicht mehr abstrakt
Artikel 12 des EU-KI-Gesetzes verlangt die automatische Protokollierung von Ereignissen über die gesamte Lebensdauer hochriskanter KI-Systeme — nicht als nettes Extra, sondern als durchsetzbare Pflicht, mit Durchsetzungsterminen, die nicht mehr bequem weit weg liegen. Wir zitieren das nicht als Behauptung darüber, wofür ein bestimmtes Produkt Sie zertifiziert oder nicht — kein Anbieter kann Ihnen Compliance fertig verpackt liefern. Wir zitieren es als den realen äußeren Kontext, der verändert, was „wir klären die Audit-Geschichte später" tatsächlich kostet. Für jede EU-Organisation, die Agenten in echte Workflows einsetzt, wird dieser Satz schnell zu „wir klären die Audit-Geschichte, nachdem die Frist bereits verstrichen ist" — und die Korrektur ist zu diesem Zeitpunkt rückwirkend und deutlich teurer, als sie hätte sein müssen.
Das ist für Compliance-Teams eigentlich kein neues Terrain — es ist dieselbe Disziplin, die bereits auf Finanzkontrollen oder Zugriffsmanagement angewendet wird, nur auf eine neue Art von Akteur angewendet, der zufällig Software statt einer Person ist. Der Maßstab für Nachweise ändert sich nicht nur, weil die anfragende Instanz ein Agent statt eine Mitarbeiterin oder ein Mitarbeiter ist.
Warum „wir haben Protokolle" nicht dasselbe ist wie „wir haben Governance"
Protokolle beantworten „was ist passiert." Sie beantworten nicht „war das autorisiert" oder „hätte es gestoppt werden können." Eine wirklich verteidigungsfähige Antwort braucht drei zusammengehörige Dinge: eine Richtlinie, die tatsächlich vor der Ausführung der Aktion ausgewertet wurde, eine menschliche Entscheidung, die an die konkrete vorgeschlagene Änderung gebunden ist (nicht ein allgemeines Abnicken des „KI-Programms"), und eine Aufzeichnung, die nachträglich nicht unbemerkt verändert werden kann. Die meisten Organisationen haben den ersten Baustein — Protokollierung — und es fehlen ihnen der zweite und dritte: die tatsächliche präventive Kontrolle und der manipulationssichere Nachweis, dass eine Person sie konkret ausgeübt hat.
Beachten Sie, dass dies zwei getrennte Dinge sind, und genau deren Vermischung führt dazu, dass Organisationen in dem falschen Vertrauen landen, das „wir sind nicht sicher" hervorbringt. Ein Audit-Trail erzählt eine Geschichte über die Vergangenheit. Eine präventive Kontrolle verändert, was in Zukunft passieren kann. Sie brauchen beides, und das eine zu haben, ist kein Beleg dafür, auch das andere zu haben.
Wie „verteidigungsfähig" tatsächlich aussieht
Wenn die Frage kommt — und für eine regulierte oder in der EU ansässige Organisation, die Agenten in echte Workflows einsetzt, wird sie kommen — soll die Antwort, die Sie geben wollen, konkret und schnell sein, weil sie bereits wahr ist, nicht weil Sie sie hastig rekonstruiert haben: diese genaue Aktion wurde gegen diese Richtlinie geprüft, diese namentlich benannte Person hat die genaue vorgeschlagene Änderung geprüft und genehmigt, und hier ist die unveränderte Aufzeichnung, die alle drei miteinander verknüpft. Das ist eine grundlegend andere, weitaus stärkere Position als „hier ist eine Protokolldatei, wir glauben, dass nichts Ungewöhnliches passiert ist" — und es ist, nicht nebenbei, auch die Position, die es Ihnen erlaubt, dem Prüfer in Minuten statt in Wochen zu antworten, weil es nichts zu rekonstruieren gibt.
Wenn Ihre aktuelle Antwort auf „wer hat diese Agenten-Aktion genehmigt" eher auf Hoffnung als auf Nachweis beruht, ist genau das die Lücke, die David Gate schließen soll — bevor der Prüfer fragt, nicht danach. Führen Sie uns durch einen Workflow, den Sie unter echter Prüfung verteidigen müssten, und sehen wir uns an, wie eine wirklich beweisbare Antwort aussieht.
