Vertrauenswürdige KI.

Logs sind kein Beweis

Jedes KI-System führt heute Logs. Logs sind Text in einer Datenbank, und Text in einer Datenbank lässt sich bearbeiten, kürzen oder still verlieren. Wenn ein Agent eine Rückerstattung genehmigt, einen Kandidaten ablehnt oder Geld bewegt, ist „wir haben Logs" keine Antwort, die eine Aufsichtsbehörde, ein Kunde oder ein Gericht akzeptiert. Die Messlatte ist Manipulationssicherheit: ein Protokoll, das sich nachträglich nicht umschreiben lässt, ohne dass die Änderung offensichtlich wird.

Die Entscheidung ist eine Kette, kein Moment

Die Handlung eines Agenten ist das letzte Glied einer Kette: die Daten, die er sah, der Kontext, den er bekam, das Modell, das er aufrief, die Tools, die er berührte, die Zwischenschritte, die er ging. Fehlt ein Glied, ist die Handlung unerklärbar. Wir halten die gesamte Kette für die Einheit des Audits: erfasst im Moment des Geschehens, gehasht und versiegelt, sodass jeder Schritt später abgespielt und geprüft werden kann.

Man kann nicht beweisen, was ein Modell dachte

Geschlossene Modelle legen ihre Gewichte nicht offen, und keine Kryptografie ändert das. Die ehrliche und zugleich nützliche Aussage ist eine andere: Man kann beweisen, was hineinging, was herauskam, was damit geschah, und dass die eigene Analyse der Entscheidung dem Protokoll treu ist. Das genügt für die Fragen, auf die es ankommt: Wer hat entschieden, auf welcher Grundlage, und können wir es prüfen?

Die Regulierung kommt schneller als das Werkzeug

Regeln, die genau diese Art von Protokoll verlangen, sind in der EU, den USA und darüber hinaus bereits terminiert, mit Strafen, die Vorstandsagenden verändern. Die meisten Unternehmen werden dieser Welle mit Screenshots und guten Absichten begegnen. Wer Agenten im großen Stil betreibt, braucht Vertrauensinfrastruktur, die dafür gebaut wurde. Wir bauen diese Schicht zuerst, denn ohne sie ist alles andere, was wir bauen, bedeutungslos.