Autonomie geben wir in Stufen ab.

Der Bruch kommt nach drei bis fünf Schritten

Wer Agenten unbeaufsichtigt arbeiten lässt, findet die Grenze schnell. Schluss ist bei ungefähr drei bis fünf Schritten, und selbst das gilt nur bei engem Aufgabenzuschnitt, geordneten Eingaben und umkehrbaren Ergebnissen. Darüber hinaus wird es unzuverlässig, und zwar nicht ein bisschen.

An der UC Berkeley haben Forscher aufgeschlüsselt, woran produktiv laufende Multi-Agenten-Systeme scheitern. Je nach System liegt die Fehlerrate zwischen 41 und 87 Prozent. Den Weg in die andere Richtung hat Klarna öffentlich vorgeführt: erst den Kundendienst weitgehend an KI übergeben, dann zurückgerudert und wieder Menschen eingestellt. Zusammengenommen deutet beides auf dasselbe hin. Mit dem nächsten Modell löst sich die Autonomiefrage nicht, sie ist eine Frage der Konstruktion.

Feste Mechanik, begrenzte KI

Naheliegend wäre, auf klügere Modelle zu warten. Entschieden haben wir uns für die andere Richtung. Bei uns wächst Autonomie über die Mechanik und nicht über den Agenten: Je mehr Ablauf in Zeitplänen, Tabellen, Zuständen und Prüfungen steckt, desto mehr läuft ohne Aufsicht, und alles davon steht in Code, den man nachlesen kann.

In klar umrissenen Knoten sitzt die KI und macht dort, was sie wirklich gut kann: Sprache und Einordnung. Was danach passiert, entscheidet kein Prompt. Wer den Ablauf selbst einem Modell überlässt, wettet, statt zu bauen.

Drei Stufen, vergeben pro Funktion

Bei uns bekommt jede Funktion ihre eigene Stufe, nie das System als Ganzes. Ein Duplikat zu erkennen und eine Mahnung zu verschicken tragen schließlich nicht dasselbe Risiko.

Vier Achsen entscheiden über die Einstufung: ob sich die Handlung zurücknehmen lässt, wie viel Geld daran hängt, ob ein Kunde es merkt und wie tief der Zugriff reicht. Bequemer wäre ein einziges Freigabetor für alles. Binnen weniger Wochen verkommt so etwas allerdings zur ungelesenen Warteschlange, und durchgewunken wird dann sowieso.

Aufsteigen muss sich eine Funktion verdienen

Endgültig ist eine Einstufung nie. Jede Funktion startet gesperrt und darf aufsteigen, allerdings nur mit Nachweis. Nach rund zehn bestätigten Vorgängen ohne eine einzige Korrektur schlägt mir die Morgenlage den Aufstieg vor, bestätigen muss ich ihn selbst.

Wichtiger als der Hinweg ist der Rückweg. Eine einzige Ablehnung setzt die Serie zurück und stuft die Funktion automatisch herunter. Protokolliert wird jeder dieser Schritte, denn Vertrauen ohne Papierspur bleibt ein Gefühl.

Ein Gesetz gehört in die Maschine, nicht in eine Richtlinie

In Österreich verbietet § 174 TKG Werbung ohne vorherige Einwilligung. Schreiben ließe sich das in eine interne Regel, auf die man dann hofft. Gelöst haben wir es anders: Einen Versandweg gibt es nicht. Entwürfe kann der Code erzeugen, verschickt wird von Hand.

Für alle, die aus der Fertigung kommen, ist das ein bekanntes Muster. An der Maschine hält eine Verriegelung auch dann, wenn es eilig ist und niemand hinschaut. Eine Dienstanweisung an der Wand hält dann nicht. Regeln, die man nicht brechen kann, muss sich keiner merken.

Warum das gerade unten zählt

Ein Konzern hat eine Rechtsabteilung, ein zweites Team und Luft für einen Fehlgriff. Nichts davon hat ein Betrieb mit vier Leuten. Schwerer als in jeder Konzernbilanz wiegt dort eine falsch verschickte Mail, weil der Empfänger am nächsten Tag im selben Ort einkaufen geht.

Deshalb bekommt bei uns keine Automatisierung mehr Freiheit, als sie sich verdient hat. Die Leiter kann man später hinaufgehen. Eine Mail, die schon draußen ist, holt niemand mehr zurück.