Was Sie freigeben, ist das, was läuft
Es gibt einen Moment, der entscheidet, ob Sie einen KI-Agenten wirklich für Arbeit einsetzen, auf die es ankommt. Nicht der Moment, in dem er einen schönen Vorschlag schreibt. Der Moment danach: Sie haben ihn gelesen, Sie klicken auf „Freigeben“, und er verschwindet aus dem Blick. Was in den Sekunden danach geschieht, müssen Sie einfach glauben.
Bei Stilops müssen Sie das nicht glauben. Das liegt nicht daran, dass wir bessere Absichten hätten als andere, sondern daran, dass wir diesen einen Moment zum Kern des Systems gemacht haben statt zu einer Einstellung drumherum. Dieser Beitrag handelt davon, was das konkret bedeutet — einschließlich des Teils, der bei uns selbst nicht stimmte, und was wir dagegen getan haben.
Die Frage hinter der Frage
„Ein Mensch muss zustimmen“ steht inzwischen auf praktisch jeder Produktseite für KI-Agenten. Das ist eine gute Nachricht: Die Idee, dass Software nicht ungefragt in Ihrem Namen handeln darf, hat sich durchgesetzt. Aber sie macht es auch leichter, die wichtige Frage zu überspringen. Diese Frage lautet nicht, ob um Erlaubnis gebeten wird. Sie lautet, ob danach das ausgeführt wird, wofür Sie die Erlaubnis gegeben haben.
Das ist weniger selbstverständlich, als es klingt. Im üblichen Aufbau sind die Vorschau und die Ausführung zwei getrennte Wege. Die Vorschau läuft eingeschränkt und schreibgeschützt und liefert einen Plan — den lesen Sie. Geben Sie frei, wird der ursprüngliche Auftrag erneut gestartet, nun mit vollen Rechten. Der Agent fängt also von vorn an, und der Plan, den Sie geprüft haben, geht ins Leere. Nichts schlägt fehl, nichts fällt auf, und meistens kommt er zum selben Ergebnis. Aber die Garantie, dass das läuft, was Sie gesehen haben, gibt es nicht.
Wir wissen das so genau, weil es bei uns auch so funktionierte. Ein Nutzer legte den Finger in die Wunde: Ein Testlauf verdient nur dann Vertrauen, wenn er dieselben Regeln, Rechte und Daten berührt wie die Ausführung, und zwei getrennte Pfade driften unweigerlich auseinander. Bei der Prüfung stellte sich heraus, dass es schärfer war, als er es vorsichtig formuliert hatte. Die beiden Pfade konnten nicht nur auseinanderlaufen — sie taten etwas anderes. Sie gaben einen Plan frei, und es lief eine Aufgabe.
Eine Freigabe, die an das gebunden ist, was Sie gesehen haben
Die Lösung ist weniger spektakulär als das Problem, und genau das ist richtig so. In dem Moment, in dem ein Vorschlag auf Ihrem Bildschirm erscheint, wird ein Fingerabdruck über genau das berechnet: den Auftrag und den Plan, der daraus entstand. Beides, denn wer nur den Auftrag absichert, lässt einen geänderten Plan unbemerkt durch, und umgekehrt genauso. Dieser Fingerabdruck reist mit Ihrem Klick mit und wird auf dem Server aus dem, was in diesem Moment tatsächlich vorliegt, neu berechnet. Weichen sie voneinander ab, hat sich zwischen Zeigen und Klicken etwas geändert — und die Freigabe wird nicht durchgeführt.
Fehlt der Fingerabdruck, wird sie ebenfalls nicht durchgeführt. Das ist eine bewusste Entscheidung: Hier geht es um die Frage, ob jemand tatsächlich das freigegeben hat, was er freizugeben glaubte. Eine solche Kontrolle muss geschlossen bleiben, wenn sie nicht funktionieren kann, nicht offen.
Und die zweite Hälfte, die mindestens genauso viel ausmacht: Der freigegebene Plan reist nun mit zur Ausführung. Nicht als Hintergrundinformation, sondern als der Auftrag selbst, mit einer ausdrücklichen Regel dazu. Erweist sich die Lage als so anders, dass der Plan nicht mehr stimmt, darf der Agent es nicht trotzdem auf seine eigene Weise lösen. Er erklärt, was abweicht und was er nun vorschlägt, damit Sie erneut prüfen. Ihre Freigabe gilt für diesen Plan, nicht für den Auftrag im Allgemeinen.
Auch wenn Sie zehn Vorschläge auf einmal freigeben — gerade dann. Ein Bündel erhält einen eigenen Fingerabdruck über alle darin enthaltenen Vorschläge, unabhängig von der Reihenfolge. Ändert sich ein Vorschlag, kommt einer hinzu oder fällt einer weg zwischen Zeigen und Klicken, wird das gesamte Bündel nicht durchgeführt. Ein Klick, mit dem Sie das Meiste auf einmal freigeben, ist genau die Stelle, an der eine Kontrolle nicht fehlen darf.
Was Ihnen das bringt
- Sie müssen nicht auf gute Absichten vertrauen. Was Sie gelesen haben, ist das, was läuft, oder es wird nicht durchgeführt — das ist eine mechanische Kontrolle, kein Versprechen.
- Zweifeln kostet Sie nichts. Ein Vorschlag, den Sie ablehnen, ist nie geschehen: Abgelehnte und noch wartende Testläufe zählen nicht auf Ihr Monatskontingent, bis zum Dreifachen Ihrer inbegriffenen Aufgaben pro Monat. In Ruhe auch einmal Nein zu sagen, ist kostenlos.
- Nach Ihrer Freigabe prüft der Agent zuerst, ob die Arbeit nicht schon auf anderem Weg erledigt wurde — von einer Kollegin oder einem Kollegen, von Ihnen, außerhalb von Stilops. Ist das der Fall, hört er dort auf, statt sie doppelt zu erledigen.
- Im Nachhinein lässt es sich nachvollziehen. Jeder Vorschlag, jeder Testlauf und jede Entscheidung steht in einem Protokoll, das keine Bearbeiten- oder Löschen-Schaltfläche hat, weil diese Funktion im System schlicht nirgends existiert.
Zusammengenommen verändert das das Gespräch, das Sie intern über KI führen. Nicht mehr „dürfen wir das einschalten und was kann schiefgehen“, sondern schlicht: Wer schaut sich das an und wann. Das ist der Unterschied zwischen einem Werkzeug, das Sie vorsichtig am Rand Ihrer Arbeit halten, und einem Kollegen, den Sie mitten hineinsetzen.
Warum Sie die Freigabe nicht ausschalten können
Jede Aufgabe, die Sie einem Stilops-Agenten geben, startet als Vorschlag. Nicht weil das die Standardeinstellung ist, sondern weil der Server sie so anlegt und es keinen anderen Weg gibt. Es gab einmal ein Häkchen, mit dem ein Kunde den Testlauf überspringen konnte. Dieses Häkchen ist weg, und es kommt nicht wieder — nicht als erweiterte Option, nicht als Ausnahme für große Kunden, die es „wirklich nicht brauchen“.
So sehen wir auch den AI Act. Menschliche Aufsicht ist bei uns kein Kapitel in einem Grundsatzdokument, das neben dem Produkt existiert, sondern eine Codezeile an der Stelle, an der Aufgaben entstehen. Dasselbe gilt für den Rest: Dokumente und Nachrichtenentwürfe, die ein Agent erstellt, werden vom System selbst als KI-generiert gekennzeichnet, nicht weil wir den Agenten freundlich darum gebeten haben. Compliance, die von einer Anweisung abhängt, ist Compliance, die an einem schlechten Tag fehlt.
Das kostet uns auch etwas, und das ist es wert, ehrlich zu erwähnen. Wir können nicht behaupten, dass unsere Agenten Ihre Arbeit völlig selbstständig erledigen, während Sie schlafen. Das ist der Tausch: Sie geben die Fantasie vollständiger Autonomie her und erhalten dafür die Gewissheit, dass nichts geschieht, was Sie nicht gesehen haben. Wir glauben, dass die Gewinnerform von KI für die Arbeit nicht die autonomste ist, sondern die vertrauenswürdigste.
Was noch nicht fertig ist
Der Fingerabdruck schließt die Lücke zwischen dem, was Sie sehen, und dem, was läuft. Offen bleibt der ursprüngliche Punkt des Melders in seiner vollen Form: Die Vorschau und die Ausführung sind noch immer zwei Wege mit unterschiedlichen Rechten. Sie zu einem einzigen Weg zusammenzuführen, mit einem Schalter, der die Nebenwirkungen ausschaltet, ist der nächste Schritt. Dann ist der Testlauf nicht mehr eine gute Annäherung an die Ausführung, sondern buchstäblich dieselbe Ausführung mit gezogenem Stecker.
Wir nennen das hier, weil ein Anbieter, der nur seine Stärken aufzählt, Ihnen nicht hilft, ihn zu beurteilen. Ein offener Punkt, nach dem Sie fragen können, ist mehr wert als eine Behauptung, die Sie hinnehmen müssen.
Die ruhige Alternative
Die Angst vor KI am Arbeitsplatz dreht sich selten darum, ob sie klug genug ist. Sie dreht sich um die E-Mail, die rausging, ohne dass jemand sie sah, den Betrag, der sich verschob, den Kunden, der eine Nachricht erhielt, die niemand hatte senden wollen. Genau diese Stille ist es, wo es schiefgeht — und genau dort haben wir unsere Stille dagegengesetzt: ein Agent, der nichts von sich hören lässt, bis etwas vorliegt, das Ihren Blick verdient, und dann einmal klar um Ihre Aufmerksamkeit bittet.
Arbeit abzugeben, ohne die Kontrolle abzugeben, ist kein Kompromiss zwischen beidem. Es ist das, was übrig bleibt, wenn man den Freigabemoment ernst genug nimmt, um ihn nicht ausschalten zu können. Beauftragen Sie einen Agenten, geben Sie ihm eine Aufgabe und sehen Sie, was auf Ihrem Bildschirm erscheint. Nichts geschieht, bevor Sie es freigeben — und was Sie freigeben, ist das, was läuft.