Governance

Mensch-im-Schleifensystem

Ein Design, bei dem die KI die Arbeit erledigt, aber ein Mensch an definierten Punkten überprüft, genehmigt oder entscheidet, bevor Konsequenzen real werden.

Mensch-im-Schleifensystem bedeutet, dass die KI innerhalb eines Workflows operiert, der bewusste menschliche Prüfungen enthält: Genehmigung eines Entwurfs, bevor er gesendet wird, Abzeichnen einer Empfehlung, bevor sie ausgeführt wird, oder Überprüfung von gekennzeichneten Ausnahmen. Die KI bearbeitet den Umfang; der Mensch ist für Urteilsvermögen und Rechenschaftspflicht an den Punkten verantwortlich, die zählen.

Führungskräfte sollten sich dafür interessieren, weil Mensch-im-Schleifensystem die Antwort auf die falsche Wahl zwischen vollständiger Automatisierung und keiner Automatisierung ist. Gut platzierte Schleifen kosten wenig - eine tägliche Genehmigung in einem Batch von 15 Minuten hält einen Agenten rund um die Uhr produktiv -, während sie die rechtliche, reputationsbezogene und ethische Rechenschaftspflicht dort beibehalten, wo Regulierungsbehörden und Kunden sie erwarten: bei einer Person. Es ist auch die Art und Weise, wie Vertrauen aufgebaut wird: Autonomie wird erweitert, wenn die überprüfte Ausgabe als zuverlässig erwiesen ist.

Konkretes Beispiel: Ein Agent erstellt alle Routine-Korrespondenz mit Kunden über Nacht. Jeden Morgen überprüft der Account-Manager die Warteschlange in 20 Minuten, bearbeitet zwei Entwürfe, genehmigt den Rest - und bearbeitet persönlich die drei, die der Agent als sensibel gekennzeichnet hat.

Die Designfähigkeit besteht in der Platzierung: Zu wenige Schleifen und Sie sind ungeschützt; zu viele und Sie haben eine teure Schreibmaschine gebaut. Sperren Sie das Unumkehrbare, batchen Sie den Rest.