KI-Agenten und Technik
Was ist Human in the Loop? Definition und Praxisbeispiel
Auch: Freigabe durch Menschen
Kurz erklärt
Human in the Loop heisst, dass ein Mensch einen KI-Prozess an festgelegten Stellen prüft und freigibt, bevor er weiterläuft. Die KI bereitet vor, die Person entscheidet. So bleiben Verantwortung und Kontrolle bei euch, auch wenn KI-Agenten viel Arbeit übernehmen.
Warum es zählt: Ihr nutzt die Geschwindigkeit von KI-Agenten, ohne die Verantwortung abzugeben.
- 01
KI schlägt vor
Entwurf mit Quelle und Begründung
- 02
Mensch prüft
Sieht die genaue Änderung
- 03
Mensch entscheidet
Annehmen oder ablehnen
- 04
System übernimmt
Nur Freigegebenes wird geschrieben
Warum ist Human in the Loop wichtig für dein Unternehmen?
KI-Agenten machen Fehler, und zwar schnell und in grosser Zahl. Eine Freigabe an den richtigen Stellen fängt sie ab, bevor ein Angebot verschickt, ein Ticket geschlossen oder ein Dokument überschrieben wird. Auch der EU AI Act verlangt für Hochrisiko-Systeme menschliche Aufsicht.
Entscheidend ist die Dosierung. Prüft eine Person jeden Schritt, verliert ihr den Nutzen, und prüft niemand, verliert ihr die Kontrolle. Gute Freigaben sitzen dort, wo eine Entscheidung Folgen hat.
Praxisbeispiel: Die Roadmap nach dem Strategieentscheid
Nach dem Entscheid «Strategie 2027: Fokus DACH-Mittelstand, keine US-Expansion» findet ein KI-Agent zahlreiche Tickets, Roadmap-Einträge und Dokumente, die noch die US-Expansion voraussetzen. Er könnte sie alle selbst ändern.
Stattdessen schlägt er jede Änderung als Entwurf vor, mit Quelle und Begründung. Die Verantwortlichen nehmen an oder lehnen ab, und erst dann ändert sich die Quelle. Was offen bleibt, ist mit Verantwortlichen sichtbar.
3 häufige Fehler, die du vermeiden solltest
Alles freigeben lassen
Wer jede Kleinigkeit prüfen muss, klickt bald nur noch durch. Freigaben gehören dorthin, wo Fehler Folgen haben.
Ohne Kontext freigeben
Eine Person kann nur prüfen, was sie versteht. Zeigt Quelle, Begründung und die genaue Änderung.
Unklare Zuständigkeit
Wenn alle freigeben dürfen, fühlt sich niemand verantwortlich. Pro Thema braucht es eine benannte Person.
Schritt für Schritt
- 1
Folgenreiche Schritte benennen
Was geht nach aussen, ändert Daten oder kostet Geld?
- 2
Verantwortliche festlegen
Pro Thema eine Person, die freigibt oder ablehnt.
- 3
Änderungen als Vorschlag zeigen
Mit Quelle, Begründung und dem genauen Unterschied zum heutigen Stand.
- 4
Entscheide festhalten
Wer hat wann was freigegeben? So bleibt jede Änderung nachvollziehbar.
Bring einen wichtigen Entscheid mit.
In 30 Minuten mit Marc oder Simon zeigen wir, wo eure Arbeit heute vom Entscheid abweicht.
Company Brain kennenlernenWeiterlesen im PM Lab
Artikel, die das Thema vertiefen.
Verwandte Begriffe
- KI-Agent →Ein KI-Agent ist ein Programm, das mit einem Sprachmodell ein Ziel verfolgt, selbst Schritte plant und dafür Werkzeuge nutzt.
- KI-Governance →KI-Governance ist das Regelwerk, mit dem eine Firma steuert, wer KI wofür einsetzen darf, mit welchen Daten und unter wessen Verantwortung.
- Halluzination →Eine Halluzination ist eine Aussage einer KI, die überzeugend klingt, aber falsch oder nicht belegt ist.
- Organisationsgedächtnis →Ein Organisationsgedächtnis ist das Wissen, das eine Firma über sich selbst behält: Entscheide, Erfahrungen und Begründungen, unabhängig von Personen.