Was ist Leitplanken?
Zuletzt aktualisiert am · Aidan Faes
Kurz gesagt
Leitplanken sind Regeln, die festlegen, was ein KI-System tun darf, welche Themen es meidet und wann es an einen Menschen abgibt. Sie werden technisch über Anweisungen, Filter und Prüfungen umgesetzt und organisatorisch über eine schriftliche Nutzungsregel ergänzt. Im Englischen heißen sie Guardrails.
Technisch bestehen sie meist aus mehreren Ebenen. Eine feste Anweisung legt Rolle, Tonfall und Grenzen fest. Filter prüfen Eingaben und Ausgaben auf unerwünschte Inhalte. Eine Themenliste bestimmt, worüber überhaupt geantwortet wird, und eine Abgaberegel legt fest, wann der Vorgang an einen Menschen geht. Erst das Zusammenspiel wirkt; eine einzelne Anweisung lässt sich zu leicht umgehen.
Organisatorisch gehört die zweite Hälfte dazu, und sie wird häufig vergessen: eine kurze Regel für die Belegschaft, welche Daten eingegeben werden dürfen, wer Ergebnisse prüft und wie mit Fehlern umgegangen wird. Die Software regelt das Werkzeug, die Regel regelt das Verhalten. Ohne beides ist die Einführung nur halb gebaut.
Der klassische Fehler ist, Leitplanken erst nach dem ersten Vorfall zu formulieren. Der zweite ist, sie so eng zu ziehen, dass das System unbrauchbar wird und Mitarbeitende auf private Werkzeuge ausweichen. Damit haben Sie schlechtere Ergebnisse und weniger Kontrolle als vorher. Nützlich ist eine Regel, die klar sagt, was erlaubt ist, nicht nur, was verboten ist.
Sie brauchen ausgeprägte Leitplanken vor allem dort, wo ein System nach außen spricht oder auf sensible Inhalte zugreift. Für einen internen Entwurfsassistenten reicht eine knappe Regel plus Freigabeschritt. Prüfen Sie die Wirksamkeit vor dem Start mit bewussten Fehlversuchen, statt darauf zu vertrauen, dass die Anweisung genügt.
Bausteine, die zusammengehören
- Eine feste Anweisung mit Rolle, Tonfall und ausdrücklichen Grenzen.
- Eine Themenliste, die festlegt, worüber geantwortet wird.
- Prüfungen auf Eingaben und Ausgaben, etwa für sensible Inhalte.
- Eine Abgaberegel an einen Menschen mit klarem Auslöser.
- Eine schriftliche Nutzungsregel für die Belegschaft.
Welche Begriffe hängen damit zusammen?
- Systemprompt: Eine feste Anweisung, die vor jeder Nutzereingabe gilt und Rolle, Tonfall und Grenzen des Assistenten setzt.
- Human in the Loop: Ein festgelegter Punkt, an dem ein Mensch prüft, bevor ein Ergebnis wirksam wird.
- Eskalation: Die Übergabe eines Vorgangs an einen Menschen, samt bisherigem Verlauf.
Wo wird Leitplanken in der Auswahl konkret?
Begriffe helfen erst, wenn sie an einer Entscheidung hängen. Leitplanken spielt vor allem in Kundenservice & Voice und KI-Assistenten & LLM-Plattformen eine Rolle. Dort sehen Sie, wie die geprüften Lösungen mit dem Punkt umgehen, jeweils mit Quelle und Stand-Datum.
Weiter im Glossar
Häufige Fragen
Lassen sich Leitplanken umgehen?
Eine einzelne Anweisung ja, ein Zusammenspiel aus Anweisung, Themenbegrenzung, Filtern und Abgaberegel deutlich schwerer. Testen Sie vor dem Start bewusst mit ungewöhnlichen Eingaben und dokumentieren Sie die Ergebnisse. Diese Prüfung gehört in jedes Einführungsprojekt.
Wer schreibt die Nutzungsregel?
Meist die Fachabteilung gemeinsam mit Datenschutz und, wo vorhanden, dem Betriebsrat. Eine Seite genügt, wenn sie konkret ist. Eine Regel, die niemand liest, wirkt nicht, deshalb gehört sie in die Unterweisung und nicht nur ins Intranet.