Drei unterschiedliche Vorfälle vorbereiten

«Die KI funktioniert nicht» kann bedeuten, dass keine Antwort erscheint, fachlich falsche Antworten entstehen oder unerwünschte Änderungen in einem anderen System stattfinden. Diese Situationen verlangen unterschiedliche Reaktionen. Ein Neustart kann bei einem technischen Hänger helfen, bei fehlerhaften Buchungen aber weitere Schäden verursachen.

Legen Sie deshalb mindestens einen Ablauf für Nichtverfügbarkeit und einen für unerwartete Aktionen fest. Bei einem Informationsassistenten ist zudem ein Fall für systematisch falsche oder fremde Inhalte sinnvoll. Die Agentur sollte erklären, woran das Team die Situationen unterscheidet und wer eingreifen darf.

Die NCSC-Leitlinie zur sicheren KI-Bereitstellung behandelt vorbereitete Vorfallprozesse als Teil der Einführung. Daraus folgt für Ihre Abnahme eine praktische Frage: Kann eine benannte Person den vereinbarten Ablauf tatsächlich ausführen?

Ein Runbook ist eine Arbeitsanweisung

Ein allgemeines Betriebshandbuch erklärt die Anwendung. Ein Runbook führt durch eine konkrete Situation. Es muss auch dann verständlich sein, wenn die Person unter Zeitdruck steht und nicht selbst programmiert hat. Beschreiben Sie deshalb erkennbare Auslöser und überprüfbare Ergebnisse einzelner Schritte.

AWS beschreibt Runbooks als dokumentierte Abläufe mit Voraussetzungen, Fehlerbehandlung und Verantwortlichen. Für ein KMU empfehlen wir eine kurze erste Seite und verlinkte technische Details innerhalb der eigenen Dokumentation. Die Notfallanweisung sollte erreichbar bleiben, wenn gerade die KI-Oberfläche ausfällt.

Notieren Sie keine geheimen Zugangsdaten im Dokument. Verweisen Sie auf den geregelten Zugang und prüfen Sie, ob die vorgesehenen Personen ihn besitzen. Eine Anweisung, die nur ein abwesender Administrator ausführen kann, ist im Ernstfall wenig brauchbar.

Eine Vorlage mit sieben Feldern

Die folgende Struktur ist ein Vorschlag für die Zusammenarbeit mit der Agentur. Sie wird je Vorfall ausgefüllt und gemeinsam geübt.

• Auslöser: Welche Beobachtung startet diesen Ablauf, und welche Informationen werden zuerst geprüft?

• Zuständigkeit: Wer leitet den Vorfall, wer vertritt diese Person und wer entscheidet über das Abschalten?

• Begrenzung: Welche Funktion wird pausiert, und wie wird die erfolgreiche Pause erkannt?

• Ersatzarbeit: Welche Aufgaben kann das Team manuell übernehmen, ohne doppelte Aktionen zu erzeugen?

• Nachweis: Welche Vorgangskennungen und technischen Ereignisse werden gesichert?

• Kommunikation: Wer informiert betroffene Mitarbeitende über Einschränkung und nächsten Status?

• Wiederanlauf: Welche Prüfungen und Freigaben sind vor der erneuten Aktivierung erforderlich?

Jeder Schritt braucht eine klare Abbruch- oder Eskalationsbedingung. «Bei Problemen IT kontaktieren» reicht nicht, wenn unklar bleibt, welcher Kontakt ausserhalb der üblichen Arbeitszeit erreichbar ist. Vereinbaren Sie erreichbare Zeiten ehrlich statt eine nicht organisierte Rundumbetreuung zu suggerieren.

Ein fiktiver Vorfall mit einer Auftragsassistenz

Angenommen, eine KI bereitet Aufträge vor, die nach Freigabe an ein ERP übermittelt werden. Das Team bemerkt doppelte Aufträge. Der erste Schritt im Runbook lautet, weitere schreibende Übermittlungen über die vorgesehene Betriebsfunktion zu pausieren. Eine reine Ausblendung des Chatfensters genügt nicht, wenn Hintergrundaufträge weiterlaufen.

Anschliessend werden betroffene Vorgangskennungen gesammelt. Bereits bestätigte Aufträge werden mit dem ERP abgeglichen, offene Vorgänge erhalten einen eindeutigen Klärungsstatus. Das Team beginnt nicht wahllos von vorn, weil dadurch weitere Duplikate entstehen könnten.

Für den Wiederanlauf wird zunächst ein kontrollierter Testauftrag verarbeitet. Danach prüft eine zweite verantwortliche Person, ob genau eine bestätigte Änderung vorliegt. Diese Schritte sind ein Beispiel, keine Anleitung für ein bestimmtes ERP und kein Ersatz für dessen betriebliche Freigaben.

Die Übung ist Teil der Lieferung

Lassen Sie eine Person, die das Runbook nicht geschrieben hat, einen ungefährlichen simulierten Vorfall in der Testumgebung bearbeiten. Die Agentur beobachtet, ohne sofort jede Lücke mündlich zu füllen. Unklare Bezeichnungen, fehlende Rechte und nicht erreichbare Kontakte werden danach im Dokument korrigiert.

Messen Sie dabei nicht nur die Zeit bis zum technischen Neustart. Entscheidend ist auch, wann das Team weiss, welche Arbeit verloren ging, doppelt vorliegt oder noch wartet. Erst dieser Überblick ermöglicht eine kontrollierte Rückkehr in den Alltag.

Ordnen Sie das Runbook in Ihre Zuständigkeiten für den KI-Betrieb ein und benennen Sie einen Termin zur erneuten Prüfung nach wesentlichen Änderungen. Mit einclick als Partner für KI-Umsetzung können Sie die notwendigen Störfallszenarien bereits im Projektumfang festhalten.