Eine Warnung ist noch keine Obergrenze

In einer Offerte steht «Budgetkontrolle inklusive». Fragen Sie nach, was damit gemeint ist. Vielleicht wird lediglich eine E-Mail verschickt, wenn ein gemeldeter Verbrauch einen Schwellenwert erreicht. Vielleicht blockiert die Anwendung weitere Aufträge. Diese beiden Funktionen haben sehr unterschiedliche Auswirkungen.

Lassen Sie auch erklären, wie aktuell die Verbrauchsdaten sind. Wenn ein Dienst Kosten verzögert meldet, kann ein Alarm später eintreffen als der tatsächliche Verbrauch. Eine pauschale Zusage, dass ein bestimmter Rechnungsbetrag niemals überschritten werde, wäre ohne entsprechend durchgesetzte Bedingungen nicht belastbar.

OWASP beschreibt unbegrenzte KI-Nutzung als Risiko für Ressourcen und Budget und nennt unter anderem Quoten sowie Eingabe- und Zeitlimits. Für Ihr Projekt ist entscheidend, welche dieser Grenzen zur Aufgabe passen und technisch wirksam sind.

Den Verbrauch auf die Arbeit beziehen

Ein Modellaufruf ist selten die gesamte Anwendung. Ein Auftrag kann Dokumentverarbeitung, Suche, mehrere Modellschritte und zusätzliche Werkzeuge auslösen. Wenn nur der erste Aufruf gezählt wird, bleibt ein grosser Teil des Vorgangs unsichtbar.

Definieren Sie deshalb eine fachliche Verbrauchseinheit, beispielsweise eine bearbeitete Anfrage oder ein geprüftes Dokument. Erfassen Sie darin die relevanten technischen Schritte, soweit die Anbieter Messwerte bereitstellen. Kennzeichnen Sie Schätzungen ausdrücklich und stimmen Sie deren Grenzen mit der Agentur ab.

Trennen Sie ausserdem normale Nutzung von Wiederholungen und technischen Fehlern. Ein stark steigender Verbrauch kann aus mehr Geschäft entstehen oder aus einer fehlerhaften Schleife. Die Massnahme unterscheidet sich: Beim ersten Fall geht es um Kapazität und Nutzen, beim zweiten um Fehlerbehebung.

Vier Ebenen für Grenzen

Unser Vorschlag ist, mehrere verständliche Grenzen zu kombinieren. Ein einzelnes Monatsbudget lässt beispielsweise einen unkontrolliert langen Vorgang zunächst weiterlaufen. Eine reine Grenze pro Anfrage verhindert umgekehrt keine sehr hohe Anzahl kurzer Aufträge.

• Pro Eingabe: zulässige Dateigrösse, Seitenzahl oder Textmenge.

• Pro Vorgang: maximale Laufzeit, Zahl der Schritte und Wiederholungen.

• Pro Nutzer oder Bereich: Anzahl gleichzeitig laufender und wartender Aufträge.

• Pro Zeitraum: gemessener oder konservativ geschätzter Verbrauch mit definiertem Warn- und Stoppverhalten.

Welche Werte sinnvoll sind, hängt vom Prozess ab. Schreiben Sie nicht einfach dieselben Grenzen für eine kurze Wissensfrage und eine mehrseitige Dokumentanalyse vor. Sonst wird entweder die kleine Aufgabe unnötig grosszügig oder die grosse Aufgabe unbrauchbar begrenzt.

Ein fiktiver Kontrolltest

Angenommen, ein Unternehmen verwendet für einen Test ein internes Kontingent von 100 Verarbeitungseinheiten. Diese Einheiten sind eine frei erfundene Steuerungsgrösse, kein Anbieterpreis und kein CHF-Betrag.

Bei 80 Einheiten soll die zuständige Person eine Warnung erhalten. Bei 100 werden neue aufwendige Aufträge zurückgestellt. Bereits laufende Aufgaben dürfen nur nach einer ausdrücklich vereinbarten Regel weiterlaufen; sie können sonst das gewünschte Gesamtlimit überschreiten.

Die Agentur demonstriert drei Fälle: eine einzelne zu grosse Eingabe, mehrere parallele Aufträge und eine künstlich ausgelöste Wiederholungsschleife. Im Bericht steht, welche Grenze jeweils reagiert hat, was mit offenen Arbeiten geschieht und welche Restunsicherheit bei der Verbrauchsermittlung bleibt.

Testen Sie die Grenze auch mit gleichzeitig eintreffenden Aufträgen. Eine Prüfung, die nur nacheinander korrekt zählt, kann unter Parallelität mehr freigeben als geplant. Dieser technische Nachweis gehört zur Umsetzung und muss nicht vom Fachteam programmiert werden.

Wichtige Funktionen verfügbar halten

Ein vollständiger Stopp aller Funktionen ist nicht immer sinnvoll. Vielleicht sollen einfache Auskünfte weiter möglich sein, während teure Stapelaufträge warten. Microsofts Bulkhead-Muster beschreibt die Trennung von Ressourcen, um die Auswirkungen einer Überlastung zu begrenzen.

Übertragen Sie diese Idee nur dort, wo sie einen klaren geschäftlichen Nutzen hat. Zusätzliche getrennte Kontingente schaffen auch Verwaltungsaufwand. Die Agentur sollte erklären, welche einfache Lösung Ihre kritischen Aufgaben ausreichend schützt.

Legen Sie fest, wer eine Grenze vorübergehend erhöhen darf und wie lange diese Ausnahme gilt. Ein unbegrenzt stehen gebliebener Notfallwert macht die ursprüngliche Kontrolle wirkungslos. Jede Ausnahme braucht deshalb einen Anlass, eine verantwortliche Person und ein Ende.

Für die Budgetplanung ergänzt dieser Ansatz unseren Beitrag zu Kosten eines internen KI-Assistenten. Mit einclick als KI-Umsetzungspartner können Sie wirtschaftliche Ziele in konkrete, testbare Betriebsgrenzen übersetzen.