Was mit Corporate LLM gemeint ist

Der Begriff Corporate LLM wird unterschiedlich verwendet. Gemeint sein kann ein geschützter Zugang zu einem Sprachmodell, ein Assistent mit Unternehmensdokumenten oder eine individuell betriebene Modellumgebung. Diese Lösungen haben unterschiedliche Kostenprofile.

Definieren Sie deshalb zuerst die Leistung: Sollen Mitarbeitende Texte formulieren, internes Wissen durchsuchen oder Aktionen in Fachsystemen auslösen? Je mehr die Anwendung in Prozesse eingreift, desto wichtiger werden Berechtigungen, Tests und Fehlerbehandlung.

Einmalige und laufende Kosten trennen

Einmalig entstehen typischerweise Aufwände für Anforderungsaufnahme, Datenaufbereitung, Anbindung, Oberfläche, Tests und Einführung. Bereits vorhandene Komponenten können Aufwand sparen. Sie müssen trotzdem für den konkreten Einsatz geprüft werden.

Laufend fallen je nach Architektur Lizenzen, Modellnutzung, Suchindex, Speicher und Infrastruktur an. Hinzu kommen Betreuung, Datenpflege und fachliche Kontrolle. Planen Sie auch den Umgang mit Änderungen: Ein neues Dokumentformat oder eine aktualisierte Schnittstelle kann Anpassungen verlangen.

Eine Firmen-KI mit eigenen Informationen nutzt häufig RAG. Die technische Übersicht von Microsoft zeigt, dass dazu neben dem Modell auch Datenzugriff und Suche gehören. Diese Komponenten sollten im Budget sichtbar bleiben.

Nutzung realistisch modellieren

Die Zahl der Mitarbeitenden allein reicht nicht. Schätzen Sie aktive Nutzer, Anfragen pro Tag, Eingabeumfang, Antwortlänge und zusätzliche Such- oder Werkzeugaufrufe. Eine kurze Umformulierung beansprucht andere Ressourcen als eine mehrstufige Recherche in langen Dokumenten.

Rechnen Sie mindestens ein niedrigeres, ein erwartetes und ein höheres Nutzungsszenario. Setzen Sie dafür aktuelle Konditionen der tatsächlich gewählten Anbieter ein. Dieser Beitrag nennt bewusst keine vermeintlich dauerhaften Modellpreise: Tarife und Abrechnungsregeln ändern sich.

Eine Modellrechnung ohne versteckte Annahmen

Angenommen, 40 Mitarbeitende stellen an 20 Arbeitstagen jeweils acht Anfragen. Das ergibt 6’400 Anfragen im Monat. Unterstellen wir für dieses frei gewählte Rechenbeispiel technische variable Kosten von CHF 0.03 pro Anfrage, wären das CHF 192.

Kommen monatlich CHF 250 für Suche und Infrastruktur sowie CHF 600 für Betreuung hinzu, betragen die laufenden externen Kosten CHF 1’042. Acht interne Stunden zu angenommenen CHF 80 erhöhen die wirtschaftlichen Betriebskosten auf CHF 1’682.

Bei einmalig CHF 24’000 Einführungskosten läge das erste Jahr unter diesen Annahmen bei CHF 44’184. Das ist keine Offerte, keine Anbieterpreisliste und keine Prognose. Die Rechnung zeigt, weshalb ein niedriger Anfragepreis nicht automatisch ein niedriges Gesamtbudget bedeutet.

Cloud und eigener Betrieb vergleichen

Beim eigenen Betrieb kaufen Sie mehr Kontrolle, übernehmen aber auch Aufgaben für Infrastruktur, Aktualisierung und Verfügbarkeit. In der Cloud verschieben sich viele dieser Aufgaben zum Anbieter; Vertrags-, Zugriffs- und Datenfragen bleiben trotzdem relevant.

Vergleichen Sie deshalb denselben Leistungsumfang. Enthält eine Variante bereits Betreuung, während die andere nur Hardware oder reine API-Nutzung ausweist, sind die Summen nicht vergleichbar. Bei externen Verarbeitern helfen die EDÖB-Erläuterungen zum Outsourcing, die Verantwortlichkeiten einzuordnen.

Kosten pro brauchbarem Ergebnis messen

Eine fehlgeschlagene Anfrage kann billig sein und trotzdem viel Nacharbeit verursachen. Erfassen Sie deshalb, wie häufig ein Ergebnis ohne wesentliche Korrektur genutzt werden kann. Dazu gehört die Zeit für Prüfung und Rückfragen.

Ein Assistent, der jede Frage beantwortet, aber häufig nachgeprüft werden muss, kann wirtschaftlich schlechter abschneiden als ein begrenztes System mit zuverlässiger Übergabe an eine Fachperson. Genau diese Abwägung vertieft unser Beitrag zum KI-ROI.

Welche Budgetfreigabe sinnvoll ist

Geben Sie zunächst einen klar abgegrenzten Umfang frei und vereinbaren Sie einen Messpunkt. Nach dem Pilot sollten tatsächliche Nutzung, Fehlerbilder und Betreuungsaufwand die ursprünglichen Annahmen ersetzen.

Unsere KI-Beratung für Schweizer KMU verbindet diese Kalkulation mit der Frage, welche Datenbasis und Betriebsform zu Ihrem Unternehmen passen.