Vier Bausteine getrennt betrachten

Eine Firmen-KI besteht häufig aus Oberfläche, Dokumentenspeicher, Suchindex und Sprachmodell. Diese Teile können an unterschiedlichen Orten betrieben werden. Zeichnen Sie deshalb den vollständigen Datenweg auf, bevor Sie Angebote vergleichen.

Eine lokale Benutzeroberfläche bedeutet beispielsweise nicht, dass das Sprachmodell lokal läuft. Werden Ausschnitte an einen externen Modelldienst geschickt, verlassen diese Informationen die eigene Umgebung. Umgekehrt kann ein Cloud-Angebot vertraglich und technisch eng begrenzte Datenverarbeitung ermöglichen.

Wann eine verwaltete Cloud passt

Eine verwaltete Lösung kann sinnvoll sein, wenn das Unternehmen rasch starten möchte und wenig eigene Betriebskapazität hat. Updates, Infrastruktur und Skalierung können teilweise beim Anbieter liegen.

Prüfen Sie trotzdem die konkrete Aufgabenteilung. Wer konfiguriert Zugriffe? Wer untersucht fehlerhafte Antworten? Wer löscht Daten aus Suchindex und Protokollen? Diese Aufgaben verschwinden nicht, nur weil ein Dienst extern betrieben wird.

Wann eigener Betrieb sinnvoll sein kann

Eigener Betrieb kann bei strengen technischen Anforderungen, vorhandener Infrastruktur oder besonderem Integrationsbedarf passen. Er verlangt jedoch ein Team oder einen Partner, der Updates, Sicherheit, Backups und Störungen dauerhaft betreut.

On-Premise ist keine automatische Qualitäts- oder Datenschutzgarantie. Ein lokal betriebenes Modell muss die fachliche Aufgabe ausreichend gut lösen. Auch dort können übermässige Rechte, fehlende Updates oder unsaubere Protokolle Probleme verursachen.

Die Entscheidungsmatrix

Bewerten Sie beide Varianten anhand desselben Anwendungsfalls. Verwenden Sie nachvollziehbare Nachweise statt allgemeiner Produktversprechen.

• Daten: Welche Informationen gehen an welche Stellen?

• Qualität: Wie gut löst das Modell die eigenen Testfragen?

• Betrieb: Wer reagiert bei Ausfall oder Sicherheitsproblem?

• Integration: Welche Systeme müssen erreichbar sein?

• Kosten: Was kostet die Lösung inklusive interner Arbeit?

• Wechsel: Wie lassen sich Daten und Konfiguration exportieren?

Gewichten Sie die Kriterien gemeinsam mit Fachbereich und IT. Ein zwingendes Ausschlusskriterium sollte nicht durch gute Werte in anderen Kategorien rechnerisch verschwinden.

Datenschutz anhand des Datenflusses prüfen

Bei Personendaten bleibt das verantwortliche Unternehmen auch bei einer Auslagerung in der Pflicht. Der EDÖB zur Auftragsdatenbearbeitung erläutert die Anforderungen an Auswahl, Vereinbarung und Kontrolle der beauftragten Stellen.

Klären Sie insbesondere Unterauftragnehmer, Bearbeitungsorte, Zugriffsmöglichkeiten und die Löschung. Eine Aussage wie «kein Training mit Ihren Daten» beantwortet noch nicht, wie lange Eingaben für Betrieb oder Fehleranalyse gespeichert werden.

Gesamtkosten statt Serverpreis

Rechnen Sie Einrichtung, Lizenzen, Modellnutzung, Speicher, Überwachung und Betreuung zusammen. Beim eigenen Betrieb kommen beispielsweise Hardware, Ersatz, Updates und Bereitschaft hinzu.

Die AWS-Leitlinien zur Kostenoptimierung behandeln Kosten als fortlaufende Betriebsaufgabe. Für Ihre Auswahl heisst das: Vergleichen Sie nicht nur den Startmonat, sondern einen realistischen Nutzungszeitraum und mehrere Lastszenarien.

Ein kleiner Vergleichstest

Nehmen Sie denselben freigegebenen Dokumentensatz und dieselben Fragen für beide Varianten. Messen Sie Antwortqualität, Wartezeit und Aufwand zur Fehlerbehebung. Prüfen Sie zusätzlich einen Ausfall und die Wiederherstellung.

Unser Beitrag zu den Kosten eines Corporate LLM hilft bei der Kalkulation. Unsere KI-Beratung in der Schweiz unterstützt die Auswahl anhand Ihrer Daten und betrieblichen Möglichkeiten.