Lokales KI Modell im Unternehmen Kärnten
Beratung mit klarem Fahrplan.

Für Textaufgaben – zusammenfassen, umformulieren, strukturieren, klassifizieren – reichen Modelle, die auf einem gut ausgestatteten Arbeitsplatzrechner oder einem kleinen Server laufen. Ein eigenes Rechenzentrum braucht es dafür nicht.

Die Grenzen liegen bei komplexem Schlussfolgern und bei sehr langen Dokumenten. Wer erwartet, dass ein lokales Modell dasselbe leistet wie der aktuelle Marktführer aus der Cloud, wird enttäuscht. Wer weiß, wofür er es einsetzt, meist nicht.

Lokale Modelle kosten Hardware und Einrichtungsaufwand, danach keine laufenden Nutzungsgebühren. Cloud-Dienste kosten wenig im Einstieg und dauerhaft pro Person und Monat.

Ab welcher Nutzerzahl sich das dreht, hängt vom Fall ab – und die Rechnung ist nur die halbe Wahrheit. Wenn ein Cloud-Werkzeug aus Vertraulichkeitsgründen ohnehin ausscheidet, gibt es keine Alternative zu vergleichen. Dann lautet die Frage nur noch, ob der Nutzen den Aufwand trägt.

Der Punkt, an dem solche Vorhaben scheitern, ist selten die Einrichtung. Es ist die Frage, wer Updates einspielt, wer bei Störungen zuständig ist und wer die Nutzer betreut, wenn nach drei Monaten Fragen aufkommen.

Wenn Sie einen Systempartner haben, gehört er von Anfang an mit an den Tisch. Ohne benannte Zuständigkeit rate ich ab – dann ist ein gut ausgewähltes Cloud-Werkzeug mit sauberem Vertrag die ehrlichere Empfehlung.