OpenWebUI
Tools & Plattformen
OpenWebUI — Web-Frontend für lokale Modelle — sieht aus wie ChatGPT, läuft zuhause.
Beispiel
Du startest Ollama im Hintergrund und greifst über OpenWebUI im Browser drauf zu — wie ChatGPT, nur lokal.
Mehr im Glossar
OpenWebUI ist eine Open-Source-Oberfläche, die es Unternehmen ermöglicht, große Sprachmodelle wie Llama oder Mistral über einen Webbrowser zu nutzen, ohne dass die Daten das eigene Rechenzentrum verlassen müssen.
In einfachen Worten
Stellen Sie sich OpenWebUI wie eine firmeneigene, webbasierte Chat-Anwendung vor, die ausschließlich auf Ihren eigenen Servern läuft. Anders als bei öffentlichen Diensten wie ChatGPT speichern Sie keine Daten bei einem externen Anbieter. Ihre Mitarbeiter öffnen einfach einen Browser, geben eine Frage ein, und das Modell antwortet – ähnlich wie bei einem internen Wiki oder Helpdesk, nur dass die Antworten von einer KI stammen. Die Software ist kostenlos, aber Sie müssen selbst für die Rechenleistung (GPU) sorgen.
Was bedeutet das technisch
OpenWebUI ist eine Webanwendung, die als grafische Benutzeroberfläche für verschiedene große Sprachmodelle dient. Technisch besteht sie aus einem Frontend (HTML, CSS, JavaScript) und einem Backend (Python mit FastAPI). Die Software kommuniziert über standardisierte Schnittstellen (APIs) mit den eigentlichen KI-Modellen, die auf einem separaten Server oder in der Cloud laufen.
Die Besonderheit: OpenWebUI unterstützt mehrere Modelle gleichzeitig und erlaubt den Wechsel zwischen ihnen während einer Unterhaltung. Es verwaltet Konversationsverläufe, speichert diese in einer lokalen Datenbank und bietet Funktionen wie Dokumentenanalyse (RAG – Retrieval-Augmented Generation), bei der das Modell zusätzlich in firmeneigenen PDFs oder Textdateien suchen kann. Die Installation erfolgt typischerweise über Docker-Container, was den Aufwand für IT-Abteilungen reduziert. Wichtig: Die Software selbst ist schlank, die eigentliche Rechenlast entsteht durch das KI-Modell, das oft mehrere tausend Euro teure Grafikkarten benötigt.
Warum es für KMU relevant ist
Für kleine und mittlere Unternehmen bietet OpenWebUI einen direkten Weg, KI im eigenen Haus zu nutzen, ohne monatliche Lizenzgebühren an Cloud-Anbieter zu zahlen. Typische Anwendungsfälle sind:
- Interner Chatbot für Dokumentation: Ein Handwerksbetrieb lädt seine Montageanleitungen und Ersatzteillisten hoch. Monteure fragen dann per Chat: „Welches Bauteil brauche ich für die Reparatur der Maschine X?“ – die Antwort kommt aus den eigenen Daten.
- Datenschutzkonforme Textverarbeitung: Eine Steuerberatungskanzlei lässt Entwürfe für Schreiben oder Zusammenfassungen von Mandantenakten erstellen, ohne dass vertrauliche Informationen das Firmennetz verlassen.
- Kostenkontrolle: Statt pro Nutzer und Monat zu zahlen, investiert das KMU einmalig in Hardware (z.B. eine Workstation mit 24 GB VRAM für ca. 3.000 Euro) und betreibt die Software selbst. Bei 10 aktiven Nutzern amortisiert sich das oft innerhalb eines Jahres.
Risiken: Die Einrichtung erfordert Grundkenntnisse in Docker und Linux. Ohne eigene GPU ist die Antwortgeschwindigkeit langsam (30 Sekunden statt 2 Sekunden). Zudem müssen Updates und Sicherheitspatches selbst verwaltet werden. Für Unternehmen ohne IT-Abteilung empfiehlt sich daher ein Managed-Dienst oder eine Partnerschaft mit einem lokalen Systemhaus.
Kommentare ()