Self-Hosting für lokale KI
Welche Software fährst du selbst — auf eigener Hardware oder Proxmox? Kuratiert mit Lizenz-Transparenz (echtes Open-Source vs. Sustainable-Use), Docker-Reife, Wartungslast und konkreten Proxmox-LXC-Hinweisen aus Praxis.
Observability / Eval
| App | Lizenz | Wirklich offen? | DE-UI | Docker | Wartungslast |
|---|---|---|---|---|---|
| Langfuse | MIT | ✓ | — | ✓ | mittel |
Orchestrierung / Workflows
| App | Lizenz | Wirklich offen? | DE-UI | Docker | Wartungslast |
|---|---|---|---|---|---|
| Flowise | Apache-2.0 | ✓ | — | ✓ | niedrig |
| LiteLLM Proxy | MIT | ✓ | — | ✓ | niedrig |
| n8n | Sustainable Use License | ⚠ | ✓ | ✓ | mittel |
Runtime / Inferenz-Server
| App | Lizenz | Wirklich offen? | DE-UI | Docker | Wartungslast |
|---|---|---|---|---|---|
| Ollama | MIT | ✓ | — | ✓ | niedrig |
| Qdrant | Apache-2.0 | ✓ | — | ✓ | niedrig |
| llama.cpp | MIT | ✓ | — | ✓ | mittel |
| vLLM | Apache-2.0 | ✓ | — | ✓ | mittel |
UI / Chat-Frontend
| App | Lizenz | Wirklich offen? | DE-UI | Docker | Wartungslast |
|---|---|---|---|---|---|
| AnythingLLM | MIT | ✓ | ✓ | ✓ | niedrig |
| LM Studio | proprietary | ⚠ | — | — | niedrig |
| Oobabooga Text-Generation-WebUI | AGPL-3.0 | ✓ | — | ✓ | hoch |
| OpenWebUI | MIT | ✓ | ✓ | ✓ | niedrig |