KI-Rundschau

Ollama

runtime · MIT (offen)

Standard-Runtime für lokale LLMs. Simple CLI + REST-API. Modell-Mgmt automatisch.

Kategorie
runtime
Lizenz
MIT
Wirklich offen?
✓ ja
Deutsche UI
— englisch
Docker-ready
✓ ja
Wartungslast
niedrig
Proxmox/LXC-Hinweise:

LXC mit GPU-Passthrough oder direkt im Host. Modell-Cache auf separater Disk anlegen.