Anmelden Abonnieren

lokale KI

Lokale KI-Agenten: Eigene Hardware oder GPU-Cloud mieten?

Lokale KI-Agenten: Eigene Hardware oder GPU-Cloud mieten?

Ein KI-Agent braucht mehr Speicher als ein Chat, weil sein Kontext schnell wächst. Wir rechnen nach, wann eine eigene Grafikkarte reicht, ab wann GPU-Stunden in der Cloud günstiger sind und worauf du beim Datenschutz achten musst.

GGUF und Quantisierung verständlich erklärt: Q4, Q5, Q8 und der VRAM-Trick

GGUF und Quantisierung verständlich erklärt: Q4, Q5, Q8 und der VRAM-Trick

Auf einen Blick GGUF ist das heute dominierende Dateiformat für lokale Large Language Models. Die Quantisierung reduziert dabei die Dateigröße – und damit den VRAM-Bedarf – erheblich, kostet aber schrittweise Antwortqualität. Wer Q4_K_M statt Q8_0 wählt, spart rund die Hälfte des Speicherbedarfs bei kaum wahrnehmbarem Qualitätsverlust im Alltag. Für

RAG selbst bauen: Eigene Dokumente lokal und DSGVO-konform mit KI durchsuchen

RAG selbst bauen: Eigene Dokumente lokal und DSGVO-konform mit KI durchsuchen

Auf einen Blick RAG (Retrieval-Augmented Generation) laesst ein lokales Sprachmodell deine eigenen Dokumente durchsuchen und beantworten – ohne dass ein einziges Byte deine IT verlaesst. Mit AnythingLLM und Ollama ist das in ein bis zwei Stunden eingerichtet, auch ohne Programmierkenntnisse. Ergebnis: eine DSGVO-konforme KI-Dokumentensuche ueber interne Handbuecher, Vertraege oder die eigene

Llama vs. Qwen vs. Mistral vs. DeepSeek: Welches lokale KI-Modell für welchen Zweck?

Llama vs. Qwen vs. Mistral vs. DeepSeek: Welches lokale KI-Modell für welchen Zweck?

Auf einen Blick Es gibt kein universell bestes lokales KI-Modell 2026 – aber für jeden Zweck eine klar bessere Wahl. Kurz: Qwen2.5 ist die stärkste Wahl für Deutsch und Coding auf Consumer-Hardware, Llama 3.3 der Allrounder mit dem größten Ökosystem, Mistral die schlanke EU-Option, und DeepSeek R1 liefert starkes

Ollama vs. LM Studio vs. Open WebUI: Welches Tool für lokale KI 2026?

Ollama vs. LM Studio vs. Open WebUI: Welches Tool für lokale KI 2026?

Auf einen Blick Ollama, LM Studio und Open WebUI sind die meistgenutzten Tools, um große Sprachmodelle lokal – also ohne Cloud und ohne Datenweitergabe – zu betreiben. Ollama ist der technische Standard mit API und Serverbetrieb, LM Studio der komfortabelste Einstieg ohne Kommandozeile, und Open WebUI ergänzt Ollama um eine vollwertige Chat-Oberfläche

Lokale KI einrichten: Der komplette Einsteiger-Guide für DSGVO-konforme KI auf dem eigenen Rechner

Lokale KI einrichten: Der komplette Einsteiger-Guide für DSGVO-konforme KI auf dem eigenen Rechner

Auf einen Blick Lokale KI einrichten heißt: Ein Sprachmodell läuft vollständig auf deinem eigenen Rechner – kein Byte deiner Daten verlässt das Gerät. Damit betreibst du ein LLM lokal ohne Cloud, ohne API-Gebühren und ohne Datenweitergabe an Dritte. Der schnellste Weg dorthin ist Ollama: Installation, erstes Modell und Chat sind auf

Terminal-Befehlszeile mit dunklem Hintergrund — Symbolbild für lokale KI-Installation

Llama 3.3 lokal installieren — Windows, Mac, Linux (Schritt für Schritt)

Auf einen Blick Llama 3.3 kann mit Ollama auf Windows, Mac und Linux lokal installiert werden. Die Anleitung umfasst Hardware-Empfehlungen, Troubleshooting und die Einrichtung von OpenWebUI. KategorieKI-Modelle lokal ausführenLesezeit10 MinZielgruppeKI-Interessierte mit grundlegenden ComputerkenntnissenSchwierigkeitEinsteigerStand2026-09QuellenAnleitung 🟡 Level: Fortgeschritten — alle Fortgeschritten-Artikel im Lernpfad Nächster Schritt (Profi) → Llama 3.3 70B lokal in 1

× 📊 KI-Reality-Check
Wie nutzt der Mittelstand wirklich KI? 2 Min, anonym. Jetzt mitmachen →