Anmelden Abonnieren

Florian Neuhuber

Österreich

Beschäftigt sich seit Jahren mit IT-Infrastruktur und betreibt einen Proxmox-Cluster mit 80+ Diensten. Schreibt auf KI-Rundschau über KI für den DACH-Mittelstand — anti-Hype, praxisnah.

KI-Agenten für KMU 2026 — der praktische Einstieg vom ersten Use-Case bis zum laufenden Betrieb

KI-Agenten für KMU 2026 — der praktische Einstieg vom ersten Use-Case bis zum laufenden Betrieb

Ein KI-Agent ist ein Softwaresystem, das eigenständig Aufgaben plant, Werkzeuge aufruft und Zwischenergebnisse bewertet, um ein Ziel zu erreichen. Für KMU

GGUF und Quantisierung verständlich erklärt: Q4, Q5, Q8 und der VRAM-Trick

GGUF und Quantisierung verständlich erklärt: Q4, Q5, Q8 und der VRAM-Trick

Auf einen Blick GGUF ist das heute dominierende Dateiformat für lokale Large Language Models. Die Quantisierung reduziert dabei die Dateigröße – und damit den VRAM-Bedarf – erheblich, kostet aber schrittweise Antwortqualität. Wer Q4_K_M statt Q8_0 wählt, spart rund die Hälfte des Speicherbedarfs bei kaum wahrnehmbarem Qualitätsverlust im Alltag. Für

RAG selbst bauen: Eigene Dokumente lokal und DSGVO-konform mit KI durchsuchen

RAG selbst bauen: Eigene Dokumente lokal und DSGVO-konform mit KI durchsuchen

Auf einen Blick RAG (Retrieval-Augmented Generation) laesst ein lokales Sprachmodell deine eigenen Dokumente durchsuchen und beantworten – ohne dass ein einziges Byte deine IT verlaesst. Mit AnythingLLM und Ollama ist das in ein bis zwei Stunden eingerichtet, auch ohne Programmierkenntnisse. Ergebnis: eine DSGVO-konforme KI-Dokumentensuche ueber interne Handbuecher, Vertraege oder die eigene

Llama vs. Qwen vs. Mistral vs. DeepSeek: Welches lokale KI-Modell für welchen Zweck?

Llama vs. Qwen vs. Mistral vs. DeepSeek: Welches lokale KI-Modell für welchen Zweck?

Auf einen Blick Es gibt kein universell bestes lokales KI-Modell 2026 – aber für jeden Zweck eine klar bessere Wahl. Kurz: Qwen2.5 ist die stärkste Wahl für Deutsch und Coding auf Consumer-Hardware, Llama 3.3 der Allrounder mit dem größten Ökosystem, Mistral die schlanke EU-Option, und DeepSeek R1 liefert starkes

Ollama vs. LM Studio vs. Open WebUI: Welches Tool für lokale KI 2026?

Ollama vs. LM Studio vs. Open WebUI: Welches Tool für lokale KI 2026?

Auf einen Blick Ollama, LM Studio und Open WebUI sind die meistgenutzten Tools, um große Sprachmodelle lokal – also ohne Cloud und ohne Datenweitergabe – zu betreiben. Ollama ist der technische Standard mit API und Serverbetrieb, LM Studio der komfortabelste Einstieg ohne Kommandozeile, und Open WebUI ergänzt Ollama um eine vollwertige Chat-Oberfläche

Lokale KI einrichten: Der komplette Einsteiger-Guide für DSGVO-konforme KI auf dem eigenen Rechner

Lokale KI einrichten: Der komplette Einsteiger-Guide für DSGVO-konforme KI auf dem eigenen Rechner

Auf einen Blick Lokale KI einrichten heißt: Ein Sprachmodell läuft vollständig auf deinem eigenen Rechner – kein Byte deiner Daten verlässt das Gerät. Damit betreibst du ein LLM lokal ohne Cloud, ohne API-Gebühren und ohne Datenweitergabe an Dritte. Der schnellste Weg dorthin ist Ollama: Installation, erstes Modell und Chat sind auf

Lokale KI Hardware-Guide 2026: GPU, VRAM, RAM und Mini-PC richtig wählen

Lokale KI Hardware-Guide 2026: GPU, VRAM, RAM und Mini-PC richtig wählen

Auf einen Blick: Lokale KI steht und fällt mit dem verfügbaren VRAM – nicht mit CPU-Takt oder RAM-Geschwindigkeit. Ein 7B-Modell läuft quantisiert in 6–8 GB VRAM, ein 70B-Modell braucht mindestens 40 GB. Wer kein Budget für eine dedizierte GPU hat, fährt mit Apple Silicon (dank Unified Memory) oder einem gut

× 📊 KI-Reality-Check
Wie nutzt der Mittelstand wirklich KI? 2 Min, anonym. Jetzt mitmachen →