Anmelden Abonnieren
Florian Neuhuber

Florian Neuhuber

Österreich
Beschäftigt sich seit Jahren mit IT-Infrastruktur und betreibt einen Proxmox-Cluster mit 80+ Diensten. Schreibt auf KI-Rundschau über KI für den DACH-Mittelstand — anti-Hype, praxisnah.
VRAM

VRAM

Auf einen Blick VRAM (Video Random Access Memory) ist der dedizierte Speicher einer Grafikkarte, der für lokale KI-Modelle entscheidend ist. Je mehr VRAM, desto größere Modelle können ausgeführt werden. Bei zu wenig VRAM kommt es zu Abstürzen oder extrem langsamer Verarbeitung. KategorieHardware-GlossarLesezeit8 MinZielgruppeKI-Enthusiasten, Self-Hoster, EntwicklerSchwierigkeitFortgeschrittenStand2026-05QuellenTechnische Dokumentation, Benchmark-Daten Lokale KI &
Florian Neuhuber
Quantisierung

Quantisierung

Auf einen Blick Quantisierung reduziert die Modellgröße durch Verwendung weniger präziser Zahlen, was zu schnellerer Ausführung und geringerem RAM-Bedarf führt. Besonders nützlich für lokale KI und Self-Hosting. KategorieTechnikLesezeit8 MinZielgruppeKI-Entwickler und Self-HosterSchwierigkeitFortgeschrittenStand2026-05QuellenFachartikel Lokale KI & Self-Hosting Quantisierung — Modell-Größe reduzieren durch weniger genaue Zahlen — schneller, weniger RAM. Beispiel Ein 70B-Mod
Florian Neuhuber
GGUF

GGUF

Auf einen Blick GGUF ist ein Dateiformat zur Speicherung quantisierter KI-Modelle, das sich als Standard für lokale Inferenz etabliert hat. Es wird von Tools wie Ollama und LM Studio unterstützt und ermöglicht effizientes Self-Hosting. KategorieTechnologieLesezeit8 MinZielgruppeKI-Entwickler und Self-Hosting-EnthusiastenSchwierigkeitFortgeschrittenStand2026-05QuellenDokumentation und Community-Ressourcen Lokale KI & Self-Hosting GGUF — Dateiformat für quantisierte Modelle — der
Florian Neuhuber
Self-Hosting

Self-Hosting

Auf einen Blick Self-Hosting bedeutet, Software auf eigener Infrastruktur zu betreiben statt bei einem externen Anbieter. Dies bietet mehr Kontrolle über Daten und Anpassungsmöglichkeiten, erfordert aber technisches Know-how und Eigenverantwortung für Wartung und Sicherheit. KategorieGlossarLesezeit5 MinZielgruppeTechnikinteressierte, die mehr über dezentrale IT-Infrastruktur erfahren möchtenSchwierigkeitEinsteigerStand2026-05QuellenFachartikel Lokale KI & Self-Hosting Self-Host
Florian Neuhuber
Lokale KI

Lokale KI

Auf einen Blick Lokale KI bezieht sich auf KI-Modelle, die auf eigener Hardware laufen, ohne Cloud-Anbindung. Dies bietet Datenschutz, geringe Latenz und Unabhängigkeit von Internetverbindungen. Self-Hosting ermöglicht volle Kontrolle über Daten und Modellkonfiguration. KategorieKI-GrundlagenLesezeit8 MinZielgruppeTechnikinteressierte, Entwickler, DatenschutzbewussteSchwierigkeitFortgeschrittenStand2026-05QuellenFachartikel, Community-Ressourcen Lokale KI & Self-Hosting Lokale KI
Florian Neuhuber
Chain-of-Thought

Chain-of-Thought

Auf einen Blick Chain-of-Thought (CoT) ist eine Technik, bei der KI-Modelle ihre Denkschritte explizit formulieren, um logische Aufgaben besser zu lösen. Fortgeschrittene Varianten wie Tree-of-Thoughts oder ReAct verbessern die Fähigkeit von KI-Agenten, komplexe Probleme schrittweise zu bearbeiten. KategorieKI-TechnikLesezeit10 MinZielgruppeKI-Entwickler, fortgeschrittene NutzerSchwierigkeitFortgeschrittenStand2026-05QuellenFachartikel, Forschungspapiere Agenten & Fortgeschrittenes
Florian Neuhuber
System Prompt

System Prompt

Auf einen Blick Ein System Prompt ist eine unsichtbare Anweisung, die das Verhalten eines KI-Assistenten festlegt. Er definiert Persönlichkeit, Wissen und Regeln, ohne dass der Nutzer ihn sieht. KategorieGlossarLesezeit8 MinZielgruppeKI-Entwickler und fortgeschrittene NutzerSchwierigkeitFortgeschrittenStand2026-05QuellenFachartikel Agenten & Fortgeschrittenes System Prompt — Die unsichtbare Anweisung, die das Verhalten eines KI-Assistenten festlegt. Beispiel Ein Customer-Se
Florian Neuhuber
× 📊 KI-Reality-Check
Wie nutzt der Mittelstand wirklich KI? 2 Min, anonym. Jetzt mitmachen →