DreamServer
Light-Heart-Labs
Ein-Befehl-Installer, der deine eigene Maschine in einen privaten KI-Server verwandelt (LLM, Voice, RAG, Bildgenerierung).
Was ist DreamServer?
Ein Ein-Befehl-Installer und -Orchestrator, der eine private Linux-, Windows- (über WSL2/Docker) oder Apple-Silicon-Maschine in einen privaten, self-hosted KI-Server verwandelt. Er bündelt und verdrahtet Open-Source-Komponenten: llama.cpp für Inference, Open WebUI Chat, Whisper STT und Kokoro TTS, n8n-Workflows, Qdrant/SearXNG-RAG und ComfyUI-Bildgenerierung, mit GPU-Auto-Erkennung und einem dream-CLI, alles lokal ohne Cloud.
Vor- & Nachteile
Pros
- Ein wirklich All-in-One lokaler KI-Stack (LLM, Voice, RAG, Workflows, Bildgenerierung) mit einem Install-Befehl
- Hardware- und GPU-Auto-Erkennung, mit einem Bootstrap-Modus, der dich in unter einer Minute auf einem kleinen Modell chatten lässt
- Permissives Apache-2.0, breite OS- und Distro-Abdeckung, aktive Pflege
Cons
- Größtenteils Orchestrierung bestehender OSS (llama.cpp, Open WebUI, n8n, ComfyUI); der Wert ist Integration, keine neue Technik
- Ein schwerer Footprint: Docker, große Modell-Downloads und GPU-Erwartungen
- Die öffentliche Homepage ist nur ein Discord-Invite, und die plakativen Auszeichnungen sind unverifizierte Projektangaben
Lizenz
Apache-2.0 (OSI-open)
Wann interessant
du willst eine private, cloudfreie KI-Suite auf eigener Hardware, ohne ein Dutzend Tools von Hand zusammenzustückeln.
Wann zu früh
wenn du ein leichtes Einzweck-Inference-Setup brauchst oder kein Docker oder keine fähige GPU fahren kannst.
Dieses Repo war in der Ausgabe 2026-07 des Open-Source-KI-Radars.
oMLX
jundot
macOS-nativer LLM-Inference-Server für Apple Silicon mit Continuous Batching und SSD-gestütztem KV-Cache.
apfel
Arthur-Ficial
Das On-Device-Apple-Intelligence-Modell auf macOS 26 als Zero-Setup-OpenAI-kompatible lokale API verfügbar machen.
shimmy
Michael-A-Kuykendall
Lokale Inference-Engine in reinem Rust mit OpenAI-kompatibler API, als eine Binary.