Parlor

Die meisten Sprachassistenten, die sich wirklich nach einem Gespräch anfühlen, leiten dein Audio und zunehmend auch dein Kamerabild über fremde Server. Das ist bequem, aber ein Problem, wenn dir Datenschutz wichtig ist, du offline arbeiten willst oder schlicht keine API-Keys und Minutenabrechnung verwalten möchtest. Parlor, ein Projekt von Fikri Karim, geht den umgekehrten Weg: ein lokaler Assistent, der Sprache, Bild und Sprachverständnis komplett auf deiner eigenen Hardware ausführt, ohne Cloud. Du sprichst natürlich, zeigst ihm optional deine Kamera, und er antwortet gesprochen, alles on-device. Kombiniert werden ein multimodales Gemma-Modell für das Verstehen von Sprache und Bildern mit Kokoro für die Sprachausgabe, eingebettet in eine Browser-Oberfläche, die sich mit einem lokalen FastAPI-WebSocket-Server verbindet.

Das technische Design macht Parlor reaktionsschnell statt träge. Die Voice Activity Detection läuft im Browser über Silero VAD, also ohne Push-to-Talk: Das System erkennt, wann du anfängst und aufhörst zu sprechen, und reagiert freihändig. Das über LiteRT-LM bereitgestellte Gemma-Modell verarbeitet den kombinierten Audio- und Bild-Input, während Kokoro die Sprache erzeugt. Zwei Entscheidungen prägen das Erlebnis besonders. Erstens wird die Sprachausgabe satzweise gestreamt, der Assistent beginnt also zu sprechen, sobald der erste Satz fertig ist, statt auf die komplette Antwort zu warten. Zweitens erlaubt Barge-in, mitten in der Antwort zu unterbrechen, so wie echte Gespräche tatsächlich ablaufen. Auf Apple Silicon nutzt die TTS-Verarbeitung MLX, unter Linux kommt ein ONNX-Backend zum Einsatz.

Parlor richtet sich klar an Entwickler, Bastler und datenschutzbewusste Nutzer, die einen vollständig lokalen Sprach- und Kamera-Assistenten wollen und mit einem Setup über die Kommandozeile zurechtkommen. Konkrete Einsatzfälle sind ein freihändiger Schreibtisch-Assistent, der nie Audio nach außen schickt, ein Offline-Begleiter für Reisen oder abgeschottete Umgebungen und eine Basis für Experimente, bei denen man Kamera-Wahrnehmung ohne Bildübertragung an Dritte braucht. Außerdem ist es eine Referenzimplementierung für alle, die studieren wollen, wie sich VAD, ein multimodales Modell und Streaming-TTS zu einer stimmigen Echtzeit-Schleife verbinden lassen. Das Setup ist für diese Zielgruppe unkompliziert: Repo klonen, den uv-Paketmanager installieren, einen Sync- und einen Server-Befehl ausführen und localhost im Browser öffnen. Das Modell wird beim ersten Start automatisch geladen.

Die ehrlichen Einschränkungen sind erheblich. Der Autor beschreibt Parlor selbst als Research Preview mit zu erwartenden Ecken und Bugs, und es gibt keine versionierten Releases, also keine stabile Grundlage, um darauf ein Produkt zu bauen. Es läuft nur auf Apple Silicon oder Linux mit unterstützter GPU: kein Windows-Pfad, kein CPU-Fallback, womit ein großer Teil der Nutzer sofort herausfällt. In der Praxis ist es englischzentriert, auf zuverlässige Mehrsprachigkeit sollte man sich also noch nicht verlassen. Funktional ist es eine dünne Orchestrierungsschicht über Gemma und Kokoro, das heißt die Stimmqualität ist an das gebunden, was Kokoro liefern kann, und es erbt die Grenzen der zugrundeliegenden Modelle. Zudem ist es ein Solo-Projekt, Support und Langlebigkeit hängen an einem einzigen Maintainer.

Gegen eine kommerzielle Alternative wie ElevenLabs tritt Parlor nicht wirklich bei roher Stimmqualität oder Politur an: ElevenLabs bietet hochwertigere Synthese, breite Sprachabdeckung und eine stabile gehostete API, dafür wandern die Daten in die Cloud und es wird pro Nutzung gezahlt. Parlors Wert ist genau das Gegenteil: vollständig lokale Verarbeitung, keine API-Keys und kamerabewusste Gespräche, die das Gerät nie verlassen. Greif zu, wenn du einen datenschutzorientierten, vollständig lokalen Assistenten auf Apple Silicon willst und die Instabilität im Alpha-Stadium als Preis dafür akzeptierst. Behandle es als zu früh, wenn du Mehrsprachigkeit, ein verlässliches SDK, Windows- oder CPU-Unterstützung oder Produktionsreife brauchst. Als privater, offline laufender Assistent zum Ausprobieren und Lernen ist es heute ein glaubwürdiger und erfrischend ehrlicher Ausgangspunkt.