apfel
Arthur-Ficial
Das On-Device-Apple-Intelligence-Modell auf macOS 26 als Zero-Setup-OpenAI-kompatible lokale API verfügbar machen.
Was ist apfel?
apfel kapselt Apples On-Device Foundation Models Framework (das ~3B-Modell, das mit macOS 26 / Tahoe ausgeliefert wird) als CLI, REPL und OpenAI-kompatibler HTTP-Server auf localhost. Kein Modell-Download, kein API-Key, keine Cloud. Unterstützt Tool Calling, MCP, JSON-Ausgabe und neun Sprachen.
Vor- & Nachteile
Pros
- Kein Modell-Download und keine Kosten - nutzt das bereits in macOS 26 integrierte Modell
- OpenAI-kompatibler Server, sodass bestehende Integrationen unverändert funktionieren
- MCP-Unterstützung und Tool Calling ermöglichen On-Device-agentische Workflows
Cons
- Erfordert macOS 26 (Tahoe), zum Zeitpunkt des Schreibens nur in Developer-Betas verfügbar
- Ein context window von 4.096 Tokens ist klein im Vergleich zu den meisten open-weight-Modellen
- Die Qualität ist an Apples On-Device-~3B-Modell gebunden - nicht für komplexes Schlussfolgern geeignet
Lizenz
MIT (OSI-open)
Wann interessant
Entwickler auf macOS 26, die einen vollständig offline, kostenlosen LLM-Endpunkt für Prototyping und datenschutzsensible Automatisierung wollen.
Wann zu früh
Wenn du heute macOS-15-Unterstützung, ein größeres context window oder stärkere Modellqualität benötigst.
Kommerzielle Alternative & Verwandtes
- Kommerzielles Pendant: OpenAI / Anthropic API
Dieses Repo war in der Ausgabe 2026-07 des Open-Source-KI-Radars.
oMLX
jundot
macOS-nativer LLM-Inference-Server für Apple Silicon mit Continuous Batching und SSD-gestütztem KV-Cache.
shimmy
Michael-A-Kuykendall
Lokale Inference-Engine in reinem Rust mit OpenAI-kompatibler API, als eine Binary.
whichllm
Andyyyy64
CLI, das deine Hardware erkennt und das lokale LLM rankt, das auf ihr tatsächlich gut läuft, bewertet anhand echter Benchmarks.