🖥️ Local LLM

Lokaler LLM-Server auf dem NAS: Ollama auf Synology und QNAP

Nutze dein NAS als KI-Server. Ollama auf Synology Docker oder QNAP Container Station installieren und von überall auf lokale LLMs zugreifen.

Dein NAS steht die meiste Zeit rum — warum nicht als AI-Server nutzen? Mit Ollama wird jedes NAS zum lokalen LLM-Server, auf den du von überall zugreifen kannst.

**Synology DSM (Docker):**
1. Docker-Paket installieren
2. Container erstellen: Ollama-Image `ollama/ollama` nutzen
3. Port 11434 freigeben
4. SSH-Zugriff auf das NAS und `ollama pull qwen2.5:14b`
5. Web-Interface mit Open WebUI (Docker-Container `openwebui/openwebui`)

**QNAP Container Station:**
1. LXC-Container mit Ubuntu 24.04 erstellen
2. Ollama installieren: `curl -fsSL https://ollama.ai/install.sh | sh`
3. Modelle ziehen: `ollama pull phi4:14b` (für NAS perfekt)
4. QNAP myQNAPcloud für Fernzugriff konfigurieren

**Was du erwarten kannst (Synology DS923+ mit 16GB RAM):**
- Phi-4 14B: ~8 Tokens/Sekunde (brauchbar für Chat)
- Qwen 2.5 7B: ~12 Tokens/Sekunde (gut für schnelle Antworten)
- Llama 3.3 8B: ~15 Tokens/Sekunde (flüssig)

**Privatsphäre-Garantie:** Kein Prompt verlässt dein Netzwerk. Perfekt für vertrauliche Dokumente und Geschäfts-Kommunikation.