Lokaler LLM-Server auf dem NAS: Ollama auf Synology und QNAP
Nutze dein NAS als KI-Server. Ollama auf Synology Docker oder QNAP Container Station installieren und von überall auf lokale LLMs zugreifen.
Dein NAS steht die meiste Zeit rum — warum nicht als AI-Server nutzen? Mit Ollama wird jedes NAS zum lokalen LLM-Server, auf den du von überall zugreifen kannst. **Synology DSM (Docker):** 1. Docker-Paket installieren 2. Container erstellen: Ollama-Image `ollama/ollama` nutzen 3. Port 11434 freigeben 4. SSH-Zugriff auf das NAS und `ollama pull qwen2.5:14b` 5. Web-Interface mit Open WebUI (Docker-Container `openwebui/openwebui`) **QNAP Container Station:** 1. LXC-Container mit Ubuntu 24.04 erstellen 2. Ollama installieren: `curl -fsSL https://ollama.ai/install.sh | sh` 3. Modelle ziehen: `ollama pull phi4:14b` (für NAS perfekt) 4. QNAP myQNAPcloud für Fernzugriff konfigurieren **Was du erwarten kannst (Synology DS923+ mit 16GB RAM):** - Phi-4 14B: ~8 Tokens/Sekunde (brauchbar für Chat) - Qwen 2.5 7B: ~12 Tokens/Sekunde (gut für schnelle Antworten) - Llama 3.3 8B: ~15 Tokens/Sekunde (flüssig) **Privatsphäre-Garantie:** Kein Prompt verlässt dein Netzwerk. Perfekt für vertrauliche Dokumente und Geschäfts-Kommunikation.