Einführung
Diese umfassende Anleitung führt Sie durch die Einrichtung von Open WebUI mit dem Gemma 4-Modell auf Ihrem Beelink Mini-PC mit Windows 11. Am Ende dieses Tutorials verfügen Sie über eine voll funktionsfähige lokale KI-Chat-Oberfläche, die komplett offline auf Ihrem Computer läuft.Warum diese Konfiguration?
Diese Konfiguration vereint die Stärken von Open WebUI mit der Intelligenz von Gemma 4 und bietet so eine leistungsstarke, datenschutzorientierte KI-Umgebung. Open WebUI stellt eine sofort einsatzbereite Chat-Oberfläche mit Markdown-Unterstützung, Code-Highlighting und übersichtlichem Verlauf bereit und dient gleichzeitig als zentrales Portal zur Verwaltung mehrerer Ollama-Modelle. Darüber hinaus ermöglicht es erweiterte Funktionen wie Modellanpassung, Retrieval-Augmented Generation, lokale Datei-Uploads und die Erstellung von Wissensdatenbanken und eignet sich daher ideal für den Einzel- und Teameinsatz. Dank Mehrbenutzerunterstützung, rollenbasierter Zugriffskontrolle und sicherer Offline-Bereitstellung gewährleistet es die Zusammenarbeit ohne Kompromisse beim Datenschutz. Die Wahl von Gemma 4 optimiert dieses Erlebnis zusätzlich: Seine fortschrittlichen Schlussfolgerungsfähigkeiten, Effizienz und multimodalen Funktionen ermöglichen die nahtlose Verarbeitung von Text, Code, Audio, Bild und komplexen Aufgaben. Dadurch ist es ein hochintelligentes Modell, das perfekt mit Open WebUI für vielseitige, sichere und leistungsstarke KI-Anwendungen harmoniert.
Schritt-für-Schritt-Installationsanleitung
Schritt 1: Ollama installieren
Ollama ist der Backend-Service, der Ihre KI-Modelle ausführt.
1.1 Ollama herunterladen
- Besuchen Sie die offizielle Ollama-Downloadseite: https://ollama.com/download/windows
- Laden Sie die OllamaSetup.exe Installateur
1.2 Ollama installieren
- Doppelklicken Sie auf die heruntergeladene Installationsdatei und folgen Sie den Anweisungen auf dem Bildschirm, um die Installation abzuschließen.
- Ollama wird nach der Installation automatisch im Hintergrund ausgeführt (Sie können dies überprüfen, indem Sie nach dem weißen Lama-Symbol in Ihrer Taskleiste suchen).
Schritt 2: Gemma 4-Modell herunterladen und ausführen
Bevor Sie beginnen, empfehlen wir Ihnen dringend, das Gemma 4-Modell entsprechend der Hardware Ihres Beelink Mini-PCs auszuwählen, um die beste Leistung zu erzielen:
| Prozessoren | Gesamter Arbeitsspeicher | Empfohlener LLM |
| AMD Ryzen 7 7735U/7735HS Intel Core i5-1235U Intel Core i5-13500H | >=24 | Gemma-4-E2B |
| Intel Core Ultra 9 185H/285H AMD Ryzen 7 8745HS/8845HS AMD Ryzen 7 H 255 AMD Ryzen 7 260 | >=24 | Gemma-4-E4B |
| AMD Ryzen AI Max+ 395 | >=32 | Gemma-4-26B-MOE |
2.1 Öffnen Sie die Eingabeaufforderung
- Drücken Sie die Tasten Win + R auf Ihrer Tastatur, geben Sie cmd ein und drücken Sie die Eingabetaste.
2.2 Gemma 4 herunterladen
- Geben Sie in der Eingabeaufforderung folgenden Befehl ein:
ollama run gemma4:e2b
ollama run gemma4:e4b
ollama run gemma4:26b - Ollama lädt das Gemma 4-Modell auf Ihren Mini-PC herunter (dies kann einige Zeit dauern). Sobald der Download abgeschlossen ist, sehen Sie ein >>> Eingabeaufforderung, die anzeigt, dass das Modell bereit ist.
- Sie können jetzt direkt über die Eingabeaufforderung oder die Ollama-App mit Gemma 4 chatten.Als multimodales Lernmanagementsystem unterstützt Gemma 4 neben Text auch PDFs, Bilder und Audiodateien in Ihren Prompts. Die neueste Ollama-App ist bereits leistungsstark und intuitiv, doch die Kombination von Gemma 4 mit Open WebUI eröffnet noch mehr Möglichkeiten.
Schritt 3: Open WebUI mit Docker installieren
3.1 Docker Desktop installieren
- Laden Sie Docker Desktop für Windows hier herunter: https://www.docker.com/products/docker-desktop/
- Führen Sie das Installationsprogramm aus und folgen Sie den Anweisungen.
-Lizenzbedingungen akzeptieren
-Erlauben Sie die Installation, WSL 2 zu aktivieren, falls Sie dazu aufgefordert werden
- Lassen Sie den Installer automatisch abschließen.
- Sobald die Installation abgeschlossen ist, starten Sie Ihren Mini-PC neu.
- Nach dem Neustart starten Sie Docker Desktop und überspringen Sie die Anmeldung, wenn Sie dazu aufgefordert werden (für die grundlegende Nutzung nicht erforderlich).
- Wenn die Meldung „WSL muss aktualisiert werden“ erscheint, kopieren Sie einfach den Befehl. wsl --update Fügen Sie sie in die Eingabeaufforderung ein, drücken Sie dann die Eingabetaste und warten Sie, bis die Aktualisierung abgeschlossen ist.
- Sobald das Update abgeschlossen ist, sollte Docker Desktop vollständig starten, wobei links eine Seitenleiste angezeigt wird (wie in der Abbildung unten dargestellt).
3.2 Bereitstellung der offenen WebUI
- Öffnen Sie die Eingabeaufforderung erneut.
- Kopieren Sie diesen Befehl und drücken Sie die Eingabetaste:
docker run -d -p 4000:8080 --add-host=host.docker.internal: host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Dieser Befehl lädt das Open WebUI-Image herunter und startet es als Container. Bitte warten Sie, bis der Vorgang abgeschlossen ist.
Schritt 4: Gemma 4 in der offenen WebUI verwenden
- Öffnen Sie Ihren Webbrowser (Chrome, Edge oder Firefox) und navigieren Sie zu: http://localhost:4000
- Erstellen Sie ein Administratorkonto mit Ihren bevorzugten Anmeldeinformationen (dieses Konto ist lokal und benötigt keine Internetverbindung).
- Nach dem Einloggen sehen Sie eine ChatGPT-ähnliche Benutzeroberfläche. Wählen Sie einfach Gemma 4 aus dem Modell-Dropdown-Menü aus und beginnen Sie mit Ihrem lokalen KI-Assistenten zu chatten.
- Noch einen Schritt weiter: Im Open WebUI Workspace können Sie benutzerdefinierte Modelle erstellen, Wissensdatenbanken anlegen und Retrieval‐Augmented Generation (RAG) nutzen, um Ihre eigenen Daten sicher zu verarbeiten und zu organisieren.
Abschluss
Herzlichen Glückwunsch! Sie verfügen nun über eine leistungsstarke lokale KI-Umgebung auf Ihrem Beelink Mini-PC. Mit Open WebUI und Gemma 4 steht Ihnen ein datenschutzorientierter, offlinefähiger KI-Assistent zur Verfügung, der Dokumentenverarbeitung, Unterstützung beim Programmieren, Recherchen und vieles mehr übernimmt.
Diese Konfiguration ermöglicht Ihnen die vollständige Kontrolle über Ihre KI-Umgebung, ohne auf Cloud-Dienste angewiesen zu sein, und gewährleistet so, dass Ihre Daten auf Ihrem lokalen Rechner privat und sicher bleiben.
Tipps zur Fehlerbehebung
Häufige Probleme und Lösungen:
1. Docker Desktop startet nicht vollständig.
- Stellen Sie sicher, dass das Windows-Subsystem für Linux (WSL2) aktiviert ist.
- Starten Sie Ihren Beelink Mini-PC nach der Installation von Docker Desktop neu.
2.Gemma 4 erscheint nicht in Open WebUI
- Überprüfen Sie, ob Ollama im Hintergrund ausgeführt wird.
- Starten Sie den Open WebUI-Container neu.
- Prüfen Sie, ob das Gemma 4-Modell in Ollama korrekt heruntergeladen wurde.
3. Hafenkonflikte
- Stellen Sie sicher, dass Port 4000 verfügbar ist.
- Ändern Sie bei Bedarf die Portzuordnung im Docker-Befehl.
