Open-WebUI mit Ollama einrichten: Docker-Anleitung (2026)

Schnellinstallation mit Docker (empfohlen für lokale Nutzung)

Wenn Ollama nativ auf demselben Rechner läuft (nicht in Docker), genügt dieser einzelne Befehl, um Open-WebUI zu installieren und zu starten:

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Was jedes Flag bewirkt:

• -p 3000:8080 — bildet Port 8080 im Container auf Port 3000 auf Ihrem Rechner ab
• --add-host=host.docker.internal:host-gateway — ermöglicht dem Container, das auf dem Host laufende Ollama zu erreichen
• -v open-webui:/app/backend/data — speichert Gespräche, Einstellungen und Uploads dauerhaft in einem Docker-Volume
• --restart always — startet Open-WebUI automatisch neu, falls der Container stoppt oder der Server neu startet

30-60 Sekunden warten, bis das Image heruntergeladen und der Container gestartet ist. Dann im Browser öffnen:

http://localhost:3000

Nach der Kontoerstellung ein Modell aus der Dropdown-Liste oben im Chat-Fenster auswählen und ein Gespräch beginnen.

Ollama-Verbindung prüfen

Falls die Modell-Dropdown-Liste leer ist oder "Keine Modelle verfügbar" anzeigt, kann Open-WebUI Ollama nicht erreichen:

# Aus dem Open-WebUI-Container heraus die Ollama-API testen
docker exec open-webui curl -s http://host.docker.internal:11434
# Erwartet: Ollama is running

Falls dieser Befehl fehlschlägt, läuft Ollama nicht. Ollama starten: ollama serve (oder sudo systemctl start ollama unter Linux).

Docker-Compose-Setup (Ollama + Open-WebUI gemeinsam)

Docker Compose verwenden, wenn Ollama und Open-WebUI gemeinsam in Containern laufen sollen — üblich für Remote-Server-Deployments.

Projektverzeichnis und docker-compose.yml-Datei erstellen:

mkdir -p ~/open-webui && cd ~/open-webui
nano docker-compose.yml

Folgendes einfügen:

version: '3.8'

volumes:
  ollama_data:
  open_webui_data:

services:
  ollama:
    image: ollama/ollama
    restart: unless-stopped
    volumes:
      - ollama_data:/root/.ollama
    ports:
      - "11434:11434"
    # Für NVIDIA GPU-Durchleitung, folgende Zeilen einkommentieren:
    # deploy:
    #   resources:
    #     reservations:
    #       devices:
    #         - driver: nvidia
    #           count: all
    #           capabilities: [gpu]

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    restart: unless-stopped
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - open_webui_data:/app/backend/data
    depends_on:
      - ollama

Beide Dienste starten:

docker compose up -d

Prüfen, ob beide Container laufen:

docker compose ps

Ein Modell in den Ollama-Container ziehen:

docker compose exec ollama ollama pull llama3.3:8b

Erste Nutzung und wichtige Funktionen

Nach der Erstellung des Admin-Kontos sind folgende Bereiche zu erkunden:

Modell auswählen und laden

Die Modell-Dropdown-Liste oben in der Mitte des Chat-Fensters öffnen. Alle mit Ollama gezogenen Modelle erscheinen hier. llama3.3:8b (oder das gezogene Modell) auswählen und ein Gespräch beginnen.

Dateien für Dokument-Q&A hochladen

Open-WebUI unterstützt RAG (Retrieval-Augmented Generation) standardmäßig. Auf das Büroklammersymbol in der Chat-Eingabe klicken, um eine PDF-, Word- oder Textdatei hochzuladen. Das Modell liest das Dokument und beantwortet Fragen zu seinem Inhalt.

Mehrere Nutzer verwalten

Im Admin-Panel (Benutzername unten links anklicken, dann Admin-Panel) können Sie:

• Ausstehende Benutzerregistrierungen genehmigen
• Standardmodelle für neue Nutzer festlegen
• Konfigurieren, welche Modelle für Nicht-Admin-Nutzer sichtbar sind
• Benutzerregistrierung aktivieren oder deaktivieren

Websuche aktivieren

Open-WebUI unterstützt die Websuchintegration über SearXNG, die Bing-Such-API oder die Google Programmable Search. Unter Admin-Panel > Einstellungen > Websuche einen Suchanbieter konfigurieren. Sobald aktiviert, können Nutzer Anfragen mit @web beginnen, um Suchergebnisse als Kontext einzubeziehen.

Wichtige Konfigurationsoptionen

Open-WebUI liest die Konfiguration aus Umgebungsvariablen, die dem Docker-Container übergeben werden.

Beispiel: Auth für ein Einzelnutzer-Lokal-Setup deaktivieren:

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e WEBUI_AUTH=false \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Open-WebUI aktualisieren

Open-WebUI veröffentlicht häufig Updates. Durch das Ziehen des neuesten Images und die Neuerstellung des Containers aktualisieren:

Docker (einzelner Container)

# Neuestes Image ziehen
docker pull ghcr.io/open-webui/open-webui:main

# Aktuellen Container stoppen und entfernen (Daten befinden sich im benannten Volume)
docker stop open-webui
docker rm open-webui

# Neuen Container mit aktualisiertem Image starten
docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Docker Compose

cd ~/open-webui

# Neue Images ziehen
docker compose pull

# Container mit neuen Images neu erstellen
docker compose up -d

Gespräche, Einstellungen und hochgeladene Dokumente sind im Docker-Volume open-webui gespeichert und werden durch das Entfernen des Containers nicht beeinflusst.