Open WebUI en Ollama: lokale ChatGPT zonder Docker

👁 113 keer gelezen

Open WebUI biedt een complete browserinterface die oogt en werkt als ChatGPT, maar communiceert met modellen op je eigen pc via Ollama. Hierdoor bouw je een volwaardige lokale ChatGPT die volledig offline kan functioneren zonder dat privégegevens je netwerk verlaten. In mijn overzicht van lokale AI-modellen bekijk ik diverse interfaces, en de combinatie Open WebUI Ollama blinkt uit door documentverwerking (RAG) en gebruikersbeheer.

Wat is Open WebUI?

Open WebUI fungeert als een lokale webserver die je opent via http://localhost:8080. Het programma genereert zelf geen tekst, maar stuurt opdrachten door naar Ollama of een OpenAI-compatibele API. Tegenover een standaard terminalverbinding met Ollama biedt het portaal:

• Volledige gespreksgeschiedenis, mappen, zoekfuncties en exportopties.
• Snel schakelen tussen modellen en directe zij-aan-zij vergelijkingen op dezelfde prompt.
• Kennisbanken en documentuploads voor Retrieval-Augmented Generation (RAG).
• Ondersteuning voor meerdere gebruikersaccounts met instelbare rechten.

Open WebUI Ollama installeren op Windows zonder Docker

Met de Python-pakketbeheerder uv installeer je Open WebUI binnen een geïsoleerde omgeving, zonder conflicten met bestaande Python-versies op je systeem:

1. Installeer Ollama en start de applicatie. Voor mijn tests downloadde ik het model Gemma 4 12B (Q4_0 QAT-bestand, 7,0 GB). Lees ook mijn ervaringen met zwaardere modellen zoals Gemma 4 31B lokaal.
2. Installeer uv via de Windows Package Manager in PowerShell:

   winget install astral-sh.uv

3. Installeer Open WebUI gekoppeld aan Python 3.11:

   uv tool install --python 3.11 open-webui

   De initiële download en installatie duurden bij mij 59 seconden op 3 oktober 2026. Een latere update van 0.11.4 naar 0.12.3 via uv tool upgrade open-webui nam 1 minuut en 55 seconden in beslag.

4. Start de server voor individueel gebruik zonder inlogscherm:

   $env:WEBUI_AUTH = "False"
   $env:DATA_DIR = "$HOME\open-webui-dane"
   open-webui serve --host 127.0.0.1 --port 8080

5. Als het commando niet direct wordt herkend, voer je uv tool update-shell uit en herstart je PowerShell.
6. Wacht tot de backend gereed is. Bij een lege datamap startte de server bij mij na 81 seconden op; bij een volgende schone herstart duurde dit 31 seconden.
7. Navigeer in je browser naar http://localhost:8080. De geïnstalleerde Ollama-modellen verschijnen direct in de lijst.

Wie liever Docker gebruikt: het officiële commando luidt docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=jouw-sleutel --name open-webui --restart always ghcr.io/open-webui/open-webui:main. Omdat ik geen Docker op mijn Windows-machine heb draaien, werk ik uitsluitend via uv.

Prestaties: Gemma 4 12B in Open WebUI vs Ollama

Ik testte Open WebUI met Gemma 4 12B op een pc met een RTX 4090 (24 GB VRAM), Intel Core i9-14900KF en 64 GB RAM onder Windows 11. Als testopdracht liet ik het model een zakelijke e-mail opstellen over een vertraagde bestelling. Gemma dacht 7 seconden na alvorens een foutloze tekst op te bouwen.

Mijn modellen staan op een externe USB-schijf, wat de laadtijd van 19,9 seconden verklaart. Vóór de test gebruikte Windows 1,4 GB VRAM; het model met de actieve context vroeg circa 8,4 GB aan extra geheugen.

Het meest opvallende verschil zit in de promptgrootte: 5694 tokens in Open WebUI tegenover slechts 95 tokens in de kale Ollama-terminal. Versie 0.12 voegt standaard systeeminstructies en beschrijvingen toe van ingebouwde tools (notities, geheugen, zoekfuncties). Op een RTX 4090 met 24 GB levert dit een verwaarloosbaar snelheidsverlies op van ongeveer 10%. Op een videokaart met 8 GB VRAM kan dit forse contextverschil er echter voor zorgen dat het model buiten het snelle videogeheugen valt. Je kunt deze tools uitschakelen in de modelinstellingen. Voor een bredere kosten-batenanalyse van eigen hardware versus cloud-abonnementen verwijs ik naar mijn artikel over de verhouding tussen een lokaal AI-model of API-kosten.

Chatten met PDF-bestanden via RAG

Open WebUI splitst documenten op in segmenten en indexeert deze via vectoren. Standaard gebruikt de software all-MiniLM-L6-v2. Voor niet-Engelse teksten presteert het meertalige model bge-m3 beter:

1. Haal het model binnen in Ollama: ollama pull bge-m3 (1,2 GB).
2. Ga in Open WebUI naar de instellingen linksonder, open het tabblad Administrator en ga naar Documenten.
3. Zet de embedding engine op Ollama, vul bij het model bge-m3:latest in en sla de instellingen op. Reeds geüploade bestanden moeten daarna opnieuw worden geïndexeerd.

Ik testte een consumentenwet van 607 KB in PDF-formaat met 10 specifieke vragen. Het indexeren van dit document kostte 6,6 seconden.

In Open WebUI miste het model de exacte retourtermijn en een drempelbedrag van 50; in beide situaties gaf het model netjes aan de informatie niet in de tekst aan te treffen. Het eerste antwoord inclusief het inladen van beide modellen duurde 76 seconden. Het gecombineerde piekgeheugen van Gemma 4 12B en bge-m3 samen bedroeg 10,8 GB VRAM.

Startscript voor Windows PowerShell

Het onderstaande script open-webui-start.ps1 controleert Ollama, installeert zonodig uv, Open WebUI en bge-m3, schakelt telemetrie uit en start de server. Op 17 oktober 2026 was de omgeving hiermee binnen 31 seconden operationeel.

# open-webui-start.ps1 - start Open WebUI met Ollama op Windows
param(
    [string]$Folder = "$HOME\open-webui-dane",
    [int]$Port = 8080,
    [switch]$BezPrzegladarki
)
$ErrorActionPreference = 'Stop'

function Test-Url($u) {
    try { Invoke-RestMethod -Uri $u -TimeoutSec 3 | Out-Null; return $true } catch { return $false }
}

if (-not (Get-Command ollama -ErrorAction SilentlyContinue)) {
    Write-Host 'Ollama ontbreekt. Voer uit: winget install Ollama.Ollama' -ForegroundColor Red
    exit 1
}
if (-not (Test-Url 'http://127.0.0.1:11434/api/version')) {
    Write-Host 'Ollama draait niet. Start de Ollama applicatie.' -ForegroundColor Red
    exit 1
}

if (-not (Get-Command uv -ErrorAction SilentlyContinue)) {
    Write-Host 'uv installeren via winget...'
    winget install --id astral-sh.uv -e
    $env:Path = [Environment]::GetEnvironmentVariable('Path', 'User') + ';' + [Environment]::GetEnvironmentVariable('Path', 'Machine')
}

$exe = Join-Path $HOME '.local\bin\open-webui.exe'
if (-not (Test-Path $exe)) {
    Write-Host 'Open WebUI installeren via uv (ca. 1,8 GB)...'
    uv tool install --python 3.11 open-webui
}

$modele = @((Invoke-RestMethod -Uri 'http://127.0.0.1:11434/api/tags').models | ForEach-Object { $_.name })
if ($modele -notcontains 'bge-m3:latest') {
    Write-Host 'Embedding-model bge-m3 ophalen (1,2 GB)...'
    ollama pull bge-m3
}

New-Item -ItemType Directory -Force -Path $Folder | Out-Null
$env:DATA_DIR = $Folder
$env:WEBUI_AUTH = 'False'
$env:OLLAMA_BASE_URL = 'http://127.0.0.1:11434'
$env:ENABLE_OPENAI_API = 'False'
$env:RAG_EMBEDDING_ENGINE = 'ollama'
$env:RAG_EMBEDDING_MODEL = 'bge-m3:latest'
$env:ANONYMIZED_TELEMETRY = 'false'
$env:DO_NOT_TRACK = 'true'
$env:SCARF_NO_ANALYTICS = 'true'
$env:PYTHONIOENCODING = 'utf-8'

Write-Host "Open WebUI starten op http://localhost:$Port..."
$p = Start-Process -FilePath $exe -ArgumentList @('serve', '--host', '127.0.0.1', '--port', "$Port") -NoNewWindow -PassThru

Open WebUI vergelijken met LM Studio en Jan

Open WebUI is de logische optie wanneer je geavanceerde functies zoals RAG en documentanalyse zoekt, of één systeem wilt delen met meerdere gebruikers in een lokaal netwerk. LM Studio en Jan zijn handiger voor gebruikers die liever een kant-en-klaar desktopvenster met een grafische installer willen zonder configuratie via PowerShell.

Licentievoorwaarden en merkrecht

De software valt onder de Open WebUI License. Dit is een BSD-3 licentie met een restrictie op merkgebruik: het logo en de merknaam mogen niet worden verwijderd of gewijzigd tenzij de installatie door maximaal 50 actieve gebruikers per 30 dagen wordt benut, je schriftelijke toestemming van de auteurs hebt, of beschikt over een zakelijke licentie. Standaard gebruik, zowel privé als binnen een organisatie, is kosteloos toegestaan.

Problemen oplossen

• Melding over Python 3.13: Open WebUI ondersteunt Python 3.13 niet. Forceer versie 3.11 met uv tool install --python 3.11 open-webui.
• Geen modellen zichtbaar: Controleer of Ollama op de achtergrond draait met het commando ollama list en controleer de omgevingsvariabele OLLAMA_BASE_URL.
• Poort 8080 bezet: Start de server op een alternatieve poort met de vlag --port 8081.
• Trage antwoorden: Dit ontstaat vaak door de prompt overhead van interne tools en automatische achtergrondtaken zoals het genereren van titels en zoektags. Deze schakel je uit in de administrator-instellingen onder het menu Interface.

Veelgestelde vragen

Bronnen

• Open WebUI GitHub Releases (versie 0.12.0 van 10.10.2026 en versie 0.12.3 van 16.10.2026).
• Open WebUI License en licentiehistorie op GitHub.
• Open WebUI Quick Start Documentatie.
• Pakketdatabase open-webui op PyPI.
• Eigen metingen en benchmarks op Windows 11, RTX 4090, Ollama 0.40.5 en Open WebUI 0.12.3, uitgevoerd op 17 oktober 2026.

Gecontroleerd op 17 oktober 2026.

// lees verderChatGPT gratis: wat krijg je zonder te betalen?AI-toolsHoe citeer je ChatGPT en AI? APA, MLA en Chicago uitgelegdHandleidingenKind gebruikt ChatGPT: leeftijd, privacy en ouderlijk toezichtHandleidingen

Kinetyra