13 oktober 2026 · Luuk

Je eigen AI-model draaien: waarom wij het doen en hoe jij het aanpakt

Alles wat je aan ChatGPT, Gemini of Claude vraagt, komt bij een Amerikaans bedrijf terecht. Wij draaien daarom ons eigen AI-model in Europa. Wat het kost, hoe het werkt en hoe je begint.

Geschreven door: Luuk · STAIBL
Voor: Ondernemers en technische lezers
Leestijd: 6 minuten, of 1 voor de kern

In het kort

Alles wat je aan ChatGPT, Gemini of Claude vraagt, komt bij een Amerikaans bedrijf terecht.
Wij draaien daarom ons eigen AI-model op een server in Europa. Er gaat niets naar OpenAI, Google of Anthropic.
Bij ons begint een antwoord meestal binnen 2 seconden.
Een server voor een middelgroot model kost €750 tot €1.000 per maand, plus een paar uur beheer.

Waarom een eigen AI-model?

Wij beloven onze klanten dat hun gegevens in Europa blijven. Met ChatGPT, Gemini of Claude kun je die belofte eigenlijk niet waarmaken. Je gegevens gaan dan naar een Amerikaans bedrijf, en ook als dat bedrijf servers in Europa heeft, valt het gewoon onder Amerikaanse wetgeving zoals de CLOUD Act. Dat ze niet op je data trainen, moet je ze dus op hun woord geloven.

Daarnaast ben je afhankelijk van hun keuzes. Gaat de prijs omhoog, verdwijnt een model of komt er een nieuwe limiet, dan merk je dat pas als het zover is. En je betaalt per gebruiker of per woord, terwijl een eigen server een vast bedrag per maand kost, hoeveel je team er ook mee doet.

Op moeilijke taken zijn de sterkste Amerikaanse modellen nog beter, om eerlijk te zijn. Alleen is het meeste werk in een bedrijf niet zo moeilijk: interne vragen, mails en documenten opstellen, gegevens analyseren. Daarvoor telt veel meer dat het model je gegevens mag zien.

Als het druk is, wijken we nooit uit naar een Amerikaanse partij. Valt onze server echt uit, dan neemt Mistral het over, een Franse aanbieder.

Hoe het werkt

Een eigen AI-model bestaat uit vier onderdelen. Je kunt het eigenlijk zien als een restaurant:

De kok is het model. Hij begrijpt taal en schrijft elk antwoord. Technisch is het een bestand van tientallen gigabytes; onze kok is Gemma 4 met 31 miljard parameters.
De keuken is de GPU, de grafische kaart die het rekenwerk doet. Hoe meer geheugen, hoe groter de kok die erin past en hoe meer gerechten tegelijk.
De pas is de software die het model draait. Die zet de bestellingen op volgorde en laat de kok er tientallen tegelijk maken. Wij gebruiken vLLM.
De gastheer is de gateway. Elke toepassing krijgt een eigen sleutel, en werk waar iemand op wacht gaat voor op werk dat kan wachten. Wij gebruiken LiteLLM.

Een avond in de keuken

Zo loopt een vraag door je eigen AI-model, van de deur tot het bord.

2.1

Welke kok kies je?

Welk model het beste is, hangt gewoon af van je taak en je hardware. Let op drie dingen en test daarna zelf:

Past hij in je keuken? Reken 2 GB geheugen per miljard parameters, of de helft tot een kwart bij een ingedikte versie. Een model van 30 miljard past zo op een kaart van 48 GB.
Mag je hem gebruiken? Apache 2.0 en MIT laten bijna alles toe, ook zakelijk. Lees bij andere licenties de voorwaarden.
Kan hij jouw werk? Stel je eigen tien vragen aan twee of drie modellen en vergelijk de antwoorden.

Wat wij zelf draaien

Gemma

van Google, 31 miljard parameters

Gekozen voor ons eigen werk en onze ene kaart van 48 GB: hij past erop, schrijft natuurlijk Nederlands en is snel. Voor een ander bedrijf kan een ander model beter passen. Een groot model als DeepSeek is op veel taken sterker, maar heeft meerdere kaarten nodig.

Qwen
Alibaba
De meeste formaten om uit te kiezen, veel talen, sterk in rekenen en code.
Mistral
Mistral AI, Frankrijk
Europees en meertalig. Het nieuwste grote model noemt Mistral zelf sterk in cybersecurity.
DeepSeek
DeepSeek
Sterk in redeneren en programmeren, onder de vrije MIT-licentie. De grote versies horen bij de sterkste open modellen, maar vragen meerdere kaarten.
Llama
Meta
Veel hulpmiddelen eromheen, maar een licentie met beperkingen voor gebruikers in de EU.

Je vindt ze allemaal op Hugging Face, met per model de grootte, de licentie en hoe je hem start. Versies volgen elkaar snel op.

2.2

Voor wie het technisch wil weten

Je toepassingen praten met de gateway zoals met OpenAI: dezelfde API, een ander adres. Bestaande software zet je zo meestal zonder verbouwing over.

vLLM neemt alle lopende gesprekken in elke rekenstap mee (continuous batching) en onthoudt wat het al gelezen heeft (prefix caching). Bij ons kwam 59% van alle ingelezen tekst zo uit het geheugen.

Wat het kost

Wat je nodig hebt, hangt vooral af van het model: hoe groter, hoe meer geheugen. Daarna telt hoeveel mensen er tegelijk mee werken.

Gratis
op je eigen computer
Uitproberen
Met Ollama of LM Studio en een klein model. Genoeg om te testen of het jouw vragen aankan.
€750 tot €1.000
per maand
Eén GPU-server
Een model van rond 30 miljard parameters op een kaart van 48 GB, bij een Europese aanbieder. Daar kan een team dagelijks mee werken.
Op offerte
per maand
Zwaarder
Grote modellen, zoals de grootste van DeepSeek, of heel veel gebruikers. Op datacenterkaarten zoals de H100 of H200.
€12.000 tot €35.000
eenmalig
Eigen hardware
De server in je eigen pand, plus stroom, koeling en onderhoud.

Reken daarnaast op een paar uur beheer per maand: updates, bewaking en een plan voor als hij uitvalt.

Zo begin je

1
Kies één taak
Bijvoorbeeld interne vragen uit je handboek beantwoorden, of offertes opstellen. Schrijf er tien echte voorbeelden bij, dan heb je meteen een toets.
2
Probeer het gratis
Een middag met Ollama of LM Studio. Werkt een klein model al, dan werkt een groter het zeker.
3
Huur een Europese GPU-server
Bij Hetzner, OVH of Scaleway, met genoeg geheugen voor je model. Geen Amerikaanse cloud, ook niet met servers in Europa.
4
Zet de software erop
De driver, Docker, vLLM met je model en een gateway zoals LiteLLM. Zorg dat het alleen bereikbaar is via een beveiligde verbinding.
5
Koppel je eerste toepassing en meet
Hoe lang wacht iemand op het eerste woord? Spreek een norm af, zoals 9 van de 10 antwoorden binnen 10 seconden.
6
Regel het beheer
Wie doet de updates, wie ziet het als hij traag wordt, en wie neemt het over bij een storing? Bij ons is dat laatste Mistral, ook in Europa. Zonder zo'n plan staat alles dus stil zodra je server eruit ligt.

Wat we hebben geleerd

Uit de eerste weken, met de cijfers erbij.

89%
ging goed met 11 tools, tegen 72% met alle 44
Minder tools werkte beter
We hebben het getest met alle 44 tools en met alleen de 11 die het model nodig had. Met minder ging het vaker goed, en het antwoord kwam ook nog sneller: 2,1 in plaats van 3,5 seconden. De uitleg per tool moet je wel laten staan, want daar haalt het model eigenlijk uit welke het moet pakken.
Technisch: De prompt kromp van 15.092 naar 4.103 tokens.
15×
een verzonnen sessienummer
Het model vulde gewoon zelf iets in
Vraagt een tool om iets wat het model niet kan weten, zoals een sessienummer, dan vult het dus maar wat in. Die velden kun je beter weghalen en zelf in je code invullen. Dat kost niets aan kwaliteit.
3.073
verzoeken in 5 minuten na een herstart
Na een herstart stond alles tegelijk voor de deur
Alle toepassingen probeerden het op hetzelfde moment opnieuw, en de server liep gewoon vol.
Technisch: Laat software opnieuw proberen met een oplopende wachttijd (backoff), of vang het op in de gateway.
1.200 tot 1.500
tokens per seconde, of er nu 32 of 64 tegelijk lopen
Meer tegelijk maakte het niet sneller
De kaart verdeelt dezelfde rekenkracht dan alleen over meer gesprekken. Wil je meer capaciteit, dan heb je dus een tweede kaart nodig. En meet dit soort dingen nooit tijdens echt verkeer.

En dan nog twee dingen zonder cijfer erbij. Een open model zegt soms "Ik heb het genoteerd" terwijl het niets heeft genoteerd, dus zet een controle achter elke handeling die ertoe doet. En geef voorrang aan wat een mens laat wachten: een collega die op een antwoord wacht, gaat gewoon voor op een rapport dat 's nachts klaar mag zijn.

Wanneer je het níet moet doen

Zijn je gegevens niet gevoelig, dan valt het belangrijkste voordeel eigenlijk al weg. Verder raden we het af als:

Je het weinig gebruikt
Een paar vragen per dag rechtvaardigen geen eigen server. Een Europese aanbieder als Mistral, per gebruik, is dan goedkoper.
Niemand de server kan beheren
Zonder updates en bewaking heb je binnen een paar maanden een trage of onveilige server.
Je het allersterkste model nodig hebt
Voor ingewikkelde analyses of code lopen open modellen nog achter op de beste Amerikaanse.

Veelgestelde vragen

Wat is een self-hosted LLM?

Een taalmodel (LLM) dat op een server draait die jij huurt of bezit, in plaats van bij een aanbieder als OpenAI. Vragen en antwoorden verlaten die server niet.

Is een eigen AI-model veilig?

Je gegevens gaan niet naar een andere partij, en het model onthoudt niets tussen twee vragen. Hoe veilig het geheel is, hangt af van hoe je de server inricht en beheert.

Wat kost een eigen LLM per maand?

Op je eigen computer uitproberen kost niets. Een GPU-server die een team of een AI-tool bedient, kost bij een Europese aanbieder €750 tot €1.000 per maand, plus een paar uur beheer.

Is een eigen model net zo goed als ChatGPT?

Voor vragen uit je eigen documenten, mail en klantvragen meestal wel. Voor de moeilijkste analyses en programmeerwerk zijn de beste Amerikaanse modellen nog sterker.

Welk model kan ik zelf draaien?

Open modellen zoals Gemma, Qwen, Mistral en DeepSeek. Je vindt ze op Hugging Face. Kies de grootte die past bij het geheugen van je kaart, en lees de licentie.

Hoeveel mensen kunnen het tegelijk gebruiken?

Dat hangt af van de kaart en van hoe lang de vragen zijn. Meet het met je eigen gebruik voordat je het belooft.

Kan mijn bestaande software ermee praten?

Meestal wel. De software die het model draait, spreekt dezelfde taal (API) als OpenAI. Je verandert vaak alleen het adres en de sleutel.

Liever niet zelf bouwen?

Wil je het niet zelf bouwen en beheren, dan doen wij het gewoon voor je. Met Eigenwijs krijg je een eigen AI op een server in Europa: gekoppeld aan je documenten, je mail en je systemen, en door ons beheerd. Stop je met ons, dan houd je je server, je model en je gegevens.

Bespreek wat een eigen AI voor jouw bedrijf kan doen.

Plan een gesprek→