Uppdaterad 21 oktober 2026 · mätdata från 18 oktober 2026 · priser hämtade 21 oktober 2026

Hur mycket VRAM behöver man för lokala AI-modeller? Uppmätt på 16 modeller

Kort svar: Räkna med 0.05–2.14 gånger filstorleken i VRAM vid Ollamas standardkontext. 8B-modeller behöver 12 GB-kort, 30B-klassen 24 GB. Tabellen nedan är uppmätt, inte uppskattad.

Uppmätt: fil på disk mot VRAM vid körning

Tumregeln "VRAM = filstorleken" stämmer inte. I vår mätning låg kvoten VRAM/disk mellan 0.05 och 2.14 beroende på modell, eftersom Ollama lägger till kontextminne (KV-cache) och overhead ovanpå vikterna. Tabellen visar exakt vad varje modell tog.

ModellDisk (GB)VRAM vid körning (GB)KvotHelt i VRAM på 24 GB
qwen3:30b-a3b-lc18.622.061.19✔
ornith:35b-lc21.221.911.03✔
ornith:35b21.221.451.01✔
qwen3:30b-a3b18.620.251.09✔
qwen3.8:27b-lc17.717.841.01✔
qwen3.8:27b17.717.540.99✔
hf.co/OBLITERATUS/Qwen3.8-27B-OBLITERATED:Q4_K_M16.817.391.04✔
mistral-small:24b14.317.081.19✔
nimble:latest9.58.870.93✔
qwen3-vl:8b6.28.331.34✔
qwen3:8b5.27.721.48✔
qwen3:8b-lc5.27.721.48✔
qwen3.5:9b6.66.170.93✔
qwen3:4b2.55.342.14✔
qwen3:4b-ref2.53.221.29✔
gemma4:26b-a4b18.71.010.05✔

Vilka modeller ryms på hur mycket VRAM

24 GB är uppmätt på riktigt. Övriga nivåer är beräknade från det uppmätta VRAM-behovet vid Ollamas standardkontext – med kortare kontext ryms mer, med längre mindre.

Tre saker som avgör mer än man tror

Korten som matchar nivåerna, med dagens priser: grafikkortsguiden.

Vanliga frågor

Varför tar modellen mer VRAM än filen på disk?

Vikterna är bara en del. Ollama reserverar minne för kontextfönstret (KV-cache) och för beräkningsbuffertar. Ju längre kontext, desto mer minne – oberoende av modellens storlek.

Kan jag köra en modell som är större än mitt VRAM?

Ja, Ollama delar då lagren mellan GPU och CPU. Uppmätt hos oss: de 0 modeller som inte rymdes i 24 GB gav None–None tokens/s, mot minst 38.6 tok/s för dem som rymdes. Det fungerar, men det är en annan upplevelse.

Räcker 16 GB för qwen3:30b-a3b?

Nej enligt vår mätning: modellen tog 20.25 GB vid standardkontext. Med kraftigt kortad kontext kan det gå, men då förlorar du det modellen är bra på.

Källor och metod