Ollama förbättrar Apple Silicon-prestanda och lanserar version 0.30

Ollama har släppt två viktiga uppdateringar: en prestandaförbättring för Apple Silicon via MLX-stöd och version 0.30 med bättre GGUF-hantering. För Mac-användare innebär detta markant snabbare lokal AI på M-serie-chipen.

MLX, Apples maskininlärningsramverk för Apple Silicon, ger Ollama betydande prestandavinster jämfört med den tidigare llama.cpp-baserade körningen. Enligt Ollamas tester ger MLX-stödet upp till 40 procent snabbare inferens på M-serie-chipen, särskilt för större modeller.

För att aktivera MLX-stödet behöver användare bara uppdatera till senaste Ollama-versionen och ange miljövariabeln `OLLAMA_MLX=1`. Därefter använder Ollama automatiskt MLX för alla modeller som laddas. Apple Silicon-användare kan förvänta sig märkbart snabbare svarstider, särskilt vid längre konversationer eller kodgenerering.

Ollama 0.30 förbättrar dessutom stödet för GGUF-formatet med bättre minneshantering och stöd för fler modellarkitekturer. Uppdateringen inkluderar också förbättrad kompatibilitet med populära modeller som Llama 4, Gemma 4 och Qwen 3.

För svenska utvecklare som kör lokala AI-modeller på Mac är dessa uppdateringar bland de mest praktiska på länge. Stegen för att aktivera MLX är enkla och prestandavinsten är direkt märkbar.

Källa: Ollama – MLX performance