AI-nyheter
Xiaomi MiMo når över 1 000 tokens per sekund – men 15x snabbare än ChatGPT behöver förklaras
Xiaomi MiMo-V2.5-Pro-UltraSpeed når över 1 000 tokens per sekund på vanliga GPU-servrar. Här är vad hastighetsrekordet betyder – och vad det inte betyder.
Xiaomi MiMo har fått stor uppmärksamhet efter uppgifter om att modellen kan generera över 1 000 tokens per sekund. Memeburn beskriver det som att MiMo är 15 gånger snabbare än ChatGPT, men den viktigaste poängen är mer specifik: det handlar om inferenshastighet på en trillion-parameter-modell, inte om att Xiaomi plötsligt har byggt en AI som är 15 gånger smartare än ChatGPT.
Xiaomi har släppt MiMo-V2.5-Pro-FP4-DFlash på Hugging Face. Modellen beskrivs som den underliggande modellen bakom MiMo-V2.5-Pro-UltraSpeed, en version som enligt Xiaomi och TileRT når över 1 000 tokens per sekund från en modell i 1T-klassen på en vanlig servernod med åtta GPU:er.
Det är därför rubriken om att MiMo är 15 gånger snabbare än ChatGPT behöver läsas rätt. Tokens per sekund mäter hur snabbt modellen kan mata ut text när den väl körs. Det säger inte allt om kvalitet, resonemang, säkerhet, användarupplevelse eller hur snabbt en tjänst känns i praktiken för vanliga användare.
Om Xiaomis siffror håller i bredare tester är det ändå en viktig nyhet. Hög inferenshastighet är en av de stora flaskhalsarna för AI-tjänster. Snabbare svar betyder lägre kostnad per användare, bättre upplevelse i chattgränssnitt och större möjlighet att köra agentflöden där modellen behöver göra många steg efter varandra.
Det är särskilt intressant att Xiaomi lyfter fram att hastigheten nås på commodity GPUs, alltså vanligare hyrbara GPU-servrar, inte specialchip från aktörer som Cerebras eller Groq. Det gör nyheten relevant för fler än bara hårdvarubolag. Om tekniken fungerar robust kan den påverka hur stora modeller optimeras för drift i molnet.
Så ska man förstå hastigheten
MiMo-V2.5-Pro-FP4-DFlash kombinerar flera tekniker. Den ena är FP4-kvantisering av expertlagren i en MoE-modell. Förenklat betyder det att stora delar av modellen lagras och körs med färre bitar, vilket minskar minneskrav och bandbreddstryck.
Den andra delen är DFlash, en form av spekulativ avkodning där en mindre “drafter” föreslår block av tokens som den större modellen sedan verifierar. I stället för att generera text helt token för token kan systemet hoppa fram snabbare när förslagen accepteras.
Den tredje delen är TileRT, ett systemlager med anpassad kompilering och kernels för just den här typen av kvantisering och avkodning. Det är alltså inte bara modellen som är snabbare, utan kombinationen av modell, kvantisering, avkodning och körmiljö.
Det betyder inte att MiMo slår ChatGPT på allt
ChatGPT är en produkt, inte en enda statisk modell. Hastigheten i en publik AI-tjänst påverkas av modellval, säkerhetsfilter, serverbelastning, nätverk, verktygsanvändning och hur mycket resonemang modellen gör innan svaret visas.
Därför är “15x snabbare än ChatGPT” mer en uppmärksamhetsrubrik än en fullständig teknisk jämförelse. Det rättvisa är att säga att Xiaomi visar mycket hög textgenereringshastighet för en stor modell i en optimerad miljö. Det är imponerande, men det säger inte automatiskt att MiMo ger bättre svar än OpenAI, Anthropic, Google eller andra toppmodeller i alla uppgifter.
Nyheten passar in i en större trend: AI-branschen jagar inte bara större modeller, utan billigare och snabbare modeller. När modeller används i agenter, kodverktyg och företagsflöden blir kostnad och svarstid lika viktiga som benchmarkpoäng.
Det är också därför öppen tillgång via Hugging Face spelar roll. När modellkort, vikter och tekniska detaljer finns tillgängliga kan utvecklare och forskare testa påståendena själva. De närmaste veckorna blir det viktigt att se oberoende tester av kvalitet, stabilitet och faktisk hastighet i olika miljöer.
Slutsats
Xiaomi MiMo är en nyhet värd att ta på allvar, men rubriken behöver nyanseras. Över 1 000 tokens per sekund är ett starkt tekniskt påstående och kan få betydelse för kostnaden att köra stora AI-modeller. Men hastighet är bara en del av ekvationen.
Det viktiga är inte om MiMo är “15 gånger bättre än ChatGPT”. Det viktiga är att Xiaomi visar hur mycket prestanda som kan pressas ut ur stora modeller med smart kvantisering, spekulativ avkodning och bättre systemoptimering.