MetalRT blev precis den första kompletta AI-inferensmotorn för Apple Silicon: LLM + STT + TTS av @RunAnywhereAI. Vi hade redan den snabbaste LLM-avkodningen (658 tok/s). Nu har vi krossat både STT och TTS också, och slagit MLX överlag. Dagens siffror för M4 Max: - 1-timmes podcast transkriberad på ~5 sekunder - 3-timmars möte transkriberat på ~15 sekunder - Livetextning med noll märkbar fördröjning - 714 gånger snabbare än realtid för STT - 4,6 gånger snabbare än Apples MLX på tal-till-text Alla tre modaliteter. En enhetlig motor. Och detta är bara de enskilda komponenterna. Den fullständiga röst-AI-pipelinen vi bygger ovanpå kommer att vara den SNABBASTE någonsin på Apple Silicon. Lanserar snart. Fullständiga riktmärken, diagram och detaljer finns i kommentarerna. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI