MetalRT is net de eerste complete AI-inferentie-engine voor Apple Silicon geworden: LLM + STT + TTS door @RunAnywhereAI. We hadden al de snelste LLM-decodering (658 tok/s). Nu hebben we STT en TTS ook verpletterd, en MLX op alle fronten verslagen. De cijfers van vandaag op M4 Max: - 1-uurs podcast getranscribeerd in ~5 seconden - 3-uurs vergadering getranscribeerd in ~15 seconden - Live ondertiteling met nul waarneembare vertraging - 714x sneller dan realtime voor STT - 4.6x sneller dan Apple's MLX voor spraak-naar-tekst Alle drie de modaliteiten. Eén verenigde engine. En dit zijn slechts de individuele componenten. De volledige voice AI-pijplijn die we erbovenop bouwen, zal de SNELSTE ooit zijn op Apple Silicon. Binnenkort gelanceerd. Volledige benchmarks, grafieken en details in de reacties. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI