MetalRT только что стал первым полным движком для вывода ИИ для Apple Silicon: LLM + STT + TTS от @RunAnywhereAI. У нас уже был самый быстрый декодер LLM (658 ток/с). Теперь мы также победили STT и TTS, обойдя MLX по всем параметрам. Сегодняшние показатели на M4 Max: - 1-часовой подкаст расшифрован за ~5 секунд - 3-часовая встреча расшифрована за ~15 секунд - Живые субтитры без заметной задержки - 714x быстрее реального времени для STT - 4.6x быстрее, чем MLX от Apple по преобразованию речи в текст Все три модальности. Один унифицированный движок. И это только отдельные компоненты. Полный голосовой ИИ-пipeline, который мы строим, будет САМЫМ БЫСТРЫМ на Apple Silicon. Запуск скоро. Полные бенчмарки, графики и детали в комментариях. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI