MetalRTはApple Silicon向けの初の完全なAI推論エンジンとなりました:LLM + STT + TTS @RunAnywhereAI。 すでに最速のLLMデコード(658 tok/s)を持っていました。 今ではSTTとTTSも圧倒し、MLXを総合的に上回りました。 本日のM4 Maxの数字: - 1時間のポッドキャストが~5秒で文字起こし - 3時間の会議は~15秒で書き起こし - 遅延ゼロのライブ字幕 - STTではリアルタイムの714倍高速 - 音声入力においてAppleのMLXより4.6倍高速 これら3つの治療法すべてです。一つの統一されたエンジン。 そしてこれは個々の部品のみです。私たちがその上に構築しているフル音声AIパイプラインは、Apple Siliconで史上最速となるでしょう。まもなく発売予定です。 完全なベンチマーク、チャート、詳細はコメント欄にあります。 #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI