MetalRT:stä tuli juuri ensimmäinen täydellinen tekoälypäättelymoottori Apple Siliconille: LLM + STT + TTS @RunAnywhereAI. Meillä oli jo nopein LLM-dekoodaus (658 tok/s). Nyt olemme murskanneet myös STT:n ja TTS:n, päihittäen MLX:n kautta linjan. Tämän päivän luvut M4 Maxista: - 1 tunnin podcast litteroituna ~5 sekunnissa - 3 tunnin kokous litteroituna ~15 sekunnissa - Live-tekstitys ilman havaittavaa viivettä - 714x nopeampi kuin reaaliaikainen STT:lle - 4,6x nopeampi kuin Applen MLX puheesta tekstiksi -järjestelmässä Kaikki kolme menetelmää. Yksi yhtenäinen moottori. Ja nämä ovat vain yksittäisiä osia. Täysi äänitekoälyputki, jonka päälle rakennamme, tulee olemaan NOPEIN koskaan Apple Siliconilla. Käynnistyy pian. Täydelliset vertailutulokset, kaaviot ja yksityiskohdat kommenteissa. #AppleSilicon #OnDeviceAI #MetalRT #STT #TTS #VoiceAI