Crusoe Managed Inference je opravdu dobrý. Crusoe MemoryAlloy efektivně spojuje více vrstev paměti, aby zajistil masivní rozšíření KV cache a zrychlení inferenčních pracovních zátěží. To je obzvlášť silné pro dlouhé kontextové prompty. Jsem opravdu hrdý na tým, že dodal tak úžasný produkt! Zkuste to!