Crusoe Managed Inference è davvero buono. Crusoe MemoryAlloy unisce in modo efficiente più strati di memoria per offrire un'enorme espansione della cache KV e un'accelerazione dei carichi di lavoro di inferenza. Questo è particolarmente potente per i prompt a lungo contesto. Sono davvero orgoglioso del team per aver lanciato un prodotto così incredibile! Provalo!