Att göra lite benchmarktester på @exolabs senaste versionen är toppen! Jag har hittat /bench/chat/completions-endpointen som inaktiverar cache mellan samtal! Precis vad jag behöver! Nu kör vi på de här M3 Ultras!