Les TEEs ne sont-ils pas vraiment lents ? Pour exécuter et attester quelque chose d'aussi volumineux qu'un LLM, cela ne représenterait-il pas un énorme obstacle computationnel ? Intel SGX utilise MPT pour vérifier l'intégrité, ce qui fait exploser les exigences en mémoire. Comment parvenez-vous même à faire cela pour quelque chose comme un LLM ?

Je suis vraiment juste curieux de savoir comment c'est possible d'ailleurs. Cela semble être un accomplissement incroyable et vaut la peine d'être examiné.

@rahulghangas si c'est le design donné avec les contraintes de HW, alors les TEEs ne sont pas la solution au problème