Sind TEEs nicht wirklich langsam? Um etwas so Großes wie ein LLM auszuführen und zu attestieren, wäre das nicht eine enorme rechnerische Hürde? Intel SGX verwendet MPT, um die Integrität zu überprüfen, was die Speicheranforderungen explodieren lässt. Wie erreicht man das überhaupt für etwas wie ein LLM?

Ich bin wirklich nur neugierig, wie das möglich ist, btw. Es scheint eine verrückte Leistung zu sein und es lohnt sich, genauer hinzuschauen.

@rahulghangas wenn das das gegebene Design unter HW-Beschränkungen ist, dann sind TEEs nicht die Lösung für das Problem