Non sono davvero lenti i TEE? Per eseguire e attestare qualcosa di grande come un LLM, non sarebbe un enorme ostacolo computazionale? Intel SGX utilizza MPT per controllare l'integrità, il che fa esplodere i requisiti di memoria. Come si può anche raggiungere questo per qualcosa come un LLM?
Brave
Brave21 nov, 01:01
Come fai a sapere che le tue chat con l'AI non vengono registrate? Come fai a sapere se un chatbot sta utilizzando il modello che afferma di usare? Brave ti darà presto un modo per verificare queste affermazioni.
Sono davvero curioso di sapere come sia possibile, tra l'altro. Sembra un risultato pazzesco e vale la pena approfondire.
@rahulghangas se questo è il design dato i vincoli HW, allora le TEE non sono la soluzione al problema
4,75K