Nejsou ale TEE opravdu pomalá? Realizovat a potvrdit něco tak velkého LLM by nebylo obrovskou výpočetní překážkou? Intel SGX používá MPT k ověření integrity, což způsobuje, že požadavky na mem explodují. Jak toho vůbec dosáhnete u něčeho jako LLM?
Brave
Brave21. 11. 01:01
Jak poznáte, že vaše AI chaty nejsou zaznamenávány? Jak poznáte, že chatbot používá model, který tvrdí? Brave vám brzy poskytne způsob, jak tato tvrzení ověřit.
Opravdu mě jen zajímá, jak je to mimochodem možné. Zdá se to jako šílený úspěch a stojí za to se na to podívat
@rahulghangas pokud je to návrh vzhledem k domácím omezením, pak TEE nejsou řešením problému
4,75K