Con l'aumento delle dimensioni e delle capacità dei modelli, un problema diventa sempre più evidente: la velocità di verifica non riesce a tenere il passo con la complessità e la velocità dell'inferenza. Quando il processo di inferenza diventa sempre più simile a una scatola nera, l'origine del modello è poco chiara e il percorso di esecuzione non può essere riprodotto completamente, la fiducia inizia a vacillare. Non perché sia necessariamente errato, ma perché non possiamo dimostrare che non lo sia. Questo si chiama divario di verifica (verification gap). L'AI non è poco intelligente, ma manca di un modo affidabile per permettere a chiunque di confermare da quale modello provenga l'output, in quale ambiente è stato eseguito e se sono state seguite rigorosamente le regole. Ciò che Inference Labs vuole fare è piuttosto diretto: far sì che ogni output dell'AI abbia una propria impronta digitale crittografata. Non è una spiegazione posteriore, né una semplice garanzia da parte del fornitore, ma una prova che chiunque può verificare autonomamente e che è permanentemente consultabile, con identità, origine e integrità dell'esecuzione bloccate al momento dell'output. Solo rendendo il sistema auditabile si può realmente costruire fiducia; solo se la fiducia è dimostrabile, l'AI autonoma può essere implementata su larga scala in modo sicuro. Questa è la direzione che stanno promuovendo. #KaitoYap @KaitoAI #Yap @inference_labs