Model se zvětšuje, schopnost sílí, ale zároveň je tu problém, který se zvětšuje! Ověřování nedrží krok s rychlostí a složitostí inference. Jak se proces inference stává stále neprůhlednějším, zdroj modelu se rozmazává, cesta provedení nelze obnovit a důvěra přirozeně kolabuje. Ne proto, že by byl systém špatný, ale nikdo nemůže dokázat, že není špatný. To je podstata "mezery v ověřování". Nejde o to, že by AI nebyla dostatečně pokročilá, ale že chybí způsob, jak přesně potvrdit, z jakého modelu každý výstup pochází, za jakých podmínek a že funguje podle očekávaných pravidel. Vize Inference Labs je jednoduchá. Každý výstup AI by měl nést svůj vlastní šifrovaný otisk prstu. Není to vysvětlení zpětně, ani to není schváleno výrobcem, ale certifikát, který může kdokoli nezávisle ověřit a sledovat po dlouhou dobu. Identita, původ a integrita provedení by měly být zajištěny okamžitě od momentu generování výstupu. To je základ auditovatelné autonomie – když lze systém ověřit, lze mu důvěřovat; Když je důvěra prokazatelná, autonomní systémy se skutečně mohou posunout k škálování. Tohle je budoucnost, kterou budují! #KaitoYap @KaitoAI #Yap @inference_labs