Довіра часто припускається, а не нав'язується. Коли агенти ШІ переходять від помічників до автономних акторів, це припущення тихо руйнується. Справжній режим невдачі — це не погане розуміння, а агенти, які виконують дії без жорстких обмежень. Розумні агенти, що працюють на слабкій інфраструктурі, не створюють автономії. Вони створюють ризик.
Проблема в тому, що довіру не можна вивести з наміру чи результатів. В автономних системах очікування, політики та «найкраща поведінка» не масштабуються. Без чіткої ідентифікації, обмежених повноважень і виконуваних обмежень на момент виконання системи покладаються на сліпу делегування. Журнали та пояснення після факту не запобігають пошкодженню, вони лише описують це. У цей момент довіра перетворюється на оптимізм, підкріплений інструментами.
Kite вирішує це, забезпечуючи довіру на рівні інфраструктури. Ідентичність агента, повноваження, обмеження та виконання визначаються нативно і перевіряються на ланцюзі, тому дії обмежуються до їх здійснення і не пояснюються пізніше. Це дозволяє агентам діяти незалежно та безпечно, без людських дозволів або сліпої довіри. На Кайті довіра — це не обіцянка. Це властивість системи 🪁
311