🚨 Tämä artikkeli selittää, miksi useimmat agenttien esittelyt eivät kestä oikeita käyttäjiä. Kun lisäät työkalut, muistin ja autonomian, jokainen "prompt-puolustus" hajoaa. Tämä ei tee niin. Useimmat "nopeat injektiopuolustukset" hajoavat heti, kun lisäät agentteja, työkaluja tai muistia. Artikkelissa ehdotetaan kolmen agentin turvallisuusputkea sekä neljättä arvioivaa agenttia. Jokaisella agentilla on kiinteä rooli: tuotanto, puhdistus, politiikan valvonta. Ei väittelyitä. Ei fiilistä. Vain kerroksellista puolustusta. Jokainen välitulos tarkastellaan, pisteytetään ja kirjataan. Todellinen läpimurto on Nested Learning. Sen sijaan, että kehotuksia käsiteltäisiin tilattomina tapahtumina, jokaisella agentilla on Continuum Memory System keskipitkällä ja pitkäaikaisella muistilla. Kehotteet ovat upotettuja ja yhdisteltyjä semanttisesti. Jos uusi hyökkäys näyttää aiemmalta nähdyltä, agentti käyttää uudelleen vahvistettua vastetta sen sijaan, että regeneroisi sen. Tämä tekee kolme asiaa yhtä aikaa. 1, turvallisuus. 301 todellisen nopean injektion hyökkäyksen aikana, jotka kattavat 10 hyökkäysperhettä, järjestelmä ei saavuttanut yhtään korkean riskin tietomurtoja. Ei vähentynyt riski. Nolla. 2, havaittavuus. He esittelevät uuden mittarin nimeltä OSR, joka mittaa, kuinka paljon tietoturvapäättelyä altistaa auditoinneissa. Vastoin intuitiota suurin läpinäkyvyys toimi parhaiten kokonaisuutena. 3, kestävyys. Semanttinen välimuisti vähensi LLM-kutsuja 41,6 %, pudottaen latenssin ~9 sekunnista 150 ms:iin välimuistireiteissä. Vähemmän puheluita tarkoittaa alhaisempia kustannuksia, pienempää energiankulutusta ja pienempiä hiilidioksidipäästöjä ilman mallipainojen koskemista. Johtopäätös on epämukava useimmille agenttien rakentajille. Turvallisuus ei synny nokkelista vihjeistä. Se tulee arkkitehtuurista, muistista ja arviointialasta. Tämä on yksi selkeimmistä suunnitelmista tuotantotason, turvallisen ja kestävän agenttisen tekoälyn suunnittelusta. Lue koko artikkeli täältä: