Questo documento del BMW Group e del principale istituto di ricerca della Corea mette in luce un punto cieco in cui quasi ogni azienda che utilizza LLM sta entrando a piè pari. Continuiamo a parlare di "allineamento" come se fosse un interruttore di sicurezza universale. Non lo è. Il documento introduce COMPASS, un framework che mostra perché la maggior parte dei sistemi AI fallisce non perché siano insicuri, ma perché sono disallineati con l'organizzazione che li implementa. Ecco l'intuizione centrale. Gli LLM vengono solitamente valutati rispetto a politiche generiche: regole di sicurezza della piattaforma, linee guida etiche astratte o rifiuti in stile benchmark. Ma le aziende reali non operano su regole generiche. Operano su politiche interne: - manuali di conformità - playbook operativi - procedure di escalation - casi legali particolari - vincoli specifici del marchio E queste regole sono disordinate, sovrapposte, condizionali e piene di eccezioni. COMPASS è costruito per testare se un modello può effettivamente operare all'interno di quel caos. Non se conosce il linguaggio delle politiche, ma se può applicare la politica giusta, nel contesto giusto, per la ragione giusta. Il framework valuta i modelli su quattro aspetti che i benchmark tipici ignorano: ...