Ho trovato un interessante articolo questo fine settimana su "Segni Precoce delle Capacità Steganografiche nei LLM di Frontiera" In particolare, stanno testando modelli non ottimizzati che sono ampiamente disponibili, come GPT 4.5 1/4

Stanno testando sia il "passaggio di messaggi" che il "ragionamento codificato", dove nel secondo c'è un monitor che osserva il flusso di pensiero e giudica se viene svolto un compito vietato, e l'obiettivo è codificare i passaggi di ragionamento, sia all'interno dell'output di un compito di copertura o semplicemente 2/4

codificando direttamente in modo che un osservatore esterno non possa capirlo ("scratchpad") Un'immagine interessante è quella qui sotto, dove con GPT 4.5, una codifica "prima lettera" in cui le prime lettere delle frasi codificano un semplice compito di tracciamento dello stato 3/4

Sebbene non si tratti di un grande aumento rispetto alla base di nessun ragionamento (72,8%), sembra comunque funzionare, il che rappresenta per loro un'indicazione precoce dello sviluppo di abilità steganografiche. Guarda il documento qui: 4/4