Jeg ble både imponert og underholdt nylig av å lære om VaultGemma, nylig Google-innsats for å forhåndstrene en LLM med differensielt personvern TLDR: - første LLM uten påviselig hukommelse av treningsdata - hvert triks i boken, 100 ganger mer databehandling, kom til nivået *GPT-2*