AK consiglia di non usare troppo "cosa ne pensi" quando parli con LLM (modelli di linguaggio di grandi dimensioni), ma piuttosto di chiedere chi sono gli esperti in questo campo e poi far simulare all'AI le risposte di questi esperti, in modo da ottenere risultati migliori. Più di due anni fa, Andrej Karpathy ha detto qualcosa di simile in State of GPT. (vedi commento) Andrej Karpathy: Non dovresti mai considerare i modelli di linguaggio di grandi dimensioni (LLM) come entità viventi, ma piuttosto come simulatori super potenti. Per fare un esempio, quando vuoi esplorare un argomento in profondità, non dovresti mai chiedere: "Cosa ne pensi di xyz?" Perché non esiste un "tu" in questo contesto. La prossima volta prova a riformulare la domanda: "Se dovessimo discutere dell'argomento xyz, chi sarebbe il gruppo più adatto di persone (come esperti o portatori di interesse)? Cosa direbbero?" I modelli di linguaggio possono facilmente guidare e simulare una varietà di prospettive. Ma non sono come noi umani, che formano le proprie opinioni dopo un lungo periodo di "riflessione" e sedimentazione su xyz. Se insisti a usare la parola "tu" per forzare la domanda, il modello sarà costretto a basarsi sulle regole statistiche dei suoi dati di micro-regolazione (finetuning), richiamando una sorta di "vettore di incorporamento della personalità (personality embedding vector)" implicito, e poi reciterà quella personalità per darti una risposta simulata. (Nota: in parole semplici, quando chiedi "tu", l'AI indossa una maschera di "volto comune" per adattarsi a te, basandosi sui modelli di risposta più comuni nei dati di addestramento, e non sta realmente generando una personalità con autocoscienza.) Non c'è nulla di sbagliato in questo, e puoi ottenere una risposta. Ma ho notato che molte persone ingenuamente lo riducono a "chiedere all'AI cosa pensa", trovando la cosa molto misteriosa. In realtà, una volta che comprendi come simula, questo velo di mistero viene sollevato.