.@athamzafarooq sul perché l'ingegneria del contesto è ora più critica dell'ingegneria dei prompt La maggior parte dei PM AI si concentra sull'ingegneria dei prompt: scrivere istruzioni migliori per ottenere output migliori. Ma questo funziona solo per risposte generiche. Nel momento in cui hai bisogno di personalizzazione, l'ingegneria dei prompt crolla. Considera un agente finanziario. Un utente vuole investimenti conservativi nell'S&P 500. Un altro vuole operazioni ad alto rischio in criptovalute. Come può lo stesso LLM fornire consigli pertinenti a entrambi gli utenti? L'ingegneria del contesto risolve questo problema sovrapponendo più fonti di informazione: prompt di sistema, prompt degli utenti, memoria a lungo termine delle interazioni passate e dati pertinenti estratti da RAG. "L'ingegneria dei prompt è ciò che dici a un LLM. L'ingegneria del contesto è come progetti le istruzioni per il tuo LLM. Questa è la bellezza di avere la conoscenza dell'ingegneria del contesto perché fa danzare l'intero ecosistema." Il fine-tuning funziona in modo diverso: è un'adattamento al compito. Alleni l'LLM su migliaia di esempi per specializzarlo per output specifici, come generare codice Python o comprendere il vocabolario dell'industria farmaceutica. Lezione: L'ingegneria del contesto è ora più importante dell'ingegneria dei prompt perché i prodotti AI moderni richiedono personalizzazione su larga scala. Devi orchestrare memoria, recupero e prompt simultaneamente per fornire risposte pertinenti a ciascun utente.