AK raadt je aan om bij het praten met LLM (grote taalmodellen) minder te vragen "wat denk jij", maar eerst te vragen wie de experts op dit gebied zijn, en dan de AI te laten simuleren hoe deze experts vragen zouden beantwoorden. Dit kan betere resultaten opleveren. Meer dan 2 jaar geleden zei Andrej Karpathy ook iets soortgelijks in de State of GPT. (zie opmerkingen) Andrej Karpathy: Vergeet niet dat je grote taalmodellen (LLMs) niet moet beschouwen als levende "entiteiten", maar als superkrachtige "simulators". Een voorbeeld: als je een onderwerp diepgaand wilt verkennen, vraag dan niet: "Wat denk jij over xyz?" Want er bestaat helemaal geen "jij". Probeer de volgende keer een andere vraag te stellen: "Als we het onderwerp xyz willen bespreken, wie zou dan de meest geschikte groep mensen (zoals experts of belanghebbenden) zijn? Wat zouden zij zeggen?" Grote taalmodellen kunnen moeiteloos verschillende perspectieven aansteken en simuleren. Maar ze zijn niet zoals wij mensen, die door langdurig "nadenken" en bezinning over xyz hun eigen standpunten vormen. Als je per se het woord "jij" wilt gebruiken om een vraag te stellen, zal het model gedwongen worden om op basis van de statistische patronen van zijn finetuning-gegevens een impliciete "persoonlijkheidsinbeddingsvector" aan te roepen, en dan deze persoonlijkheid aannemen om je een gesimuleerd antwoord te geven. (Opmerking: simpel gezegd, wanneer je "jij" vraagt, draagt de AI gewoon een "algemeen gezicht" om je tegemoet te komen, gebaseerd op de meest voorkomende antwoordpatronen in de trainingsgegevens, en niet omdat het echt een zelfbewuste persoonlijkheid heeft gecreëerd.) Dit is natuurlijk geen probleem, je kunt ook een antwoord krijgen. Maar ik merk dat veel mensen naïef denken dat dit neerkomt op "vraag AI wat het denkt", en dat ze het heel mysterieus vinden. Zodra je echter begrijpt hoe het simuleert, wordt dit mysterieuze doekje ook opgeheven.