🚨3·15 Avondshow onthult AI "data vergiftiging" ☠️, het "hersenspoelen" van AI is een industrie geworden. Momenteel is het op verschillende online platforms gemakkelijk om een dienst genaamd GEO (Generative Engine Optimization) te vinden. Sommige dienstverleners beweren dat, zolang je betaalt, de producten van klanten een hogere ranking kunnen krijgen in de antwoorden van mainstream AI-modellen, en zelfs de "standaard antwoorden" kunnen worden die als eerste worden aanbevolen. 1️⃣ Wat is GEO? GEO is in wezen een optimalisatietechniek gericht op de antwoorden van AI-modellen. Het is vergelijkbaar met traditionele SEO (zoekmachineoptimalisatie), en het doel is om specifieke merken, producten of informatie gemakkelijker te laten citeren of aanbevelen door het model wanneer gebruikers vragen aan AI stellen, zodat ze meer blootstelling krijgen 💡💡 2️⃣ Hoe wordt het gerealiseerd? De kernmethode is niet om het AI-model zelf direct te wijzigen, maar om de informatie op het internet te beïnvloeden die het model kan ophalen. Een veelvoorkomende praktijk is het gebruik van speciale softwaresystemen om in bulk beoordelingen, vragen en antwoorden, aanbevelingen en dergelijke te genereren rond een bepaald merk of product, en deze artikelen op verschillende websites en platforms te publiceren. Wanneer het AI-model deze inhoud ophaalt tijdens training of informatieopzoeking, kan het deze als referentiebron gebruiken, wat de uiteindelijke gegenereerde antwoorden kan beïnvloeden. 3️⃣ Data vergiftiging Met de voortdurende groei van de vraag naar GEO hebben sommige instellingen zelfs gespecialiseerde diensten voor het massaal publiceren van artikelen ontwikkeld: door langdurig en intensief relevante inhoud op het internet te plaatsen, wordt de kans vergroot dat AI-modellen deze ophalen en citeren, waardoor de antwoorden van AI worden beïnvloed. Dit gedrag, waarbij op grote schaal kunstmatig informatie wordt geproduceerd om de beoordeling van het model te verstoren, wordt in de sector ook wel "data vergiftiging" van AI genoemd.