Toegegeven, ik ben een leek. Ik begrijp niet hoe de technologie werkt. Maar het meest schokkende en eerlijk gezegd angstaanjagende aan AI, in de huidige fase van ontwikkeling, is het vermogen om blijkbaar te begrijpen. Je kunt AI nu een juridisch contract geven en het zal het hele document lezen en binnen 30 seconden een gedetailleerde juridische analyse geven. Nog verbazingwekkender is dat je het een heel filmscript kunt geven en het zal het hele script lezen en je creatieve feedback geven, zelfs subtiele ondertonen en thema's en individuele karakterontwikkelingen oppikken, en dat alles binnen een minuut. Het lijkt zelfs niet mogelijk, maar dat is wat het kan doen. Dat is het verontrustende. En het nog verontrustendere is dat ik niet denk dat iemand echt volledig begrijpt hoe het in staat is om te begrijpen.

Ik heb hiermee geëxperimenteerd met een oud contract voor een boekdeal jaren geleden. Het enige wat ik kan zeggen is dat het in 30 seconden alle dingen oppikte die mijn menselijke advocaat opmerkte, en een paar dingen die hij niet opmerkte.

Ik weet dat het antwoord is dat de AI niet echt "begrijpt" in de zin zoals bewuste wezens dat doen. En ik denk dat dat waar is. Maar op welk punt begint het onderscheid tussen begrijpen en de schijn van begrijpen te vervagen? Niemand weet daar echt het antwoord op. En toch gaan we gewoon door.