De veronderstelling die iedereen vandaag de dag lijkt te hebben, is dat de kosten voor inferentie momenteel sterk gesubsidieerd zijn en in de nabije toekomst dramatisch zullen toenemen. Ik denk dat dat mogelijk een gebroken mentaal model is, kijkend naar eerder gesubsidieerde bedrijven met extreem hoge marginale kosten.
Veel van deze modellen draaien vandaag de dag niet eens op verlies per model eenheid (vooral als je de trainingskosten als CapEx beschouwt, wat ze naar mijn mening zijn). Ik denk dat de waarschijnlijke uitkomst is dat ze per token veel goedkoper worden en dat het aantal verbruikte tokens exponentieel groeit.
33