Im Moment sind wir der Meinung, dass sich die Modelle so schnell ändern und so groß sind, dass der einzige Weg, sich auf sie zu verlassen, über das Roundtripping zum Hyperscaler ist. Das ist die Dynamik, die mit Webservern passiert ist. HTML hat sich so schnell verändert, dass Apps, die damit geschrieben wurden, schneller verbessert wurden, als „Client-Code“ auf traditionelle Weise verteilt werden konnte. Das Problem war, dass die Bandbreite nicht schnell genug zunahm. Daher zwang die Einschränkung dazu, mehr Rechenleistung auf Servern zu nutzen. Dies wiederum verlangsamte den Fortschritt der „Web-UI“ für Endbenutzer. Wie die heutige Chat-Oberfläche die effektivste Möglichkeit ist, Informationen hin und her an das Modell, das auf einem Hyperscaler läuft, zu übermitteln. Da natürliche Sprache notorisch ungenau ist und das Hin und Her eine frustrierende Art ist, Arbeit zu erledigen, scheint es natürlich, dass strukturiertere Schnittstellen ihren Weg zur Nutzung von Modellen finden werden. Und damit wird die „Laufzeit“ für die Nutzung von Modellen allmählich auf das Gerät migrieren, um schneller und effizienter zu sein. Deshalb ist es heute so, dass, wenn Sie eine „Web-App“ verwenden, obwohl sie viel Roundtripping macht, sie auch eine sehr große „Edge“-Laufzeit nutzt, die im Browser + dem Browser-Cache von ausführbarem Code enthalten ist.