Es fühlt sich an, als würde ich mit einem Team von über 10 Personen arbeiten, seit GPT-5 hier ist. HVM4 ist erst 1 Monat alt und übertrifft bereits HVM3 in jeder Dimension. Wir haben jetzt einen prototypischen Parallelmodus (ja, mit fauler Auswertung!) am Laufen, mit der erwarteten Beschleunigung.

Denke daran, dass der Parallelmodus war: - Kaputt auf HVM1 (was faul war) - Großartig auf HVM2 (aber es war streng) - Nie auf HVM3 implementiert Die korrekte Kombination aus Parallel- und Faulmodus war immer noch ein offenes Problem, aber mit diesem Setup kommen wir endlich voran. Wenn es funktioniert, bedeutet das, dass wir SupGen durch echte Thread-Bewertung skalieren können, was viel schneller ist als das Sharding, das wir derzeit machen. Es ist jetzt wieder traurig, dass wir 256 Mac Minis haben, denn die sind für Sharding optimiert. Das sind 1024 Leistungskerne, aufgeteilt auf 256 Einheiten mit 4 Kernen, jeweils 16 GB. Mit echtem Parallelismus hätten wir stattdessen Mac Studios wählen können. Aber wäre das tatsächlich wertvoll? Für das gleiche Geld hätten wir 16 Studios bekommen können, mit 512 GB Speicher und jeweils 24 Leistungskernen. Das bedeutet, während wir so das Beste aus echtem Parallelismus herausholen können, haben wir auch ungefähr ~3x weniger Gesamt-Computing-Leistung. Wäre das dann wertvoll? Ich weiß es tatsächlich nicht, aber wir werden es bald herausfinden. Vielleicht habe ich die richtige Wahl getroffen (auch wenn ich unvollständige Informationen hatte)

Denke daran, dass der Parallelmodus war: - Kaputt auf HVM1 (was faul war) - Großartig auf HVM2 (aber es war streng) - Nie implementiert auf HVM3 (Haskell-Probleme) Die korrekte Kombination aus Parallel- und Lazy-Modus war immer noch ein offenes Problem, aber mit diesem Setup kommen wir endlich voran. Wenn es funktioniert, bedeutet das, dass wir SupGen durch echte Thread-Bewertung skalieren können, was viel schneller ist als das Sharding, das wir derzeit machen. Es ist jetzt wieder traurig, dass wir 256 Mac Minis haben, denn die sind für Sharding optimiert. Das sind 1024 Leistungskerne, aufgeteilt auf 256 Einheiten mit 4 Kernen, jeweils 16 GB. Mit echtem Parallelismus hätten wir stattdessen Mac Studios wählen können. Aber wäre das tatsächlich wertvoll? Für das gleiche Geld hätten wir 16 Studios bekommen können, mit 512 GB Speicher und jeweils 24 Leistungskernen. Das bedeutet, während wir so das Beste aus echtem Parallelismus herausholen können, haben wir auch ungefähr ~3x weniger Gesamt-Computing-Leistung. Wäre das dann wertvoll? Ich weiß es tatsächlich nicht, aber wir werden es bald herausfinden. Vielleicht habe ich die richtige Wahl getroffen (auch wenn ich unvollständige Informationen hatte)

@0xHP10 schreibe auch eine Menge Tests und bitte die AI, sie bei jeder kleinen Änderung, die sie vornimmt, auszuführen. gpt-5 ist sehr, sehr gut darin, sich selbst zu korrigieren (und sogar zu lernen und zu verstehen) basierend auf fehlgeschlagenen Tests.

@0xHP10 schreibe auch gute Tests und bitte die AI, sie für jede kleine Änderung, die sie vornimmt, auszuführen. gpt-5 ist sehr gut darin, sich selbst zu korrigieren (und sogar zu lernen) basierend auf fehlgeschlagenen Tests.