Таке відчуття, що я працюю з командою з 10+ людей, оскільки GPT-5 тут. HVM4 лише 1 місяць, і він вже витісняє HVM3 у всіх вимірах. У нас тепер працює прототипний паралельний режим (так, з лінивою оцінкою!), з очікуваним прискоренням.

Пам'ятайте, що паралельний режим був: - Зламався на HVM1 (який був ледачий) - Чудово на HVM2 (але це було суворо) - Ніколи не реалізовано на HVM3 Наявність правильного паралельного + лінивого режиму все ще була відкритою проблемою, але з цим налаштуванням ми нарешті досягли цього. Якщо це спрацює, це означає, що ми можемо масштабувати SupGen за допомогою справжньої потокової оцінки, що набагато швидше, ніж шардинг, який ми зараз виконуємо. Знову ж таки, сумно, що у нас є 256 mac mini, тому що вони оптимізовані для шардингу. Це 1024 продуктивних ядра, розділений обсяг 256 одиниць з 4 ядрами, по 16 ГБ кожне. З реальною паралелізмом ми могли б замість цього вибрати Mac Studios. Але чи варто це насправді? З тими ж $ ми могли б отримати 16 студій, з 512 ГБ пам'яті, і по 24 продуктивних ядра кожна. Отже, хоча це дозволяє нам найкращим чином використовувати справжній паралелізм, це також означає, що ми маємо приблизно в ~3 рази менше загальної суми обчислень. Чи тоді це було б того варте? Насправді не знаю, але скоро дізнаємося. Можливо, я дійсно зробив правильний вибір (хоча мав неповну інформацію)

Пам'ятайте, що паралельний режим був: - Зламався на HVM1 (який був ледачий) - Чудово на HVM2 (але це було суворо) - Ніколи не реалізовано на HVM3 (проблеми з Haskell) Наявність правильного паралельного + лінивого режиму все ще була відкритою проблемою, але з цим налаштуванням ми нарешті досягли цього. Якщо це спрацює, це означає, що ми можемо масштабувати SupGen за допомогою справжньої потокової оцінки, що набагато швидше, ніж шардинг, який ми зараз виконуємо. Знову ж таки, сумно, що у нас є 256 mac mini, тому що вони оптимізовані для шардингу. Це 1024 продуктивних ядра, розділений обсяг 256 одиниць з 4 ядрами, по 16 ГБ кожне. З реальною паралелізмом ми могли б замість цього вибрати Mac Studios. Але чи варто це насправді? З тими ж $ ми могли б отримати 16 студій, з 512 ГБ пам'яті, і по 24 продуктивних ядра кожна. Отже, хоча це дозволяє нам найкращим чином використовувати справжній паралелізм, це також означає, що ми маємо приблизно в ~3 рази менше загальної суми обчислень. Чи тоді це було б того варте? Насправді не знаю, але скоро дізнаємося. Можливо, я дійсно зробив правильний вибір (хоча мав неповну інформацію)

@0xHP10 також написати купу тестів і попросити штучний інтелект виконувати їх при кожній невеликій зміні, яку він вносить. GPT-5 дуже і дуже добре вміє самовиправлятися (і навіть вчитися і розуміти) на основі невдалих тестів

@0xHP10 також пишемо хороші тести і просимо штучний інтелект виконувати їх для кожної невеликої зміни, яку він вносить. GPT-5 дуже добре самовиправляється (і навіть навчається) на основі невдалих тестів