Я слухав подкаст, який варто послухати, «Silicon Valley 101|Епоха інфраструктури на трильйон доларів AI-центрів обробки: зростання ВВП США залежить від цього». Оскільки подкаст дуже довгий, я поділюся деякими ключовими моментами, які зафіксував, і розгляну деякі цілі, пов'язані з електроенергією та обчислювальною потужністю, згаданими в ньому. Якщо є час, ви все одно можете послухати повну версію. Розділ думок: 1️⃣Які найпотужніші компанії в дата-центрах? OpenAI є найагресивнішим і має на меті створити обчислювальну потужність 10 ГВт або навіть 100 ГВт у довгостроковій перспективі. xAI та Meta також агресивні, розміщуючи турбінні генератори та захоплюючи землі з низьким енергоспоживанням для будівництва дата-центрів. (5-7 трильйонів інвестицій на підході) 1 ГВт відповідає інвестиції у 50 мільярдів. 2️⃣ Microsoft будує дата-центри у прискорених темпах, і ідея будівництва дата-центрів змінилася протягом року. Google і Microsoft вже мають понад 10 ГВт хмарних центрів. Тому нові компанії з ШІ будуть більш агресивними. 3️⃣ Чіпси не такі короткі, як енергія. За останні 2 роки виробничі потужності чипів зросли. Розрив у пам'яті буде трохи більшим, але найбільший розрив все одно буде через електрику. 4️⃣Логіка стратегії Power First: Той, хто має електроенергію, може використати таку велику обчислювальну потужність, щоб здобути більшу частку ринку та отримати прибуток для циркуляції цього процесу. Ризик «недоінвестування» значно більший, ніж ризик «надмірних інвестицій». 5️⃣Енді дає, Білл забирає. Енді згадує колишнього генерального директора Intel Енді Гроува, а Білл — колишнього генерального директора Microsoft Білла Гейтса, що означає, що продуктивність, яку покращує апаратне забезпечення, швидко споживається програмним забезпеченням. Наразі внутрішні GPU великих виробників (META тощо) недостатні, і для використання потрібна велика обчислювальна потужність. Навіть якщо обчислювальна потужність надлишкова, її можна використати для зниження внутрішніх витрат. 6️⃣ Навіщо будувати великий дата-центр (потужністю понад 1 ГВт)? Знизьте операційні витрати + забезпечте ефективність навчання ШІ. Тенденція полягає в тому, що кластери карт від 10 000 до 100 000 або навіть більше. 7️⃣ Де використовується обчислювальна потужність? Два роки тому для попереднього навчання використовували більше обчислювальної потужності, що не приносило доходу, але зараз це більше перейшло до інференції (60%), і очікується, що частка додатків і висновків у майбутньому продовжить зростати (що дійсно створить ВВП). 8️⃣ Обчислювальна потужність у режимі простою може використовуватися стартапами для висновку, але вона більше підходить для стартапів, ніж для великих фабрик, які більше дбають про ефективність. 9️⃣ Джерело живлення ⚡️ дата-центрів: Енергетична система США зростала повільно протягом останніх 20 років, з річним темпом зростання 1%, що значно повільніше, ніж темпи зростання дата-центрів Новий попит: Сполученим Штатам потрібно додати 80 ГВт виробництва електроенергії, Розрив: 20 ГВт на рік (8 ГВт з дата-центрів) Нью-Йорк використовує 6-11 гігават електроенергії на рік Постачання: на основі природного газу, зберігання сонячної енергії, ядерна енергетика (після 2028 року) 🔟 Крихка мережа США: Виробництво електроенергії (50%) - передача (20%) - розподіл (30%). Існуючі мережі також мають труднощі з поглиненням цих нових поколінь....