Градієнт Говорячи про децентралізовану AI Infra, проєкти в цьому треку — це фінансові монстри, бо здатність розповідати історії дуже сильна, але де це можна впровадити на цьому етапі — це реально, і який різний досвід можна принести з точки зору @Gradient_HQ: Використовуючи найпростішу структуру для розбиття ШІ, його можна поділити на 4 рівні: оркестрація застосунків/виконання/навчання моделей/дані, які можна розуміти буквально. Більшість проєктів DeAI зосереджені на рівні оркестрації виконання, додаючи функції, пов'язані з крипто, такі як розрахунки та стимули, перевірка ZK тощо. Наразі найконцентрованіша і найдорожча частина навчання та виконання на рівні моделей, і на цьому етапі її важко децентралізувати. Для новачків спочатку популяризуйте базові науки, і ви можете пропустити цю частину, якщо маєте професійні знання. Виконання та оркестрацію можна розуміти як розподіл вимог до обчислювальної потужності та моделей, таких як ринок обчислювальної потужності, планування завдань тощо, спочатку розумійте «обчислювальну потужність», простими словами, щоб модель працювала, потрібно багато математичних операцій, і здатність виконувати ці операції — це обчислювальна потужність. У традиційній сфері ШІ, наприклад, коли ви спілкуєтеся з ChatGPT, вам потрібна обчислювальна потужність за лаштунками для виконання операцій виведення, яка переважно надходить від дата-центру в хмарі (GPU/AI акселератор на сервері), а ваш вхідний контент → надсилається на бекенд через мережу → набору GPU/акселераторів у бекенд-центрі для запуску моделі, завершення виведення → і надсилання результатів назад у браузер. Поточна основна інфраструктура Gradient: Parallax, яка відрізняється від обчислювальних систем H100 і H20, які ми зазвичай бачимо, полягає в тому, що він еквівалентний розділенню інференції на пристрої різних моделей, різної відеопам'яті та різних мережевих умов, і автоматично розділяє модель на відповідні розміри, щоб кожна машина могла працювати. Більшість проєктів досі намагаються «оселитися на ланцюгу» офлайн-H100, але Gradient зробила тут сміливішу спробу, дозволивши об'єднати два 4090 на $4,000 у один A100 вартістю близько $20,000. Тут увімкнено два сценарії використання: 1/ Кожен може використовувати кілька комп'ютерів вдома для самообслуговування великих моделей, що повністю захищає особисту приватність. 2/ Кожен може приєднатися до кластера мережі висновків, працювати з друзями над моделями міркувань і навіть створити більшу мережу висновків. Тут Gradient також розробив набір відносно складних алгоритмів, зокрема оптимізацію кількості зрізів і сегментів, а також вимогу динамічної маршрутизації. Звісно, Gradient не просто так робить — це відкрита AI-інфраструктура. Вона також включає низку тем, які наразі є на передовій кола ШІ, таких як підкріплене навчання, що показує, що команда дуже амбітна і уважно слідкує за інноваціями в сфері ШІ. Нещодавно команду також визнали та підтримали лабораторії ШІ, такі як Dark Side of the Moon, Ali Qianwen тощо, що досі є досить рідкісним у колі, і цей спосіб покращення ШІ спочатку поглинає різноманітні ресурси та створює відкриту відкриту систему, яка дозволяє більшій кількості людей легко запускати великі моделі та створювати цікавіші додатки. Порівняно з орендою обчислювальної потужності, це знижує витрати до певної міри, знижує ризики окремих точок і підвищує стійкість до цензури, що більш звичне для криптовалют, а з точки зору конфіденційності конфіденційні дані можна залишати в регіоні/поруч для обробки. Багато гігантів індустрії також позитивно ставляться до DeAI, і Девід О. Сакс, один із найбільших прихильників DeAI Narrative, неодноразово публічно наголошував, що ШІ змінить світ, але його централізований шлях розвитку сповнений ризиків. Децентралізована інфраструктура ШІ — єдиний спосіб гарантувати, що інновації й надалі вільно конкурують. Наразі Gradient має інвестиції у $10 мільйонів, очолювані зірковими інвесторами, такими як Multicoin Capital, Pantera, HSG (раніше Sequoia China) та іншими. "Якщо ШІ стане монополізацією, гра закінчена. Майбутнє залежить від того, чи зможе розвідка бути відкритою — децентралізованою, розподіленою та доступною для всіх.» — Девід О. Сакс