熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁

Chamath Palihapitiya
上帝在細節中。
.@JonathanRoss321(TPU的發明者和創始人)和我在2017年打了這個賭注。@GroqInc 現在是市場上最快的推理解決方案。
到目前為止,這裡有一些學到的教訓:
- 如果我們假設能達到超級智能,然後是一般智能,整個遊戲將會集中於推理。推理的設計架構與訓練的完全不同。記憶和功耗考量截然不同。速度至關重要。
- 從一個經過驗證、便宜且高度可用的製程節點開始,並保持在那條曲線上。將複雜性(例如2nm)和良率問題堆疊到推理晶片上,將導致每個輸出令牌的成本在商業上無法合理化。
- 一切都關乎模型的可用性和多樣性。如果你的晶片本質上是針對一個模型的ASIC,你要麼需要在內部以超大規模使用它(例如Google和TPU),要麼需要激勵應用公司為其開發(例如Amazon與Anthropic和Inferentia)。
無論如何,我對這個方向非常支持,但Meta需要避免在執行策略上出現一些坑。
我祝他們一切順利——更多的解決方案在我看來是更好的。
131.91K
或者是任何製作 Dojo 的人……哦等等!

Aaron Levie7月23日 02:15
NVIDIA 將成為第一家市值 10 萬億美元的公司
623.02K
對於那些想要在線上獲得重要性的人來說,這是一個重要的推論:
影響力和受歡迎程度是絕對價值的運算。
負面或正面的關注並不重要。重要的是大眾在談論你,而不是其他人。
當你以這種方式衡量你的訂閱者/追隨者增長時,你會發現這一點隱藏在明面上。

signüll7月22日 10:19
在網上失控現在成為了一種前期策略。
這個過程幾乎太乾淨了:
發廢文 → 觀眾 → 想法 → 產品 → 賺錢。
235.63K
隨著基礎模型製造商在「通用矽」模型質量上取得的所有進展,是時候將模型本身轉向設計其專用矽以適應各種用例的任務了。
目前這在小程度上已經發生,但供應限制應該會迫使更多的模型製造商意識到設計定制矽的必要性。
不過,對於這一設計挑戰,一些限制是重要的。
最重要的是在非尖端工藝節點上保持有用的設計,以免造成供應限制或良率問題,並且不會在電子層面與物理學作鬥爭。
第二個是如何設計內存使用 - 根據用例的快取與HBM之間的明顯矛盾。
冷卻又是另一個問題。我一直在與一位優秀的工程師合作設計一個CO2冷卻熱泵。如果成功,機架、系統和芯片應該考慮這一點,並努力利用這些不同的冷卻動力學,因為這樣可以減少限制。
等等等等。
無論如何,我清楚地知道,在五年後,我們會回顧矽的多樣性將會爆炸性增長。
我期待看到大量關於新芯片的公告,從預訓練開始,然後延伸到推理。

Sam Altman7月21日 06:14
到今年年底,我們將啟用超過 100 萬個 GPU!
我對團隊感到非常自豪,但現在他們最好開始努力,想辦法將這個數量提高 100 倍,哈哈。
133.23K
他們說你應該打籃球來突破薪資上限。
更像是獲得博士學位…

Daniel7月21日 03:16
更新:我被告知有一個為期四年的12.5億美元的報價,這是我見過的最高金額
各位,究竟發生了什麼事
171.5K
我這週讀的內容……
本週,特朗普總統簽署了一項行政命令,創建了G類別,這是聯邦政府內部針對某些政治任命的新分類。
這解決了政府在管理預期隨每屆政府變化的政策制定職位方面的長期空白。
過去,這些角色常常處於灰色地帶。有些由職業公務員擔任,這些公務員在不同的總統任期內保持不變,而其他則被鬆散地歸類於用於機密人員而非政策決策者的類別。
這使得新上任的政府難以進行人事變動,即使是在塑造和執行政策的核心職位上。
此外,對於職業公務員和其他政策相關人員的公務員保護使得解雇過程過於緩慢和複雜,經常使經理無法對表現不佳的員工追究責任。
G類別旨在提供一個結構組件,以突破聯邦機構中的官僚惰性,同時也給予未來的總統更多的自由度,以引入與其議程一致的政策團隊,最終確保機構能夠響應選舉領導。
88.61K
熱門
排行
收藏
鏈上熱點
X 熱門榜
近期融資
最受認可