Актуальные темы
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Вот почему нам нужны открытые бенчмарки для локального ИИ.
В противном случае это превращается в племеннойism и оскорбления.
Мы будем публиковать крупнейшую базу данных открытых бенчмарков для локального ИИ, протестированную на более чем 1000 реальных аппаратных конфигурациях. Каждое устройство, каждое соединение, разные модели/квантования.
У нас в офисе полно оборудования: каждый M-чип Mac, каждый iPhone, каждый RTX, DGX Spark, Strix Halo, Pi, …
В общем, у кремниевых чипов Apple превосходная экономика памяти, а у графических процессоров - превосходная экономика вычислительных единиц. Что лучше, зависит от рабочей нагрузки и параллелизма.
Истина (которая станет очевидной в открытых бенчмарках) заключается в том, что лучшее - это некое сочетание обоих - размещайте свои ресурсоемкие задачи на Mac, а вычислительно нагруженные задачи на графических процессорах.
Топ
Рейтинг
Избранное
