ДА! Кто-то обратил внимание на Neural Engine от Apple и обучил нейронную сеть на его основе. Apple никогда не разрешала это. ANE предназначен только для вывода. Нет публичного API, нет документации. Тем не менее, они его взломали. Почему это важно: • M4 ANE = 6.6 TFLOPS/W против 0.08 для A100 (в 80 раз более эффективно) • "38 TOPS" - это ложь - реальная пропускная способность составляет 19 TFLOPS FP16 • Ваш Mac mini имеет этот чип, который в основном бездействует Перевод: локальный AI вывод, который быстрее И использует почти ноль энергии. Все еще ранние исследования, но дверь теперь открыта. → #AI #MachineLearning #AppleSilicon #LocalAI #OpenSource #ANE #CoreML #AppleSilicon #NPU #KCORES