Честно говоря, немного бычий по этому поводу.
Wei Ping
Wei Ping1 февр., 08:03
Квантование с учетом дистилляции (QAD) обеспечивает точность, близкую к BF16, с NVFP4! Удивительная работа, возглавляемая @huizi_mao
@BVeiseh О, да - черт возьми, да
15