量子化

📡 Signal｜Metaが30BのMuse Glimmerを公開した——AIを自分の機械に置くのに、実際いくら要るのか

Metaが30BのMuse GlimmerをApache 2.0で公開した。GPU1枚で動くと言うが、フル精度なら55GB超、圧縮しても24〜32GBの枠が要る。手元に置くことで何が買え、何は買えないのかを値段ごと見る。