#quantization
2 posts-
newsiPhone単体で270億パラメータAIが動く時代 ― "Bonsai 27B"が突きつける新たな攻撃面
PrismMLがQwen3.6-27Bを1-bit量子化しiPhoneで動作する「Bonsai 27B」を発表。クラウド不要で情報漏えいリスクを減らす一方、重...
-
newsGemma 4 が 0.84GB で動く時代 — Google の QAT がオンデバイス AI の閾値を一段下げた
Google が軽量 LLM「Gemma 4」に QAT を適用し、最小モデル E2B が 0.84GB で動作するようになった。スマホ実装が現実化したオン...