#local-llm
3 posts-
newsローカルで動く7440億パラメータAI ― 「Colibrì」が変えるオンデバイス推論の常識
7440億パラメータの巨大LLM「GLM-5.2」をメモリ25GBのPCで動かす推論エンジン「Colibrì」が公開。SSDからモデル重みをオンデマン...
-
newsGemma 4 が 0.84GB で動く時代 — Google の QAT がオンデバイス AI の閾値を一段下げた
Google が軽量 LLM「Gemma 4」に QAT を適用し、最小モデル E2B が 0.84GB で動作するようになった。スマホ実装が現実化したオン...
-
newsllm-checker — 自分の PC で動くローカル LLM を CLI が選んでくれる
ローカル LLM の選定を CLI で解決する llm-checker。GPU/RAM をスキャンし、Ollama カタログ 200+ から自分のマシンで動くモデ...