iPhone単体で270億パラメータAIが動く時代 ― "Bonsai 27B"が突きつける新たな攻撃面

スマホ1台で270億パラメータAIが動く #

AI開発企業PrismMLが、270億パラメータの大規模言語モデル「Bonsai 27B」を発表した。ベースは中国Alibaba系の「Qwen3.6-27B」(通常54GB)で、これを重みを±1のみで表現する1-bit量子化により3.9GBまで圧縮。iPhone 17 Pro級の端末単体で、ベンチマークスコアは元モデル比約90%を維持したまま動作するという。中間の3値(-1/0/+1)を使うTernary版(5.9GB)なら約95%維持で、より高精度な選択肢もある。26万トークンの長文脈処理や画像・書類の読み取り、外部ツール呼び出しを伴う「AIエージェント」動作にも対応し、Apache License 2.0でHugging Faceから誰でも入手できる。

クラウド不要の魅力と、見落とされがちな代償 #

ローカル完結の最大の利点は、個人情報や業務データを一切外部送信せずに処理できる点だ。通信環境に依存せず、企業の機密文書をクラウドLLMに投げる際の情報漏えいリスクも原理的に消える。

しかしハッカー視点で見ると、話はそう単純ではない。まず、配布される重みファイル自体が改ざん・バックドア埋め込みの標的になり得る。Hugging Face上のモデルはsafetensors形式でも、量子化パイプラインを経た派生モデルは検証が難しく、サプライチェーン攻撃の温床になりやすい。さらに深刻なのが、画像やスクリーンショットを読み取って外部ツールを呼び出す「エージェント機能」だ。悪意あるQRコードや細工した画面表示を読ませるだけで、モデルに不正な指示を注入する「間接プロンプトインジェクション」が成立する余地がある。クラウド側の監視・フィルタが効かない端末内実行だからこそ、こうした攻撃は検知されにくい。

利便性と引き換えに、攻撃面は「サーバ」から「あなたのポケットの中」へと移動しつつある。