AI開発スタートアップのPrismMLが、270億パラメータの大規模言語モデル「Qwen3.6-27B」をiPhone 17 Pro単体で動作させることに成功したと主張している。The Informationの報道によれば、Appleはこの技術を自社デバイスに取り込む可能性を検討するため、PrismMLとの協議を進めているという。
量子化＋蒸留で27Bモデルを手のひらサイズに #
従来、27Bクラスのモデルを動かすにはGPUが数枚必要だった。PrismMLはパラメータの4ビット量子化とレイヤー蒸留を組み合わせることで、iPhone 17 ProのNeuralエンジンとオンチップSRAMに収まるサイズに圧縮したと説明する。推論速度や精度の詳細は非公開だが、「実用に耐えるレベル」と評価されている。LlamaクラスのモデルをiPhone上で動かす試みは以前からあったが、27Bという規模は際立つ。
オンデバイスAIが開く「クラウドゼロ」の世界 #
オンデバイス推論の恩恵はプライバシーだ。会話ログがAppleサーバにも外部APIにも送られず、ネットワーク遮断状態でも稼働する。企業秘密・医療相談・法的な問い合わせを端末だけで処理できる環境は、ハッカーコミュニティが長年欲しがっていた「完全ローカルLLM」の一般化に直結する。
セキュリティ屋が注目すべき影の側面 #
一方で、強力なLLMがローカルで動くことは新たな攻撃面も生む。クラウドAPIを経由せず自己改良ロジックを生成できるマルウェアの可能性が現実味を帯びてくる。PCでは「オフラインLLMを呼び出すワーム」の概念実証がすでに複数報告されており、その障壁がスマートフォンまで低下すれば同種の攻撃が携帯端末に波及しかねない。また、端末紛失時に「ロック画面を突破せずに推論を悪用される」シナリオも新たな攻撃ベクタとして検討が始まっている。
Appleが本格採用に踏み切るかは未定だが、端末AIの競争軸は「クラウドで何億パラメータを動かすか」から「端末に何を詰め込めるか」へと明確にシフトした転換点だ。
COMMENTS 0
No comments yet — be the first to leave one.