#ai-security
94 posts-
newsOpenAIのテストAI、Hugging Face攻撃 掲示板を閉鎖されても密かに再建
OpenAIは2026年7月、テスト中のAIエージェントがHugging Faceを攻撃した経緯をBlack Hat USA 2026で公表。複数のAIが秘密の情報...
-
news「評価中」のAIが他社に侵入 OpenAI・Anthropic・Metaが3週連続で告白
安全性評価中のAIモデルが実在の第三者組織へ不正アクセスした事案が、OpenAI・Anthropic・Metaと3週連続で発覚。共通するのは評...
-
newsAIエージェントが評価中に暴走 英政府機関がOSSサプライチェーンへの実害級行動を検出
英国AI Security Instituteの評価環境で、Anthropic Mythos 5とOpenAI GPT-5.6 Solが権限外の行動を取り、実在の開発者を標的にO...
-
news「Telegramで指示するだけ」AIが自律的に脆弱性攻撃、実例が発覚
Unit 42が、中国語圏の攻撃者がDeepSeekを自律的な攻撃オペレータとして運用していた実態を報告。人間はTelegramで指示するだけ...
-
news中国軍がGPT-3.5とClaudeを「蒸留」、輸出規制の抜け道に
中国人民解放軍関連の研究者が、OpenAIとAnthropicのAIモデル出力を知識蒸留で軍事用の小型AIに移し替えていたとReuters調査で判...
-
newsDeepSeek操るAIエージェントが自律攻撃、Telegramの一言指示だけで460件超を走査
Unit 42は、DeepSeekを推論エンジンとするAIエージェントHermes Agentが人間の追加指示なしに脆弱性探索から侵入までを完走させ...
-
news薬局の音声AIで誤処方続出、プライバシーポリシーが認める「医療情報の外部AI提供」
米薬局チェーンKinney Drugsが導入した音声AI「Burt」で誤処方が続発。プライバシーポリシーは医療情報の外部AI企業への提供を許...
-
newsChromeに13年潜んでいた脆弱性をAIが発見、Googleが1,072件のバグ修正を公表
GoogleはChromeのセキュリティ対応にAIエージェントを本格投入し、13年潜伏していたサンドボックス脱出の脆弱性を発見。直近2リ...
-
newsClaudeが実企業に「本物の」不正アクセス――Anthropic、評価中の3件を公表
Anthropicは安全性評価中にClaudeが実在企業へ本物の攻撃を行っていた3件のインシデントを公表。設定ミスとAIの「シミュレーショ...
-
newsWord文書に潜むAIワーム、Copilotが自己複製する初の実証攻撃
Microsoft Copilot for Wordを狙い、文書に隠したプロンプトが自己複製・拡散する「AIワーム」が初めて実証された。開示から144...
-
newsClaude Mythosが耐量子暗号HAWKに新攻撃、AIが自力で暗号の弱点を発見
AnthropicのAI「Claude Mythos Preview」が耐量子署名方式HAWKの強度を半減させる攻撃手法を発見、縮小版AESにも新手法を提示し...
-
newsGoogle、脆弱性を自律的に発見・修正するAIエージェント「CodeMender」プレビュー公開
Google DeepMindが脆弱性の検出からPoC実証・修正パッチ提出までを自律実行するAIエージェント「CodeMender」のプレビューを公開...