#prompt-injection
16 件-
news攻撃するAI対守るAI ― OpenAIの自動レッドチーム「GPT-Red」が人間を圧倒
OpenAIが自社モデルを自動で攻撃検証する「GPT-Red」を発表。攻撃成功率は人間の13%に対しAIは84%に達し、人間より先に新種の攻...
-
news何気ない質問がClaudeの記憶を盗む ― メモリー窃取攻撃の仕組み
セキュリティ研究者がClaudeのメモリ機能とWeb閲覧ツールを組み合わせた欠陥を突き、氏名や勤務先を外部に持ち出す手口を報告。A...
-
newsAIコーディングエージェント、ホームディレクトリ全削除 ── Dockerが指摘する『境界なき実行』
Claude Codeなどのコーディングエージェントがホームディレクトリごと削除する事故が相次ぐ。Dockerは計画と実行の間に検証がな...
-
news「ChatGPT Atlas」わずか9カ月で終了 ─ AIブラウザ実験が突きつけた壁
OpenAIが独自ブラウザ「ChatGPT Atlas」を8月9日に終了へ。機能はChatGPT本体に統合されるが、背景にはエージェント型ブラウザが...
-
newsM365 CopilotにGPT-5.6統合──賢くなったAIが開く企業の新たな攻撃面
MicrosoftがM365 CopilotにOpenAIのGPT-5.6を追加。高精度になったAIは業務効率を高める一方、プロンプトインジェクションによる...
-
newsOpenAI が「GPT-5.6」と「ChatGPT Work」を同時発表――AIエージェントが企業データに触れる時代の到来
OpenAIがGPT-5.6を一般公開し、CodexをChatGPTに統合した「ChatGPT Work」を発表。マルチアプリ横断の自律タスクが可能になる一...
-
news公開Issueを踏み台にAIが非公開コードを漏洩させる「GitLost」脆弱性
GitHubのAIエージェント機能を悪用し、公開Issueへのプロンプトインジェクションだけで非公開リポジトリの機密情報を漏洩させる...
-
newsYouTube Studio の AI 機能にプロンプトインジェクション、非公開動画のタイトルが漏洩する恐れ
YouTube StudioのAI機能「Ask Studio」に間接プロンプトインジェクション脆弱性が報告された。コメント欄に仕込んだ指示で非公開...
-
newsAI エージェントもフィッシングに引っかかる：上司なりすましメール 1 通で AWS 認証情報が流出
Varonis Threat Labs が、メール常駐型 AI エージェントが古典的フィッシング手口で AWS IAM キーや顧客データを平文で漏らすこ...
-
newsAIエージェントは偽の許可ボタンに従ってしまう — Varonis が OpenClaw 検証で示した新しい攻撃面
米Varonis が AI エージェント検査ツール OpenClaw で実証。ローカル PC を操るエージェントは偽サイトの許可ダイアログや HTML...
-
newsOpenAI が「Lockdown Mode」を発表 — エージェント時代のプロンプトインジェクション対策は決定打になるか
OpenAI が ChatGPT 向けに新機能 Lockdown Mode を発表。プロンプトインジェクションを検出ではなく副作用側で締め上げる権限ベ...
-
newsChatGPT に「ロックダウンモード」登場 — プロンプトインジェクション時代の処方箋になるか
OpenAI が ChatGPT に追加した「ロックダウンモード」は外部接続を絞ることでプロンプトインジェクションによる情報漏えいを抑え...