AIとの対話は普段、上から下に流れるだけの「チャットログ」として扱われる。だが実際にモデルが参照しているのは、その中の断片的な文脈の集合体だ。オープンソースツール「ThoughtDAG」は、この見えない対話履歴をノードとエッジのグラフ構造として可視化・編集できるようにする。Windows/macOS/Linux向けにインストーラーが提供され、Ollama経由でローカルLLM（gemma系など）も利用可能。クラウドに繋がず手元だけで完結させられる点も見逃せない。
1. 会話をノード化
発言や参照ドキュメントを個別ノードとして展開する。
2. 参照を"ワイヤー"表示
モデルがどのノードを根拠に回答したかを線で可視化。
3. 不要ノードを削除/統合
誤情報や古い文脈をグラフから直接切り離す。
4. 同条件で再現
明確化されたコンテキストで一貫した応答を得る。
コンテキストの汚染を"見える化"する意味 #
エージェント型AIの実運用で厄介なのは、長期の対話履歴やRAGで取り込んだ外部文書に紛れ込んだ不正な指示（プロンプトインジェクション）が、後の応答に影響を与え続けるケースだ。従来のチャットUIでは「モデルが実際にどの文脈を参照して今の回答を出したか」を追うのは困難だった。ThoughtDAGのようにグラフとワイヤーで参照関係を明示するアプローチは、こうした汚染源の特定と除去を監査可能にするという点で、レッドチーム/ブルーチーム双方にとって実務的な意味を持つ。ローカルLLM完結という設計も、機密性の高い調査ログをクラウドに出したくない現場には向いている。
過信は禁物 #
とはいえ個人開発者による発展途上のOSSであり、ノードを削除しても内部の重み・KVキャッシュ側に痕跡が残らない保証はモデル実装依存だ。「見た目のグラフを消したから安全」という誤解は禁物で、あくまでデバッグと監査を助ける可視化ツールとして捉えるべきだろう。
注意
グラフからノードを削除しても、モデル側の内部状態が完全に忘却する保証はない。機密情報の取り扱いは引き続き慎重に。
COMMENTS 0
No comments yet — be the first to leave one.