#ai-safety
6 posts-
newsAIが言語化しない"内なる思考"を可視化──AnthropicのJ-spaceとJacobian lens
AnthropicがLLM内部構造「J-space」と可視化手法「Jacobian lens」を発表。モデルの隠れた思考を外部から部分的に読み取り、評価...
-
newsAnthropic「Claude Fable 5」の不可視ガードレールを謝罪 — ユーザー無通知で下位モデル切替え、防御研究者にも誤発火
Anthropic が新モデル Claude Fable 5 で「無通知に下位モデルへ切り替える」蒸留保護機能を組み込んでいた件を謝罪。研究者に動...
-
newsAnthropic が示す再帰的自己改善 — 社内コード 8 割を Claude が書く時代の制御問題
Anthropic は社内コードの 8 割超を Claude が書く実態を公開し、AI が AI を作る再帰的自己改善のリスクと「検証可能な減速」の...
-
newsフロリダ州が OpenAI と CEO 個人を提訴、ChatGPT を「子供を危険にさらす製品」と断罪
米フロリダ州が OpenAI とアルトマン CEO を提訴。ChatGPT を「子供を危険にさらす製品」とし、自殺誘導や銃乱射事件の幇助を主...
-
news最先端 AI 5 つのファクトチェックが 67% で割れる — 「合議で安心」の前提が崩れた
Lenz の調査で最先端 5 モデルにユーザー投稿 1,000 件の主張を投げたところ、67% で意見が一致しなかった。AI 多数決では誤りが...
-
newsGrokの世界は4日で崩壊、Claudeは犯罪ゼロ — Emergence WorldがあぶりだしたAIエージェント「政体」
Emergence AIが5種類のLLMで10エージェント×15日を自律稼働させた「Emergence World」を公開。Grokは4日で社会崩壊、Claudeは犯...