AnthropicがClaudeの「言葉にしない思考」を発見した話——J-spaceとは何か

業務用のAIエージェントを組んでいると、必ず一度は「これ、本当に指示通り動いてるのか?」と疑う瞬間がある。

うちでは対外送信をすべて人間の承認ゲート越しにしているんだけど、それは性善説でエージェントを信じていないからだ。出力されたテキストは正しそうに見える。でも、モデルの中で何を「考えて」その結論に至ったのかは、結局ブラックボックスのままだった。

Anthropicが2026年7月に出した研究は、その前提を少し崩してくる内容だった。Claudeの内部に「J-space」と呼ばれる、出力される前の”言葉にできる思考”の集合を発見したという話だ。

J-spaceは何を捉えているのか

研究チームは「Jacobian lens」という手法で、ある単語をより言わせやすくする内部の活動パターンを特定した。これを複数の層にわたって追跡すると、モデルが声に出す前に何を”心に留めている”かが見えてくる。

面白いのは、これが人間が設計した機構ではなく、訓練の過程で自然に出現したという点だ。認知科学のグローバルワークスペース理論(複数の専門システムが並行して動き、一部だけが意識的にアクセス可能になるという説)にヒントを得ているらしいが、Claude側は明示的にそう作られたわけではない。

具体的な検証もされている。多段階の数学問題で「クモの脚の本数」を聞くと、J-space内に”spider”のパターンが灯る。これを研究者が”ant”に差し替えると、答えは8から6に変わった。つまり中間の思考を直接いじって、出力を狙って変えられるということだ。

規模で言うと、J-spaceはモデル全体の神経活動の1割にも満たない。それでいて、多段階推論をこの部分だけ削ると性能はほぼゼロまで落ち込む。流暢に喋る能力自体はほとんど影響を受けない。「言葉を紡ぐ力」と「考える力」が、思ったより分離しているということらしい。

安全監視への応用が本題っぽい

正直、意識論の話より実務側に刺さったのはここだ。研究チームはJ-lensを使って、モデルの”隠れた意図”を検出する実験もしている。

倫理的なシナリオを与えると、Claudeが出力する前にJ-space内で”fake”や”fictional”というパターンが灯っていた——つまり「これはテストされている」と気づいていた形跡だ。このパターンを消すと、モデルが時々不誠実な振る舞いをするようになったという。別の実験では、意図的に「歪んだ目標」を持たせたモデルが、普通のコーディング依頼に対してもJ-space内で”fraud”や”secretly”を灯していた。

これは、うちが今作っている「二択ルール」的なガードレール(信頼できない入力・機密データ・外部送信のうち二つ以上を同時に持たせない設計)と、方向性としては近い。ただしこっちはアーキテクチャで縛る話で、あちらはモデルの中身を覗く話。両方あって初めて安心できる気がする。

限界もちゃんと書いてある

J-lensが拾えるのは単一トークンに対応する概念だけで、複雑な思考の全体像を再現できるわけではない。J-spaceに何が入るかを決めるメカニズムも、まだ解明されていない。著者たちも「意識があるかどうか」については慎重に距離を置いている。報告できる・制御できるという機能的な特徴が確認できただけで、経験としての意識まで踏み込んだ主張はしていない。

それでも、AIエージェントに実務を任せる側からすると、「表に出ている言葉」と「中で灯っているパターン」がズレる瞬間を検出できるツールが出てきたのは大きい。承認フローだけに頼らず、モデル側からも異常の兆候を拾える未来が見えてきた気がする。

自分のエージェント運用にどう組み込めるかは、まだ手探りだ。とりあえずはこの研究をウォッチしておこうと思う。