最近、ChatGPTに「この分野でおすすめの会社は？」と聞いて、自社が出るか確かめた方も多いんじゃないですかね。
ある分野で聞くと、ちゃんと名前が出てくる。ところが、隣の分野で聞くと、今度はまったく出てこない。
へクス子も、この「カテゴリをまたいだ瞬間に消える」現象を何度も見てきました（引っ越し直後の住民票なみの影の薄さですよ）。
こうなると、気になってくるわけです。AIは「この会社＝何の会社」を、そもそもどうやって覚えているんでしょうか。
覚え方に構造があるなら働きかけられるし、ただの気まぐれなら打つ手がない。ここは結構な分かれ目ですよね。
この疑問に、モデルの中身を開けて正面から挑んだ研究が出ていまして。今回はそのへんを掘り下げてみたいと思います。
そもそもAIは「この会社＝何の会社」をどう覚えているのか
見ていくのは、2026年4月にarXivで公開された研究であります（R）。
テーマは「（バインディング）」。日本語にすると「結びつけ」ですね。
bindingってのは、要は「A社＝ソフトウェアの会社」のように、別々の情報をひとつに束ねて覚える働きのことです。
会話でも文章でも、この結びつけができないと、誰が何をした話かすら追えません。
ちなみにAIは、関係をたどる推論そのものは得意なんですが、内部で何をどう束ねているのかは謎のままだったそうな。
研究チームはという分野の手法で、この束ね方をモデルの内部信号から解剖していきました。
機械的解釈可能性ってのは、AIの中で何が起きて答えが出たのかを、部品レベルで突き止める研究分野のことですね。
実験の設定は、ざっくり以下のとおり。
- 対象は、2つの系統のAIモデル
- 材料は、エンティティ（人や組織などの主体）と、関係のラベルが付いた統制されたデータセット
- そのうえで、内部信号から「どのエンティティ×どの関係の話か」を読み取れるかを検証
見つかったのは、格子状に並んだ「マス目」だった
で、何が見つかったかと言いますと、モデルの中の、意外なほど整理された「収納」だったんですよ。
研究チームはこれを「Cell-based Binding Representation」、日本語にすると「マス目式の結びつけ表現」と名づけています。
イメージは、壁一面のロッカーですね。「A社の1番目の関係」「A社の2番目の関係」と、組ごとに専用のマス目がある。
属性はそのマス目に束ねられていて、AIは答えるとき、該当のマス目から中身を取り出しているわけです。
しかもこのマス目たち、内部信号を特定の面に投影すると、格子状にきれいに並んでいました。
AIの頭の中に方眼紙が入っていたみたいな話でして、なかなか不思議な眺めっすね。
へクス子はてっきり、AIの記憶はもっと混沌としたものだと思い込んでいたんですよね。
どのマス目かは単純な計算で読み取れて、この読み取りは、題材の分野やモデルの系統が変わっても通用したそうな。
さらに、文脈が変わった場合も、マス目の配置は一定のズラし（平行移動）で対応づいていたとのこと。
つまり場当たりな丸暗記ではなく、使い回しの利く「住所システム」で覚えていたわけですね。
マス目をいじると、答えまで変わった
ここで疑い深い方は、「並んでいるだけで、答えに使っている証拠はあるの？」と思うでしょうな。
ごもっともでして、きれいな模様が見つかっただけなら、ただの飾りという可能性も残りますからね。
そこで登場するのが、（アクティベーション・パッチング）という検証です。
activation patchingってのは、動作中のAIの内部信号を部分的に張り替えて、答えがどう変わるかを見る実験手法ですね。
で、結果がどうだったかと言いますと。
- マス目の領域を操作すると、「どの関係の話をしているか」の予測が系統的に変わった
- 逆にこの領域を壊すと、関係を答える性能そのものが落ちた
つまりマス目は飾りではなく、答えを決めている現役の部品だった、ということですね。
「A社＝何の会社」という答えは、雰囲気ではなく、この特定の場所から取り出されていたわけです。
この話、どこまで一般化していいのか
とはいえ、風呂敷を広げすぎないための留保も、正確に置いておきましょう。
この研究は、ラベル付きの統制されたデータセットと、2つのモデル系統を対象にした分析です。
ChatGPTのような実運用の巨大モデルの挙動を、そのまま説明しきるものではありません。
それから、束ね方の仕組みが分かったことと、束ね方を狙って変える手法が効くかどうかは、別の問題でしょう。
「こう書けばマス目に入る」という実務手法の検証は、これからの宿題になりましょう。
それでも、「AIの記憶には構造がある」と分かった意味は大きいんですよ。
構造があるということは、観察できて、原理的には働きかけられる対象だ、ということですからね。
「何の会社か」は、束ねやすく整えて、測る
そんなわけで、今回の話をマーケター目線でまとめてみましょう。
AIが自社を「この分野の会社」として出すかどうかは、内部でブランドと属性の結びつけが作られているかに懸かっています。
作られていなければ、そのカテゴリで名前は出ない。気まぐれではなく、構造の問題だったわけですね。
だから打ち手も、この構造に合わせるのが筋になるわけです。押さえどころは、大きく2つですね。
- 「自社＝このカテゴリ」という事実を、公式サイトや第三者の記事で一貫した形に揃えて、AIが束ねやすい状態にする
- AIが今、実際にどのカテゴリで自社の名前を出しているかを、定点で測る
語られたいカテゴリで名前が出ていないなら、それは結びつけがまだ弱いというシグナルであります。
一貫した事実を置いて、束ね直しを待ち、また測る。この往復が、遠回りに見えて一番の近道になりましょう。
いやはや、AIの脳内も開けてみれば、案外きちんと片付いているものですね。自社の「マス目」に今なにが束ねられているのか、まずはそこを確かめてみるのがよさそうです。
出典
- Qin Dai, Benjamin Heinzerling, Kentaro Inui, “Cell-Based Representation of Relational Binding in Language Models”, arXiv:2604.19052, 2026年4月21日, arxiv.org（LLMがエンティティ・関係・属性をどう結びつけて（binding）覚えるかを機械的解釈可能性の手法で分析。「エンティティ×関係インデックス」の対ごとに1つのセル（マス目）が対応する低次元線形部分空間 Cell-based Binding Representation を発見。インデックスは PLS 回帰で線形にデコード可能で、ドメイン・モデルファミリを跨いで成立し、投影した活性空間で格子状の幾何パターンを形成。文脈固有の表現は平行移動ベクトルで関係づき、文脈間の転移が可能。activation patching による介入でこの部分空間を操作すると関係予測が系統的に変わり、破壊すると性能が低下＝因果的に機能していることを確認。対象は2つのモデルファミリと、エンティティ・関係のアノテーション付き統制データセット。限界: 統制された設定での分析であり、実運用の巨大モデルの挙動を完全に説明するものではない）
