もどる HexScope Lens

「誰が聞いたか」でAIの推薦は変わる、中堅ブランドは最大75%が入れ替わるという研究の話

POINT この記事のポイント
  • 「あなたは〜です」の一言でAIの推薦が入れ替わる
  • 顧客像ごとに測ると、平均では消えていた差が出る

「その数字って、誰が聞いたときの数字ですか」。AI可視性のレポートを1枚にまとめて出したときに、誰に聞いた数字かまでは、書き添える発想が最初から無かったのかもしれません。

自社が何%の質問で名前を出せたか、先月から何ポイント動いたか。そこまでは出せるんですよ。

なんですが、その1本の折れ線が「どんな人が聞いた場合の話なのか」を聞かれると、途端に足元が怪しくなる。

へクス子も、質問文さえ揃えておけば条件は揃っていると思っておりました。同じ文章を投げているんだから、同じ土俵だろう、と。

ところが、聞き手の設定を一言足すだけで挙がるブランドが入れ替わる、という測定結果がありまして。その入れ替わりが大きいのは中堅帯で、挙がる名前の4分の3までが別のものに変わります。

AIにおすすめされるブランドは、質問する人によって変わるのか

変わります。同じ質問文でも、冒頭に「あなたは英国の中小企業の経営者です」のような聞き手の設定を足すと、挙がるブランドの重なりは0.12〜0.20下がりました。

とくに動いたのは中堅帯で、ミッドマーケットのブランドは最大75%が入れ替わっております。一方でカテゴリリーダーは、聞き手が変わっても約80%が同じまま残りました。

出どころは、Will Jack らUnusual.ai のチームが2026年5月28日にarXivへ投稿したプレプリント(査読前の論文)です(R)。

測ったのは、外部の検索結果を根拠に答える方式の商用チャットですね。ペルソナ10種×質問8種×モデル構成3種×反復10回で、合計2,000回を実行したんだそうな。

ペルソナってのは、要は「聞き手はこういう立場の人です」という前置きのことなんですよ。業種・企業規模・役職・地域を組み合わせ、米国の単独創業者、大企業の調達担当役員、英国の中小企業経営者といった10種を手作業で用意しています。

一番手の席は動かない、中堅帯には空きが出る

で、聞き手の設定がどれだけ効くかは、ブランドの知名度帯で分かれておりました。論文はブランドを知名度で階層に分け、聞き手を変えたときの入れ替わり率を出しています。

3つのモデル構成での幅で並べると、こうなりました。

  • カテゴリリーダー: 20〜29%
  • ミッドマーケット(中堅帯): 39〜75%
  • 地域プレイヤー: 27〜33%

一番手は誰が聞いても出てくるので、聞き手が変わっても席が動きません。中堅帯は、聞き手が変わるたびに席が空いたり埋まったりしているわけです。

これは悪い知らせに見えて、読み方としてはむしろ逆であります。

席が固定されていないということは、自社が入り込める余地がまだ残っているわけっすね。

同じ聞き手で何回も聞くと、どこまで答えが揃うのか

重なりの尺度に使われたJaccard 指標ってのは、2つの顔ぶれがどれだけ共通しているかを0〜1で表す物差しでして、1に近いほど同じブランドが並んでいることになります。

聞き手をまたいだときの重なりは0.22〜0.35。一方、同じ聞き手のまま繰り返したときでも0.42〜0.51どまりでした。

つまり、同じ人が同じことを聞いても、半分近くは違う顔ぶれが返ってきている。そのうえで、聞き手が変わるとさらに大きくぶれる、という二段構えですね。

1回の測定で「うちは推薦圏内でした」と言い切るのは、1回のじゃんけんで相手の癖を語るようなものです。自社が業界の一番手でないなら、月ごとに推薦へ入ったり外れたりするのは、測定のノイズではなく構造かもしれません。

へクス子が思うに、聞き手を分ける前に、まず同じ条件で繰り返す設計が要るということになりましょう。回数と聞き手のどちらが欠けても、差は読めません。

どこまで自社の話として読んでよいか

著者4人は全員 Unusual.ai の所属です。AI上のブランド可視性を扱う事業者ですから、「ペルソナ別に測る必要がある」という結論は、そのまま自社の商売に効きます。

数字の届く範囲を切るものは、あと5つあります。

  • 査読状況が明記されていないプレプリントである
  • ペルソナは手作業の10種のみ。英語のみで、地域は米国・英国・EUに集中している
  • 単日の測定であり、日をまたいだ変動は評価していない
  • ロングテールの専業ブランド帯は全条件で標本不足(1条件あたり30件未満)で、数字が出せていない
  • Anthropic の構成は8つの質問のうち4つしかカバーしていない

因果の話でもありません。言えるのは「聞き手を変えると結果が変わっていた」までで、「ペルソナを書き足せば推薦が取れる」ではないわけですね。

もう1点、Anthropic のモデルのほうが聞き手の影響が大きく(下がり幅0.20)、検索結果と紐づかない推薦が43〜52%ありました。OpenAI の構成では、同じ割合が8〜29%になります。

著者はこれを「学習時の知識に寄って答えている割合の差ではないか」と見ていますが、機構としてはまだ未確定なんだそうな。AIの優劣の話ではなく、AIごとに測り分ける理由として読むのが妥当でしょうな。

主要な顧客像ごとに、同じ質問を投げ分ける

そんなわけで、AI可視性を1本の折れ線で持っていると、聞き手ごとの動きが平均に潰れてしまうことが見えてまいりました。とくに中堅帯にいるブランドほど、その平均の下では席が大きく入れ替わっているわけです。

最初に変えるのは、質問の投げ方ひとつで足ります。自社の主要な顧客像を2〜3つ言葉にして、同じ質問をその前置き付きで投げ分け、結果を平均せずに並べて見るんですよ。

平均すると、席が空いている層と埋まっている層が打ち消し合いますからね。分けて初めて、どの顧客層で名前が抜けているのかが読めるようになるわけです。

次に自社のレポートを開くときは、まず「これは誰が聞いたときの数字なのか」から確かめてみてくださいな。


出典

  • Will Jack, Noah Lehman, Keller Maloney, Sarah Xu (Unusual.ai), “Persona Conditioning of Brand Recommendations in Retrieval-Augmented Commercial Chat: A Prominence-Stratified Cross-Provider Audit”, arXiv preprint 2605.30207v1, 2026年5月28日, arxiv.org(ペルソナ10種 × 質問8種 × モデル構成3種 × 反復10回=2,000 runs の要因計画。モデル構成は GPT-5.4-mini の推論 effort 低/高と Claude-sonnet-4.6 の推論 effort 低。ペルソナ前置きによる推薦集合の Jaccard 類似度の低下は −0.12 [95%区間 −0.153, −0.091] / −0.16 [−0.194, −0.139] / −0.20 [−0.263, −0.156] で3構成すべて0を含まない。ペルソナ間の類似度 0.22〜0.35、同一ペルソナ内 0.42〜0.51。知名度帯別の推薦入れ替わり率は、カテゴリリーダー 23%/29%/20%、確立した挑戦者 5%/13%/23%、ミッドマーケット 75%/67%/39%、地域プレイヤー 27%/33%/—。要旨側の表現ではカテゴリリーダーは約80%の一貫性を保ち、ミッドマーケットは最大75%が入れ替わる。検索由来と紐づかない推薦の割合は Anthropic 43〜52%、OpenAI 8〜29%。限界: 著者全員が AI 可視性事業者 Unusual.ai 所属で結論に商業的利害がある。査読状況は明記されていない。ロングテール帯は全セルで標本不足(セルあたり30ブランドイベント未満)、sonnet セルは8プロンプト中4のみ。ペルソナは手作業の10種・英語のみ・米英EUに集中。前置きの構文バリエーションは未検証。単日測定で時間的ドリフトは未評価。「ペルソナは検索取得より学習時の事前知識に依存する生成に効く」という機構仮説は未確定)
この記事をシェア
Bluesky X
記事一覧にもどる