キャリーオーバー効果

キャリーオーバー効果とは、前の設問の内容や回答が、後の設問の答えに引きずられる形で影響してしまう、質問順序効果の一種です。

キャリーオーバー効果を具体例で理解する

満足度調査を作るとする。

先に「料金は高いと感じますか」「サポートの対応は遅いと感じますか」「使い方は分かりにくいですか」と、不満点を一つずつ挙げてもらう。そのあとで「総合的に、このサービスに満足していますか」と聞く。

順番としては自然に見える。でも、ここに落とし穴がある。

直前まで不満を思い出させられた回答者は、総合満足度をやや低めに答えやすい。逆に、先に良い点を並べてから総合満足度を聞けば、今度は高めに出やすい。

同じ人、同じサービスなのに、聞く順番だけで数字が動く。

これがキャリーオーバー効果である。

キャリーオーバー効果の仕組み

なぜ順番で答えが変わるのか。回答者は、心の中にある「満足度」という完成品を読み上げているわけではないからだ。多くの場合、その場で判断を組み立てている。

このとき、直前の設問が手がかりを呼び起こす。これをプライミングという。不満点を思い出させられた直後なら、不満に関する記憶が取り出しやすい状態になり、その材料で総合評価を作ってしまう。

引きずられ方には二つの向きがある。前の設問に答えが寄っていく同化と、前の設問とわざと差をつける対比だ。「個別項目はそこそこ」と答えた後、「では総合は」と聞かれると、人は同じことを繰り返すまいとして、総合をやや別物として評価することがある(Tourangeau, Rips & Rasinski, 2000)。同化と対比のどちらが出るかは、設問の並びや回答者の受け取り方で変わる。

判断にどう使うか

キャリーオーバー効果は、消し去れる種類のものではない。設問は必ず何らかの順で並ぶ以上、前後の影響はゼロにならない。だから現実的な構えは二つになる。順番を設計で操ることと、順番が作った差を検出することだ。

設計の基本は、一般的な設問を先に、具体的な設問を後に置く流れである。漏斗のように広いところから狭いところへ下りていく。総合満足度のような全体評価を、個別の不満点よりに聞いておけば、不満の列挙に汚染されにくい(Schuman & Presser, 1981)。関連の強い設問が隣り合うときは、間に別の話題を挟んで距離を取るのも有効だ。

検出の道具が、順序のランダム化とスプリットランである。回答者ごとに設問の順をランダムに入れ替えれば、影響は消えないが偏りが特定の方向に集中しなくなる。あるいは回答者を半分に分け、片方は A→B、もう片方は B→A の順で聞く。二群の答えがずれれば、その差は中身ではなく順番が作ったものだと分かる。Pew リサーチセンターは支出削減への賛否を尋ねる調査で順序を入れ替え、「最初に聞かれた項目ほど削減への賛成が高い」という順序効果を実際に観測している。

変化に見えて、並び順のせいかもしれない

いちばん危ういのは、順番が作った差を、実態の変化だと思い込むことだ。

定点で数字を追うトラッキング調査で、前回調査と今回で総合満足度が下がったように見えても、設問の並びを変えていたなら、それは顧客の気持ちが冷めたのではなく、聞き方が変わっただけかもしれない。順序が違う調査どうしを横に並べて「悪化した」と語るのは、近似ですらない比較になる。

数字が動いたとき、まず疑うべきは世の中ではなく、調査票である。

設問が離れているほど、順番の影は薄い

私たちは、設問が中立な窓だと思いがちだ。問いを並べれば、その向こうにある本心がそのまま映ると。

でも回答は、直前に何を聞かれたかという文脈の中で生まれる。問いの順番そのものが、答えの一部になっている。

だからこそ、設問を並べ終えたときに一度立ち止まりたい。

この順番は、何を思い出させているだろう。

聞きたいのは相手の本心であって、こちらが直前に植えつけた連想ではない。前後の設問が無関係な話題どうしに離れているほど、直前の問いが貸す手がかりは減り、キャリーオーバー効果は小さくなる。関連の強い問いを続けて置くときこそ、順番を疑う番だ。

このページの著者 こんぺい

大手事業会社で商品企画に携わり、スタートアップではプロダクトマネージャーとして会社を立ち上げ、調査会社では立ち上げからリサーチオペレーションを築いてきました。事業をつくる現場でいつも大事だと感じるのは、作り手と使い手の想いが重なる部分をどう大きくするか、そして、いいものを届け続けるお金のめぐりをどうつくるか。その重なりを広げる力が、リサーチにはある。そう信じて、このメディアをつくっています。