サンプルサイズの決め方:早見表と計算の考え方
目次
見積書のいちばん下に、n=400 とだけ書いてある。なぜ 400 なのか、説明はない。その紙を挟んで、上司が「で、結局うちは何人集めればいいの?」と聞いてくる。
この記事を読み終えると、許容誤差・信頼水準・目的の三つから、必要な標本の大きさの桁を自分で出せるようになります。あわせて、業者が出してきた n=400 が妥当かどうかを、根拠を持って検証できるようになります。使うのは掛け算と割り算だけです。
サンプルサイズ(標本の大きさ)を決めるとき、必要数を最も大きく外す間違いは、計算式の中ではなく、式に入る前に起きます。しかもそれは、だいたい二種類です。ひとつは、割合を知りたいのか差を知りたいのかという目的を取り違えること。もうひとつは、母集団が大きいから多く要るという直感に引きずられることです。この二つさえ外さなければ、あとは早見表と一つの式で足ります。
例として、自社の既存顧客に満足度調査をかける場面を、設計から計算、解釈、限界まで通して使います。
見積書の「n」が指すのは回答者の人数か
最初の事故は、たいてい言葉で起きます。
打ち合わせで「サンプル数はどのくらいで?」と聞かれたとき、その「サンプル数」が何を指しているかは、実は人によって違います。ここを揃えないまま話を進めると、あとで数字の意味がずれます。分けておきたいのは、次の二つです。
日本語の実務では、この二つが日常的に混ざります。統計数理研究所の指摘(労働政策研究・研修機構のコラム経由で読めます)によると、そもそも統計の専門家は「サンプル数」という言い方をほとんど使わず、素人が「サンプル数」と呼んでいるものは、専門家の言う「標本の大きさ」を指していることが多いといいます。官庁や学術の標準訳語も「標本の大きさ」のほうです。
とはいえ、言葉の正誤を指摘しても発注は進みません。その場で一言だけ確認すれば足ります。「この 400 は、回答者が 400 人という意味で合っていますか」。これで、以降の議論の土台がずれなくなります。
母集団が大きくても必要数はほとんど増えない
次に手が止まるのは、たいていここです。「うちの会員 50 万人もいるんですけど、その分たくさん要りますよね?」。
直感に反して、ほぼ効きません。ここは採血にたとえると腑に落ちます。健康診断の血液検査では、体の血が 4 リットルでも 6 リットルでも、採血は小さじ一杯ぶんで足ります。よく混ざっているから、一部を見れば全体が推し量れる。必要な採血量を決めるのは体の総血液量ではなく、どの項目をどこまで細かく測りたいか、です。
母集団のサイズは、この総血液量にあたります。大学の統計コース教材(末尾の Penn State STAT 100)には、「母集団が 5 万人でも 50 億人でも、標本誤差は変わらない」とそのまま書かれています。標本誤差はおおむね 1/√n(標本の大きさの平方根の逆数)で決まるので、母集団 N はほとんど式に入ってこないのです。
ただし、人は血ほど均質ではありません。意見はバラバラなので、一滴ではまったく足りず、何百という単位が要ります。そして「よく混ざっている」という前提は、無作為抽出(対象をランダムに選ぶこと)で担保されます。選び方が偏れば、この話は全部崩れます。
だから「母集団が大きいから多めに」と言われたら、いったん疑ってください。必要数は母集団の規模ではなく、次の節で決める二つの入力で決まります。例外は母集団が小さいときだけです(有限母集団修正)。
許容誤差と信頼水準を先に数値で決める
式や早見表に入る前に、自分の手で決める入力が二つあります。ここが決まらないと、計算機に入れる数字がそもそも用意できません。
ひとつめは、許容誤差(e)。どれだけの外れを許すか、です。
標本誤差とは、標本から出した推定値が、仮に全数調査をしたときの真の値からどれだけずれうるか、その幅のことです。ふつう 95% の確からしさで示し、パーセントポイントで表します。AAPOR は、この標本誤差を確率標本(無作為抽出した標本)にのみ適用できると釘を刺しています。
たとえば「継続意向あり 60%、誤差 ±5%」なら、本当の割合はだいたい 55〜65% の間だろう、という読みになります。この「だいたいこの範囲」が信頼区間です。
ふたつめは、信頼水準。「だいたいこの範囲」と言うときの、その「だいたい」の強さです。実務の慣行では 95% を使います。これは業界で共有された既定値であって数理から導かれる値ではありませんが、共通のものさしがないと議論が発散するので、まずは従う価値があります。95% を選べば z ≈ 1.96 と数理的に決まり、99% にすれば z ≈ 2.58 で必要数は増えます。確からしさを上げるほど代金は高くなる、という関係です。
この二つを数値で決めてください。「±何% まで許すか」「95% でいくか」。ここが言葉のまま曖昧だと、式は一歩も動きません。なお、標本誤差が面倒を見るのは「標本だから生じる幅」だけです。設問の質、答えなかった人の偏り、名簿の漏れ、選び方の偏りは、この幅の外にあります。
割合を掴むなら早見表と一つの式で桁が出る
既存顧客に満足度調査をかけて、「継続意向がある人の割合を、±5%・95% でだいたい掴みたい」。これは割合を推定する目的、つまり比率推定です。
使う式は一つだけです。
n = z²·p(1−p) / e²
p は母集団での割合(母比率)です。調べる前なので分かりません。そこで、必要数が最も大きくなる p = 0.5 を置きます。これは安全側の置き方で、p(1−p) は p = 0.5 のとき最大になるという数理から決まります。実際の割合が 0.5 から離れているほど、この見積りは余裕を持ちすぎ(過大)になります。
次の早見表は、代表的な許容誤差に対して必要な標本の大きさを並べたものです。
| 許容誤差 e(±) | 必要な標本の大きさ n |
|---|---|
| 10% | 97 |
| 7% | 196 |
| 5% | 385 |
| 3% | 1,068 |
| 1% | 9,604 |
表の前提は、信頼水準 95%(z = 1.96)、母比率 p = 0.5(安全側)、母集団は十分大きい(有限母集団修正なし)です。式は n = z²·p(1−p)/e²。小数は安全側に切り上げています。±5% は 384.16 を切り上げて 385、±3% は 1067.1 を切り上げて 1,068(四捨五入なら 1,067。文献によって両方を見かけます)。丸め方を統一したいので、この表では切り上げに固定しました。
自分で再現できるように、途中式も残します。
n = z²·p(1−p) / e²
z = 1.96(95% 信頼)、p = 0.5(安全側)
z²·p(1−p) = 1.96² × 0.5 × 0.5 = 3.8416 × 0.25 = 0.9604
e = 0.05(±5%)→ n = 0.9604 / 0.0025 = 384.16 → 385
e = 0.03(±3%)→ n = 0.9604 / 0.0009 = 1067.1 → 1,068
±5%・95% なら約 385。切りよく 400 にしておけば、冒頭の見積り n=400 の正体は、たぶんこれです。上司の「何人?」への一次回答も、これで出ます。
ついでに、精度の値段も見ておきます。±5% から ±3% に上げると、必要数は 385 から 1,068 へ、三倍近くに跳ねます。誤差を半分に近づけるだけで、この増え方です。Pew も選挙調査の解説で「約 1,000 の標本で ±3%」という同じ桁を挙げています(末尾を参照)。さらに ±2% まで詰めるなら、上の式に e = 0.02 を入れて約 2,400。倍どころではありません。精度はお金で買えますが、だんだん割高になります。どこで満足するかは、予算との相談です。
母集団が小さいときだけ有限母集団修正で減らせる
さきほど母集団サイズは効かないと言い切りましたが、例外が一つあります。母集団が小さいときです。
たとえば対象を全会員ではなく「プレミアム顧客 2,000 社」に絞る場面。標本が母集団のかなりの割合を占めるようになると、必要数を少し減らせます。
有限母集団修正とは、母集団 N が小さいとき、無限母集団の必要数を n_adj = n / (1 + (n−1)/N) で圧縮する補正です。N が大きいほど効果は薄れ、数万を超えるとほぼ無視できます。
プレミアム顧客 2,000 社を ±4%・95% で掴む例で計算します。
まず母集団が十分大きい前提の必要数(±4%, 95%, p=0.5)
n = 0.9604 / 0.04² = 0.9604 / 0.0016 = 600.25 → 601
有限母集団修正(N = 2,000)
n_adj = 601 / (1 + (601−1)/2,000) = 601 / (1 + 0.30) = 601 / 1.30 = 462.3 → 463
601 が 463 まで減りました(この 601 → 463 は、大学の統計コースの教材にある計算例とも一致します。末尾を参照)。
対象の N が数千以下なら、この補正で必要数を圧縮できます。もし業者が、母集団を無視して大母集団向けの数字(たとえば一律 385)を当ててきたら、「対象は 2,000 社なので、有限母集団修正で 463 くらいに減りませんか」と言えます。逆に、N が数万以上なら効果はほぼゼロなので、母集団サイズは忘れてかまいません。
差を知りたいなら早見表を捨てて検出力で設計する
「新しい画面 A 案と、現行の B 案で、継続意向率に差があるか」。これは割合を掴むのではなく、二つの群を比べる目的、つまり群間比較です。ここで取り違えると、必要数を桁ごと間違えます。
ここで早見表の 385 や 400 を流用してはいけません。あの数字は「一つの割合を、この精度で掴む」ためのもので、「二つの群の差を検定する」用ではないからです。「全体で 400 だから、200 と 200 に割ればいい」も成り立ちません。
群間比較で回すダイヤルは、割合のときとは別の三つです。これは Cohen が 1988 年にまとめた検出力分析の枠組みで、以来ずっと使われています。
- 効果量
- どのくらいの大きさの差を、見つけたいか。小さな差まで拾いたいほど、必要数は跳ね上がります。
- 検出力(
1−β)- 本当は差があるとき、それを見逃さない確率。慣行で 0.80 に置きます。
- 有意水準(
α)- まぐれのゆらぎを差だと誤認する確率。慣行で 0.05 に置きます。
この 0.80 と 0.05 は、数理から降ってくる値ではありません。見逃し(β)と誤検出(α)のどちらをどれだけ許すかという、配分の慣行です。β = 0.20 は、見逃しを誤検出の 4 倍まで許容するという配分にあたります。この配分は分野をまたいで共有されているぶん、査読でも発注でも説明の手間が省けるので、既定値として従う価値があります。ただし固定ではありません。探索段階で当たりを広めに拾いたいなら検出力を 0.90 へ上げ、逆に見逃しの代償が重い(安全性や医療のような)場面なら α をさらに絞ります。動かすときは、動かした理由を一言添えれば足ります。
例で手を動かします。比べたいのは継続意向「率」なので、これは比率の差の設計です。まず、現状の率を置きます。さきほどの読みなら p1 = 0.60。次に、意味のある差を自分で決めます。「B 案の 60% に対して、A 案で 70% まで上がるなら画面を差し替える価値がある」と決めたなら、p2 = 0.70 です。
この 10 ポイントを、比率用の効果量に翻訳します。使うのは Cohen の h です。比率をそのまま引くのではなく、arcsine 変換という下ごしらえをしてから引いた差で、60% → 70% なら h ≈ 0.21(Cohen の目安では 0.2 前後が「小さい」効果です)。あとは α = 0.05・検出力 0.80 を添えて、式に入れます。
n = 2 × (z_α/2 + z_β)² / h²
z_α/2 = 1.96(α = 0.05・両側)、z_β = 0.84(検出力 0.80)
h = 2·arcsin√0.70 − 2·arcsin√0.60 = 0.2102
n = 2 × (1.96 + 0.84)² / 0.2102² = 15.70 / 0.0442 = 355.4 → 各群 356
各群およそ 360、二群あわせて 700 超です。「全体で 400」とは、まるで違う世界の数字だと分かります。手計算が嫌なら、G*Power や R の pwr パッケージ(pwr.2p.test)などの検出力計算機に、同じ三つ(h = 0.21・α = 0.05・1−β = 0.80)を入れれば同じ数字が返ります(末尾を参照)。
ついでに、効果量の値段も見ておきます。見つけたい差を 5 ポイント(60% → 65%、h ≈ 0.10)まで小さくすると、必要数は各群およそ 1,470 へ跳ね上がります。効果量が半分になると、必要数はおよそ 4 倍。小さな差を確かめるのは、それだけ高くつきます。なお、こうして集めたデータで「A 案と B 案の率の差は偶然か」を実際に確かめる手つきは、有意差検定の記事の領分です。
一方、比べたいのが率ではなく平均値の差なら、道具が替わります。満足度スコアの平均が A 案と B 案で違うか、のような場面です。検定は 統計的検定の t 検定に、効果量は d(平均の差を標準偏差で割ったもの)に替わります。中くらいの効果(Cohen の目安で d = 0.5)を α = 0.05・検出力 0.80 で検出したいなら、必要数は各群およそ 64 です。R なら pwr.t.test(d = 0.5, sig.level = 0.05, power = 0.80) で各群 63.8、切り上げて 64。Cohen 1988 の検出力表を引いても同じ桁になります(末尾を参照)。
率の差の 356 と、平均の差の 64。同じ α と検出力でも、比べる量の型と見つけたい差の大きさで、必要数の桁はこれだけ変わります。よその計算例の n を流用してはいけない理由が、ここにあります。
ここで、混同しがちな区別を一つ。データを大量に集めれば、実務的にはどうでもいい小さな差でも有意差は出ます。「有意に差があった」ことと「大きな差だった」ことは、別物です。検出力設計とは、この「見つけたい差の大きさ」を先に決めておく作業にほかなりません。だから、差を見るときに最初に問うべきは「何人?」ではなく「どのくらいの差なら、意味があると考えるのか?」です。
検出力分析でいちばん悩ましいのは、人数より効果量のほうです。見つけたい差の大きさを事前に置くのは難しく、それが分かっていれば苦労はない、という話でもあります。そこが群間比較の本当の関門になります。
必要な回収数を回収率で割って配信数に直す
必要な「回収」数が 400 と出た。では、何件「配信」すればいいのか。全員が答えてくれるわけではないので、ここで割り戻しが要ります。
この計算は統計ではなく運用の算術です。想定を置いた逆算で、使う関係はこれだけです。配信数は、必要回収数を想定回収率で割った値になります。
例: 必要回収 400、想定回収率 20% → 400 / 0.20 = 2,000 件に配信
スクリーニングで対象者を絞るなら、出現率でさらに割る
例: 対象者の出現率 50% → 2,000 / 0.50 = 4,000 件に配信
スクリーニング調査で条件を満たす人だけに本調査をかけるなら、その出現率を見込んでおかないと、回収が足りなくなります。属性別に人数を確保したい(割付がある)なら、全体ではなく各セルで必要数を満たすように逆算します。パネルに発注するときも考え方は同じです。
想定回収率は、過去の実績で置いてください。ここを「たぶん 30% くらい」と甘く見積もると、逆算の全体が崩れます。統計の式がどれだけ正しくても、この一手が雑だと配信計画は狂う、という素朴だけれど効く話です。
見積りの「n=400」は聞くべき質問で読み解く
冒頭に戻ります。見積書の n=400 と、上司の「何人?」。ここまで来れば、両方に根拠を持って答えられます。
まず、業者の 400。この数字は、次の質問に答えられて初めて「妥当」と言えます。そのままベンダーに投げられる形にしました。
- この n は「割合を掴む」用ですか、「群の差を検定する」用ですか
- 前提の許容誤差は ±何%、信頼水準は何% ですか
- 母集団サイズは効かせていますか。対象が小さいなら有限母集団修正はかけていますか
- p はいくつで置いていますか
- 0.5 の安全側か、実測値か
- 想定回収率と配信数はいくつで、その根拠は何ですか
- 属性セルごとに必要数を確保していますか
- 全体 400 を割るだけになっていないか
そして、上司の「なぜ 400 人?」には、一文で返せます。「±5%・95% で継続意向率を掴む設計なので約 385、余裕を見て 400 です。もし A 案と B 案の差を検定したいなら、それは別枠で、見つけたい差の大きさから群ごとに積み直します」。
式が保証するのは精度の一部で正しさの全部ではない
最後に、式が保証しないことを言います。標本誤差が面倒を見るのは「標本だから生じる幅」だけで、次の三つは式の外にあります。
- カバレッジ
- そもそも名簿に載っていない人、届かない人。
- 非回答
- 送ったのに答えなかった人の偏り。ここは回答バイアスの領域です。
- 測定
- 設問の質、誘導、選択肢の作り。聞き方が悪ければ、数字は正確に間違えます。
これに加えて、p = 0.5 は安全側なので実際の割合が偏っていれば必要数は過大かもしれないこと、効果量の事前設定は難しいこと、想定回収率が甘いと逆算が崩れること。要するに「数字が出た=正確」ではありません。選び方が偏っていれば、n をどれだけ増やしても、偏ったまま精度が上がるだけです。サンプルサイズが保証するのは精度の一部であって、正しさの全部ではありません。
だから、n=400 を見て最初にすべきなのは、電卓を叩くことではなく、「これはどっちの目的の 400 ですか」と一言聞くことです。割合か、差か。母集団に引きずられていないか。この二つさえ取り違えなければ、あとは掛け算と割り算です。次に n=◯◯ を見たときは、ぜひこの視点で眺めてみてください。「言われた数字」が「読める数字」に変わります。
参考文献
- Leslie Kish, Survey Sampling, Wiley(Wiley Classics Library 版, 1995 年/原著 1965 年), ISBN 9780471109495.
- Sharon L. Lohr, Sampling: Design and Analysis, 3rd ed., Chapman & Hall/CRC, ISBN 9780367273415.
- Jacob Cohen, Statistical Power Analysis for the Behavioral Sciences, 2nd ed., Lawrence Erlbaum Associates, 1988, ISBN 9780805802832.
- R
pwrpackage(pwr.2p.test,pwr.t.test), CRAN. https://cran.r-project.org/package=pwr - Faul, Erdfelder, Lang & Buchner, “G*Power 3,” Behavior Research Methods 39(2), 2007, 175–191, doi:10.3758/BF03193146.
- American Association for Public Opinion Research (AAPOR), Standard Definitions: Final Dispositions of Case Codes and Outcome Rates for Surveys. https://aapor.org/standards-and-ethics/standard-definitions/
- Pew Research Center, “Understanding the margin of error in election polls,” 2016. https://www.pewresearch.org/short-reads/2016/09/08/understanding-the-margin-of-error-in-election-polls/
- Pew Research Center, “Variability of survey estimates,” 2018. https://www.pewresearch.org/methods/2018/01/26/variability-of-survey-estimates/
- 労働政策研究・研修機構(JILPT)コラム. https://www.jil.go.jp/column/bn/column005.html
- Penn State, Eberly College of Science, Online Statistics Courseware(STAT 415 Lesson 6.3/STAT 100 Lesson 2.2). https://online.stat.psu.edu/stat415/lesson/6/6.3 / https://online.stat.psu.edu/stat100/lesson/2/2.2