The Psychology of User Experience: How Small Design Tweaks Can Cause Big Behavioral Changes
リンクをコピーしました
統計的には正しいが、人間的には間違っている──AI駆動UXにおけるデータの限界（UX Matters）
AIを用いた体験設計において、「データに基づく判断が統計的には正しくても、ユーザー体験としては不適切になるケースがある」という問題提起。筆者はこれを「Statistically Right, Humanly Wrong」（統計的には正しいが、人間的には間違っている）という言葉で表現している。
AIは過去の行動データを集計し、「多くの人が選んだ」「成功率が高かった」選択肢を返すのが得意だが、それは平均的なユーザー像に最適化されているにすぎない。UXの観点では、ユーザーは常に平均的ではなく、そのときどきの目的・感情・制約を抱えており、その文脈が無視されると違和感が生じてしまう。
また、レコメンドや自動判定が「確率的に正しい答え」を出すことで、ユーザーの選択肢を狭めたり、意図を先回りしすぎたりする点が問題視されている。たとえば「多くの人がそうしたから」という理由で提示された結果は、本来あるべきユーザー自身の思考を蔑ろにしてしまっている。
筆者は、データが扱えるのは「何が起きたか」「どの行動が多かったか」までであり、「それがユーザーにどう感じられるか」「尊重されていると感じるか」といった心理的・倫理的な側面は捉えにくい、と明確に線を引いている。（UX設計において、定量データだけに依存する危険性を指摘している。）
UX的に重要なのは「ユーザーがその結果を理解できるか、納得できるか」という点だが、AI駆動のUX設計では「なぜこの結果になったのか」がブラックボックス化しやすい。そのため、予測精度の高さだけでなく、説明可能性（なぜそう判断したかを示すこと）や、ユーザーが介入・修正できる余地を意図的に残すことが重要。
筆者は、統計的な正解と人間にとっての納得感は別物であるという前提を置いた上で、そのズレを埋めるのがUXの役割だ、と整理している。AIは最終判断者ではなく、判断材料を提示する補助的な存在として活用されるべきだという主張。