제17편 확률 가중 왜곡(Probability Weighting): 우리는 확률을 계산하지 않고 재해석한다

제17편 확률 가중 왜곡(Probability Weighting): 우리는 확률을 계산하지 않고 재해석한다

 

본 글은 전체 30편 중 제17편으로, 「위험·확률 왜곡과 의사결정 오류」 범주의 두 번째 항목인 ‘확률 가중 왜곡’을 다룹니다.

 

제16편에서 다룬 손실 회피가 결과의 ‘가치’를 비대칭적으로 왜곡하는 구조였다면, 확률 가중 왜곡은 결과가 발생할 ‘가능성’을 왜곡하는 구조입니다. 전망 이론은 인간이 기대값을 계산하는 대신, 가치 함수와 확률 가중 함수를 동시에 적용한다고 설명합니다. 즉 인간은 결과의 크기와 확률을 각각 심리적으로 변형한 뒤 결정을 내립니다.

 

전통적 기대효용이론에서는 확률이 선형적으로 처리됩니다. 10%는 5%의 두 배이고, 50%는 25%의 두 배입니다.

 

그러나 실제 실험에서는 이러한 선형성이 반복적으로 위배되었습니다. Kahneman과 Tversky는 이를 설명하기 위해 역 S자 형태의 확률 가중 함수를 제안했습니다.

 

이 함수의 특징은 다음과 같습니다. 작은 확률 구간에서는 가중치가 실제 확률보다 높게 평가됩니다. 예를 들어 1%는 체감적으로 1% 이상으로 느껴질 수 있습니다. 반대로 중간 및 높은 확률 구간에서는 실제 확률보다 낮게 평가되는 경향이 나타납니다. 90%는 체감적으로 90%보다 낮게 느껴질 수 있습니다.

 

이를 보다 정교화한 것이 Tversky와 Kahneman(1992)이 제안한 누적 전망 이론(Cumulative Prospect Theory, CPT)입니다. 이 이론에서는 확률 가중 함수를 수학적으로 추정했습니다. 일반적으로 사용되는 함수는 다음과 같은 형태를 가집니다.

 

w(p) = p^γ / [ (p^γ + (1-p)^γ )^(1/γ) ]

 

여기서 γ는 왜곡의 강도를 나타내는 파라미터입니다. γ가 1이면 선형 처리, 1보다 작으면 역 S자 왜곡이 나타납니다. 실험 추정에서는 γ가 대략 0.6~0.8 범위로 보고되었습니다. 이는 확률이 체계적으로 비선형적으로 처리됨을 의미합니다.

 

확률 왜곡은 Allais 역설과도 연결됩니다. Allais 역설에서는 동일한 기대값을 가진 선택지라도 확실성이 포함되면 선택이 역전되는 현상이 나타납니다.

 

예를 들어 100% 확실한 100만 원과 89% 확률의 100만 원을 비교하면, 사람들은 11% 차이를 실제보다 훨씬 크게 인식합니다. 이는 확실성 효과(certainty effect)라고 불립니다. 확률 1에서 0.99로 감소하는 변화는 0.51에서 0.50으로 감소하는 변화보다 훨씬 크게 느껴집니다.

 

이 현상은 보험 시장에서 분명히 나타납니다. 극히 낮은 확률의 대규모 손실에 대해서는 과도한 보험료를 지불하는 경향이 관찰됩니다. 예를 들어 실제 위험 확률이 0.1% 미만임에도 불구하고 보험 가입률이 높게 유지되는 경우가 있습니다. 이는 작은 확률이 심리적으로 과대평가되기 때문입니다.

 

동시에 도박 시장에서는 극히 낮은 확률의 대규모 이익이 과대평가됩니다. 복권 당첨 확률은 수백만 분의 1 수준이지만, 구매자는 이를 체감적으로 과장하여 해석합니다. 흥미로운 점은 동일한 개인이 보험과 복권을 동시에 구매할 수 있다는 것입니다. 이는 확률 왜곡이 방향과 무관하게 작은 확률을 증폭시키는 구조임을 보여줍니다.

 

금융 시장에서도 확률 왜곡은 관찰됩니다. 투자자들은 극단적 사건(시장 붕괴 또는 급등)의 확률을 과대평가하거나 과소평가하며, 이는 옵션 가격 형성에 반영됩니다. 실제 옵션 시장에서는 이론적 정규분포보다 두꺼운 꼬리(fat tail)가 가격에 반영되는 경향이 있습니다. 이는 투자자들이 극단적 사건 확률을 다르게 인식하고 있음을 시사합니다.

 

공중 보건 영역에서도 동일한 구조가 나타납니다. 희귀 질병의 위험이 언론에 크게 보도되면, 실제 발생 확률보다 체감 위험이 급증합니다. 반면 일상적이지만 상대적으로 높은 확률의 만성 질환 위험은 과소평가되는 경향이 있습니다. 이는 위험 커뮤니케이션 정책에 중요한 함의를 갖습니다.

 

신경경제학 연구에서는 불확실한 보상이 확실한 보상보다 도파민 반응을 더 강하게 유발할 수 있다는 결과가 보고되었습니다. 이는 확률이 단순 계산 대상이 아니라, 보상 기대와 결합된 정서적 반응이라는 점을 시사합니다. 특히 낮은 확률의 큰 보상은 보상 예측 오차(reward prediction error)를 크게 만들어 각성 수준을 높일 수 있습니다.

 

물론 확률 왜곡이 항상 동일하게 나타나는 것은 아닙니다. 반복적 피드백과 학습이 제공될 경우 왜곡이 감소하는 경향이 있습니다. 전문 통계 훈련을 받은 집단에서는 γ 값이 1에 가까워지는 연구 결과도 보고되었습니다. 그러나 일반적 환경에서는 확률이 선형적으로 처리되지 않는다는 점이 반복 확인되었습니다.

 

확률 가중 왜곡은 손실 회피와 결합될 때 더욱 복잡한 의사결정 패턴을 만듭니다. 예를 들어 낮은 확률의 손실은 과대평가되고, 그 손실 자체도 가치 함수에서 더 큰 가중치를 갖습니다. 이중 왜곡이 발생하는 구조입니다. 반대로 높은 확률의 이익은 과소평가되고, 이익 자체도 점점 한계 효용이 감소합니다. 이 역시 기대값 계산과는 다른 결과를 초래합니다.

 

종합하면 확률 가중 왜곡은 인간이 숫자 그대로의 확률을 계산하지 않고, 심리적 가중 함수를 통해 재해석한다는 점을 보여줍니다.

 

손실 회피가 결과의 가치 비대칭을 설명한다면, 확률 가중 왜곡은 가능성 인식의 비선형성을 설명합니다. 이 두 구조가 결합될 때 인간의 선택은 기대값 극대화 모델과 체계적으로 달라집니다.

 

다음 편에서는 매몰 비용 오류에 대해 살펴보도록 하겠습니다. 

 

참고 연구: Kahneman & Tversky(1979), Tversky & Kahneman(1992)