[페이크와 팩트, The Irrational Ape] 감정과 편향을 이기는 지적 생존법

이성을 마비시키는 흑백 논리의 함정

복잡한 세상 일을 '선과 악', '우리와 적'이라는 두 가지 극단적인 선택지로만 나누어 생각하는 경향을 의미합니다.
인간은 본능적으로 복잡한 문제에 대해 단순한 원인과 명쾌한 해답을 찾으려는 오류를 범하기 쉽습니다.
이러한 '흑백 논리'는 특히 분노를 유발하기 쉬운 정치 영역에서 강력한 무기로 활용되어 왔습니다.
- 블라디미르 레닌: "모든 인민은 우리 편을 택할 것인지, 반대편을 택할 것인지 선택해야 한다. 중간 지대는 없다."
- 조지 W. 부시(George W. Bush): "미국의 편에 설지, 테러리스트의 편에 설지 선택해야 한다." (9.11 테러 이후)

세가지 사례로 본 인간의 비합리적 판단과 결과

사례	비합리적 행동/결정	경과	결과	핵심 교훈
참새 소탕 작전	곡식 대신 해충을 먹는 참새 박멸을 명령하고 전문가 경고를 묵살함(맹목적 이념).	전국적으로 1억 마리 이상 참새 박멸 → 천적이 사라지자 메뚜기 떼가 창궐하여 농작물을 휩씀.	수천만 명의 아사자를 낳은 대기근의 주요 원인 중 하나가 됨.	충분한 숙고 없는 맹목적 행동과 시스템적 명령의 위험성.
페트로프 중령의 '침묵'	핵전쟁 경보 시스템의 명령(상부 보고)에 불복하고 경보를 '오작동'으로 판단(합리적 의심).	미국 미사일 5발 발사 경보 → 대규모 공격이 아닐 것이라는 논리적 추론 및 지상 레이더 미확인.	소련의 핵 보복 공격을 막고 인류를 핵전쟁 문턱에서 구원함.	시스템에 맹목적으로 순응하지 않고 회의하는 이성(Reasoning)의 절대적 중요성.
리터러리 다이제스트	1,000만 명이라는 거대한 규모의 표본을 사용했으나, 표본 선정에 치명적인 편향을 가짐(데이터의 오류).	잡지 구독자, 자동차 소유자 등 부유층 명단을 기반으로 조사 → 공화당 후보의 압승 예측을 발표.	실제 선거에서는 민주당 루스벨트 대통령이 50개 주 중 48개 주에서 승리하는 최악의 오판을 기록하고 잡지는 폐간.	데이터의 양(Quantity)보다 표본의 대표성(Quality)과 수집 방식의 편향이 얼마나 위험한 착각을 낳는지 보여줌.

■ 본문 중에서

# 1부. 논리가 부재하는 세상

3장. 가당찮은 추론 - 광고와 사기꾼에게 속는 사람들 - 52 p.

인간은 본질적으로 사회적 동물이며, 소중하고 사소한 것들은 타인의 이야기만큼이나 우리에게 영향을 준다. 우리는 타인의 경험에 의존하며, 이야기와 일화를 세상과 모든 불확실성을 분류하는 심리적인 지름길로 활용한다. 선명한 이야기와 감정이 가득한 일화는 의식과 무의식 양측에서 인간의 의사 결정을 형성한다. 이는 양날의 검이다. 선명하게 묘사하는 설명은 정보를 제공해서 판단에 도움이 되기도 하지만, 동시에 결정적인 정보를 숨기거나 왜곡해서 완전히 잘못된 결론에 이르게 할 수도 있다. 이런 측면은 일화에서 나오는 논쟁의 또 다른 이름인 생생함을 오도하는 오류 (the fallacy of misleading vividness) 혹은 일화적 오류 (anecdotal fallacy)에 반영된다.

# 2부. 진실은 단순하지 않다

5장. 아니 땐 굴뚝에 나는 연기 - 실체 없는 위험에 대한 불안들 - 81p.

쉽게 얻은 정보나 최근 정보에 더 큰 비중을 두는 이 현상은 가용성 휴리스틱 (availability heuristic)이라고 부른다. 개념을 평가하거나 의견을 형성할 때 머릿속에 즉각 떠오르는 사례에 의존하는 경향으로 사실상 사고의 지름길 역할을 한다. 이 사고는 기억해내기 쉽다면 중요한 정보라는, 아니면 최소한 다른 대안 설명보다는 중요하다는 추정을 중심으로 돌아간다. 기억해내기 쉬울수록 우리는 그 정보에 더 집착한다. 그리고 실제로 최근 정보나 기억하기 쉬운 사례 쪽으로 우리의 의견을 편향시킨다. 그러나 최근 정보라거나 떠올리기 쉽다는 사실만으로 그 정보가 사실인 것은 아니며, 빠른 사고에서 나온 결론이 완벽할 수도 없다. 존재하지도 않는 자폐 위험보다 홍역 위험이 훨씬 더 크지만 걱정이 많은 부모는 홍역으로 인산 사망보다 무서운 자폐 이야기를 더 많이 접했을 것이다.

# 3부. 마음의 조작

인간의 결점은
타인의 잘못을 가장 먼저 발견하고
가장 늦게 용서한다는 것이다.
- 레티티아 엘리자베스 랜던 (Letitia Elizabeth London)

9장. 기억은 환상일 뿐 - 목격자의 왜곡된 증언 - 121p.

범죄 사건 다시의 기억은 배심원단에게 강력한 영향을 줄 수 있다. 가끔은 용의자에게 유죄나 무죄 판결을 내리는 결정적 단서가 되기도 한다. 우리는 그런 증거를 신뢰하지만 어쩌면 이 신뢰는 부적절할지도 모른다. 사람을 잘못 알아보는 현실적인 위험은 차치하고라도 목격자는 정기적으로 정보 조각을 일관성 있지만 부정확한 이야기로 재구성하기 때문이다. 즉 인간은 정보를 이치에 맞도록 배열해서 저장한다. 여기서 적용되는 기억의 틀은 개인의 경험, 문화적 훈련, 심지어 편견에 따라 형성된다. 잠재의식 속에서 이런 요인에 맞춰 사건과 사건이 일어난 순서에 관한 기억을 변형하며, 이는 차례로 우리의 인식을 비튼다. 너무나 매끄럽게 이어지므로 우리는 이 과정이 일어나는지도 모른다. 기억은 실제 같고, 경험에서 핵심을 뽑아내지만, 객관적인 증거로는 본질적으로 결함이 있다.

# 6부. 어둠을 밝히는 촛불

19장. 과학의 경계선 - 과학 사칭의 근거 - 242p.

증거의 질 : 과학적 주장은 뒷받침하는 자료와 사용한 방법론을 명확하게 서술한다. 만약 주장이 일화와 증언에 크게 기대고 있다면 의심해봐야 한다.
권위 : 과학적 주장은 과학자의 권위에 기대지 않는다. 과학적 주장의 수용 여부는 주장을 지지하는 증거의 무게로 결정된다. 반면 유사 과학적 주장은 증거보다는 그럴싸한 전문가나 권위자에게 더 자주 초점을 맞춘다.
논리 : 주장을 구성하는 사슬은 그저 몇몇 개가 아니라 모두 연결되어야 한다. 불합리한 추론은 미심쩍은 결론으로 이어진다. 복잡한 상황이나 질병에 단 하나의 원인이나 치료법을 제시하는 지나치게 환원주의적인 주장은 회의적으로 다루어야 한다.
반박할 수 있는 주장 : 반증가능성은 주장의 타당성을 가늠하는 가장 중요한 요소다. 잘못되었다고 반박할 수 없다면 과학이 아니다. 마찬가지로 과학은 재현성을 중심으로 돌아간다. 독립적인 실험으로 재현할 수 없는 주장은 유사 과학일 가능성이 크다.
증거의 전체성 : 가설은 모든 증거를 고려해야만 하며 부합하는 증거만 체리피킹해서는 안 된다. 주장이 일관성 있고 지금까지 밝혀진 모든 증거와 양립한다면 그 주장은 잠정적으로 수용한다. 그러나 이전의 수많은 자료와 충돌한다면 이 단절성을 반박할 근거를 반드시 제시해야 한다.
오컴의 면도날 : 주장이 다수의 부가적인 주앙에 의존하는가? 대안 가설이 축적한 자료를 더 적절하게 설명한다면 부가적인 추정을 정당화할 강력한 증거가 제시되어야 한다.
입증할 책임 : 언제든 반박하는 사람이 아니라 지지하는 사람에게 주장을 입증할 책임이 있다. 이 책임을 떠넘기는 시도는 나쁜 과학이라는 경고신호다. 증거 부족을 정당화하기 위한 구체적인 변명이 핵심인 주장(음모론을 포함해서)은 유사 과학의 전형적인 특징이다. 원칙적으로 탐구 정신에서 나온 주장은 정당화하려는 의도에서 나온 주장보다 과학일 가능성이 더 크다.