왜 단순한 설명이 더 나은 설명인가

유형: 칼럼 · 저자: Elliott Sober · 출처: aeon · 별점: ⭐️⭐️⭐️

알버트 아인슈타인

• “모든 이론의 궁극적 목적이 실험 결과를 잘 설명하는 한 더 이상 줄일 수 없는 최소한의 기본 요소만을 포함하는 형태가 되는 것이다.”

단순한 이론을 찾는 것은 과학 분야의 한 요구조건

• 이론이 너무 복잡할 경우, 과학자들은 오캄의 면도날 곧 검약의 원칙(principle of parsimony)을 들어 이론을 단순하게 바꾸었습니다.
• 오캄의 면도날은 똑같이 관찰되는 현상을 설명할 수 있는 한 더 적은 요소, 과정, 혹은 원인을 포함하는 가설이 더 많은 이들을 포함하는 가설보다 낫다는 뜻

오컴의 면도날에 대한 가장 유명한 과학적 지지 (아이작 뉴튼의 “자연철학의 수학적 원리”)

• 그는 자신의 책에서 네 가지 “사고의 법칙(Rules of Reasoning)”을 이야기했습니다.
• 그 중 첫 두 가지는 아래와 같습니다.

규칙 1.
“자연현상을 설명하기에 충분하고 참인 것보다 더 많은 원인을 고려해서는 안 된다.”
자연은 이유 없이 행동하지 않으며, 또한 충분한 것보다 더 많은 이유를 가지지도 않는다.
즉, 자연은 단순하며 여분의 원인을 즐기는 사치를 부리지 않는다는 것입니다.

규칙 2.
“따라서 같은 종류의 자연현상을 일으키는 원인은 가능한 한 동일해야 한다.” 예를 들어 사람의 동물은 같은 이유로 호흡하며, 또한 유럽에서 돌이 땅으로 떨어지는 원인과 미국에서 돌이 땅으로 떨어지는 원인도 같아야 합니다. 그리고 조리를 위해 사용하는 불에서 나오는 빛과 태양에서 나오는 빛은 같아야 하며 지구에서 일어나는 빛의 반사와 다른 행성에서 일어나는 빛의 반사도 같아야 합니다.

오컴의 면도날을 뒷받침하는 세 가지 ‘검약의 패러다임’

1. ‘얼룩말을 쫓지 마라’

• 첫 번째 패러다임은 의대생에게 흔히 주어지는 조언입니다.
• 이는 환자가 보이는 증상이 흔한 질병 C와 희귀병 R의 두가지 병으로 모두 설명된다면, 흔한 질병 C를 우선 고려하라는 것입니다. 이 경우 더욱 단순한 가설이 실제로 그 문제의 답일 가능성이 더 높습니다.
• 오컴의 면도날 중 ‘침묵의 면도날’이라 불리는 상황
  • 원인 C1이 어떤 현상 E를 유발한다는 증거가 있고, 원인 C2는 증거가 없다면, E에 대한 설명으로 C1이 C1 & C2보다 더 낫다는 것입니다.
  • 19세기의 철학자 존 스튜어트 밀은 검약의 원칙(principle of parsimony)

    근거가 없는 어떤 것도 믿지 말라는, 보다 실용적이 원칙의 경우… 불필요한 원인을 가정하는 것은 증거 없이 믿음을 가지는 것입니다. 이는 마치 절벽에서 떨어져 죽은 사람이 독약 또한 마셨을 것이라고 가정하는 것과 같습니다.

  • 현상 E는 C2의 가능성에 대해 아무런 말도 하고 있지 않습니다. C2가 원인일 가능성을 부정하지도 않습니다.
  • 그러나 두 가설을 같이 고려할 경우 새로운 문제가 떠오릅니다.
    • 현상 E의 원인으로 ‘C1 & C2가 아님’, 그리고 ‘C1 & C2’ 중 어느 것이 좋은 설명일까?
    • 침묵의 면도날은 이 문제에 대해 아무런 도움을 주지 않습니다.
  • 그러나 부정의 면도날이라는 다른 면도날이 있습니다.
    • 부정의 면도날은 위 문제에서 앞의 설명이 더 좋은 설명임을 말해줍니다. 그러나 안타깝게도 C2가 사실일지 아닐지에 대한 아무런 다른 증거가 없는 상황에서 왜 앞의 설명이 더 좋은 것인지를 정당화하기는 쉽지 않습니다. 즉, 침묵의 면도날은 쉽게 증명할 수 있지만, 부정의 면도날은 그렇지 않은 것입니다.

2. 단순한 가설과 복잡한 가설이 관찰될 확률이 다르다.
   • 예를 들어, 주변의 모든 집의 전등이 동시에 꺼졌다고 해봅시다. 당신은 다음 두 가지 가설을 생각할 수 있습니다.

     H1: 화요일 8시에 발전소에 문제가 생겨 모든 불빛이 꺼졌다. H2: 화요일 8시에 모든 집의 전구에 문제가 생겨 모든 불빛이 꺼졌다.

   • 하나의 사건이 일어났다고 가정하는 것이 여러 독립적인 사건이 동시에 일어났다고 가정하는 것보다 검약의 원리에 적합합니다.
   • 공통의 원인이 각각의 원인보다 더 좋은 설명이라는 것은 오늘날의 모든 생명체가 하나 혹은 극소수의 선조로부터 기인한다는 찰스 다윈의 가설에서도 발견됩니다.
     • 서로 다른 조상에서 출발한 생명체들이 같은 유전자를 가질 가능성은 극히 낮습니다. 즉, 오늘날의 모든 생명체가 하나의 조상에서 갈라졌을 가능성이 훨씬 더 높다는 것입니다.
3. 검약이 새로운 관측결과를 얼마나 정확하게 예측할 수 있는지와 관계된다.
   • 이는 통계 이론 중 아카이케 히로토구의 ‘모델 선택이론(Model Selection Theory)’
   • AIC(아카이케 정보 기준, Akaike Information Criterion)는 한 모델이 새로운 데이터를 예측할 수 있는 능력은 이 모델이 기존의 데이터를 얼마나 잘 설명하는지, 그리고 그 모델이 얼마나 간단한지의 두 요소에 의해 결정된다는 것을 말해줍니다.
   • 예를 들어, 당신이 어느 시골길을 가고 있다고 해봅시다. 길 양쪽에는 거대한 옥수수밭이 있습니다. 당신은 차를 멈추고, 오른쪽 밭과 왼쪽 밭에서 각각 옥수수 100개를 골라 키를 측정했습니다. 그 결과 오른쪽 밭 옥수수의 평균키는 52인치였고 왼쪽 밭 옥수수의 평균키는 56인치였습니다. 이제 옥수수는 거의 다 자랐고, 따라서 당신은 내일도 옥수수의 키는 오늘과 비슷할 것이라 가정합니다. 당신은 내일 다시 이 길의 양쪽 밭에서 옥수수 100개의 키를 재려 한다면, 다음 두 예측 중 어느 것이 더 정확한 예측일까요?

     예측 A: 오른쪽 밭에 있는 옥수수 100개의 평균 키는 52인치, 왼쪽 밭에 있는 옥수수 100개의 평균 키는 56인치일 것이다. 예측 B: 두 밭에 있는 옥수수의 평균 키는 모두 54인치일 것이다.

   • 모델 선택이론은 위의 문제, 곧 어느 예측이 더 정확한지를 알기 위해서는 두 집단의 평균 키에 관한 다음 두 모델을 고려해야 한다고 말합니다.

     DIFF: 첫 번째 집단의 평균키는 h1이며 두 번째 집단의 평균키는 h2이다. NULL: 첫 번째 집단의 평균 키와 두 번째 집단의 평균 키는 h로 동일하다.

   • 앞서 측정한 옥수수 밭 데이터는 DIFF 모델과 NULL 모델의 변수를 다음과 같이 만듭니다. F(DIFF): h1=52인치, h2=56인치 F(NULL): h=54인치
   • 어느 모델이 새로운 데이터를 더 잘 예측하느냐는 질문은 곧 이미 가지고 있는 과거 데이터를 통해 그 모델의 변수를 조절했을 때, 새로 측정될 데이터를 누가 더 잘 예측하느냐는 뜻입니다.
     • DIFF 모델의 결과가 맞고 NULL 모델의 결과는 틀릴 것이라고 당신은 생각할지 모릅니다. 두 거대한 집단의 평균 키가 똑같을 확률이 얼마나 될까요? 만약 어느 모델이 참이고 어느 모델이 거짓인지를 정하는 것이 목적이라면 이것으로 충분할 수 있습니다. 그러나 지금 우리가 원하는 것은 그것이 아닙니다. 우리는 두 모델의 예측 정확성을 알려 합니다.
     • NULL이나 DIFF 같은 모델을 다룰 때 알게 되는 놀라운 사실 한 가지는, 때로 틀린 결과를 주는 모델이 맞는 결과를 주는 모델보다 더 정확한 예측을 할 수 있다는 것입니다.
     • NULL은 비록 거짓이지만 진실에 가까울 수 있습니다. 만약 그렇다면, 우리는 새 데이터를 예측하기 위해 DIFF가 아닌 NULL을 사용해야 할 것입니다.
     • 어쩌면 과거의 데이터는 실제 상황을 충분히 대변하고 있지 못할 수 있습니다. NULL 모델은 여전히 중요한 것에 주목하게 만드는 반면, DIFF 모델은 잘못된 길로 우리를 헤매도록 만들 수 있습니다.
   • 아카이케는 세 가지를 가정합니다.
     • 첫 번째 가정은 과거의 데이터와 새 데이터가 같은 특성을 가지고 만들어진다는 것입니다. 우리의 옥수수 밭 문제에서 이 가정은 성립합니다.
     • 두 번째 가정은 모델의 각 변수에 대한 예측치를 반복해서 구할 경우 그 예측치는 종모양의 분포를 가진다는 것입니다.
     • 세 번째 가정은 두 모델 중 하나는 진실이거나 진실에 가깝다는 것입니다. NULL와 DIFF 둘 중 하나는 반드시 참이어야 하므로 이 조건 역시 만족됩니다.

세 가지 검약의 패러다임 정리

패러다임 1: 때로 단순한 이론은 더 높은 확률을 가진다.

패러다임 2: 때로 단순한 이론은 관찰 결과를 더 잘 설명한다.

패러다임 3: 때로 모델의 단순성은 그 모델의 예측 정확도 추정치와 관련이 있다.