[솔로모노프 귀납법과 베이즈주의의 한계: 지식 창조와 설명의 본질에 관하여]-[It’s Rare to Have Competing, Viable, Scientific Theories]

솔로모노프 귀납법(Solomonoff induction)과 복잡성 이론

이 팟캐스트에서 다루는 핵심 개념 중 하나는 '솔로모노프 귀납법'입니다. 이는 어떤 현상을 설명하는 이론을 찾을 때, 해당 이론을 'binary string(이진 문자열)'으로 인코딩하여 접근하는 방식입니다. 이 이론의 핵심은 모든 가능한 이론을 나열하되, 그 'complexity(복잡성)'에 따라 가중치를 부여하는 것입니다. 즉, 'simpler ones(더 단순한 이론)'일수록 진실일 확률이 높고, 'more complex ones(더 복잡한 이론)'일수록 진실일 확률이 낮다고 가정하며, 이들을 모두 합산하여 'probability distribution function(확률 분포 함수)'을 도출하는 방식입니다.

베이즈주의(Bayesianism)의 메커니즘과 유용성

화자는 베이즈주의를 'new information(새로운 정보)'을 통해 기존의 'probability predictions(확률적 예측)'을 업데이트하는 과정으로 설명합니다. 이를 가장 잘 보여주는 사례가 바로 'Monty Hall show(몬티 홀 문제)'입니다. 사람들은 직관적으로 확률이 변하지 않는다고 생각하지만, 베이즈주의적 관점에서는 새로운 정보가 주어졌을 때 'update my priors(사전 확률을 업데이트)'하여 선택을 바꾸는 것이 합리적이라고 주장합니다. 이러한 베이즈주의는 'medicine(의학)' 분야에서 특정 약물의 효과를 비교하는 등, 'finite, constrained spaces(유한하고 제약된 공간)' 내에서는 매우 강력하고 'uncontroversial(논란의 여지가 없는)' 도구로 활용됩니다.

지식 창조의 본질: 귀납법을 넘어선 창의성

그러나 화자는 베이즈주의와 귀납법이 'new explanations(새로운 설명)'을 생성하는 데에는 근본적인 한계가 있다고 지적합니다. 베이즈주의는 이미 존재하는 이론들의 확률을 조정할 뿐, 새로운 지식을 발견하게 해주지는 않습니다.

1. 이론의 열거 불가성: 베이즈주의는 모든 가능한 이론을 나열할 수 있다고 가정하지만, 실제로는 'creativity(창의성)'가 개입하기 때문에 모든 이론을 사전에 정의하는 것은 불가능합니다.
2. 경쟁하는 이론의 희소성: 과학의 역사에서 'more than one viable theory(두 개 이상의 실행 가능한 이론)'가 존재하는 경우는 매우 드뭅니다. 뉴턴의 중력 이론과 일반 상대성 이론처럼 두 가지가 경쟁하는 경우는 예외적이며, 세 가지 이상의 이론이 경쟁하는 상황은 거의 존재하지 않습니다.

결론: 설명의 평가와 비판적 사고

결론적으로 화자는 새로운 지식을 창조하는 원동력은 베이즈주의적 확률 계산이 아니라 인간의 'creativity(창의성)'라고 강조합니다. 또한, 어떤 설명이 더 나은지를 판단하는 기준은 확률적 가중치가 아니라 'experimental refutation(실험적 반증)' 혹은 'straightforward criticism(직설적인 비판)'을 통해 해당 설명이 'bad explanation(나쁜 설명)'임을 밝혀내는 과정에 있습니다. 즉, 과학적 진보는 단순히 데이터를 처리하는 과정이 아니라, 기존의 틀을 깨고 새로운 설명을 제시하며 이를 비판적으로 검증하는 인간 지성의 활동인 것입니다.