양자 이론의 완전성과 실재론


양자이론에 대한 해석


양자역학은 고전역학과 마찬가지로 대상의 운동을 서술하는 동역학의 한가지 이론이다. 단지 고전역학과 다른 점이 있다면 수학적으로 매우 복잡하고 추상적이며, 대상을 서술하는 방식이 고전역학에 비해 훨씬 일반적이라는 점이다. 또한 20세기 그 어떤 분야도 양자이론의 수혜를 받지 않은 것이 없을 정도로, 경험적으로 잘 확증되고 현상 설명력이 뛰어난 매우 성공적인 이론이다. 그러나 이같은 놀라운 성과에도 불구하고, 양자이론은 지성사에서 볼 때 여전히 하나의 수수께끼로 남아있다. 그 까닭은 양자이론의 해석문제와 관련하여, 아인슈타인(A. Einstein)과 보어(N. Bohr) 사이의 고전적 논쟁이 제기된 이후 70여년이 지나도록 어떤 뚜렷한 합의에 이르지 못하고 여전히 뜨거운 논쟁상태에 머물러 있기 때문이다.

양자이론의 해석 문제는 사실상 그 이론의 현상 설명력과 전혀 별개의 문제로서, 이론 안에 담겨진 개념들 및 그 의미, 현상을 설명하기 위한 이론 내의 인식구조, 그리고 양자이론의 수학적·논리적 구조 등을 분석하여 양자이론의 인식적·존재론적 기초를 이해하려는 철학의 문제에 해당한다. 이 문제가 중요하게 제기된 이유는 양자역학 자체가 고전역학과 비교해 볼 때, 기존의 동역학적 법칙들을 수정하거나 새로운 법칙들을 도입한 것이 아니라 오히려 기존의 법칙체계를 대부분 그대로 유지하면서 개념틀 자체를 바꾼 이론이라는 인식이 있었기 때문이다. 그 동안 양자이론의 해석문제와 관련해서 다양한 철학적 주제들이 논의되어 왔다. 예를 들어 확률에 대한 해석, 결정론과 비결정론의 조화, 다치 논리의 가능성에 관한 양자 논리학 논쟁, 측정문제에 대한 정합적인 이해, 미시계의 존재와 관련한 실재론 논쟁 등등. 이들 문제들은 양자이론의 성공과 별개로 아직도 뜨거운 논쟁 속에 놓여 있다. 그 가운데에서도 철학 진영에 가장 커다란 문제를 던져준 것이 아이슈타인과 보어의 논쟁에서 비롯된 실재론 논쟁이다.

이 글에서는 이러한 실재론 논쟁에서 비롯된 양자이론에 관한 몇몇 핵심적인 해석들을 비판적으로 살펴보고, 이와 관련해서 양자이론의 등장이 갖는 진정한 철학적 의미를 음미해 보고자 한다.


EPR 논변과 양자이론의 불완전성


양자이론의 발전이 한창 전성기를 맞던 1935년에 아인슈타인, 포돌스키(B. Podolsky), 로젠(N. Rosen)(이하 EPR)은 '물리적 실재에 관한 양자역학적 기술은 완전한가?'라는 논문[1]을 발표하였다. 이 논문에서 그들은 철학이나 물리학에서 그 동안 잘 받아들여져 왔던 두 개념, 즉 실재성과 국소성의 관념이 물리적 실재에 관한 양자역학적 기술과 양립가능하지 않음을 논증하였다. 즉 위의 두 조건이 동시적으로 만족되는 상황에서 양자이론은, 현상 설명에서 매우 성공적이지만 실재를 완전하게 기술하지는 못한다는 것이다. 실재성 개념이 측정 혹은 관찰자에 독립하여 물리적 실재가 있는 그대로 존재한다는 매우 익숙한 독립적 실재성(independent reality)을 함의하고 있고, 국소성 개념은 잘 검증된 특수상대성 이론의 요구인 아인슈타인의 상대론적 인과율을 함축하고 있는 만큼, 이 논증은 철학적으로나 물리학적으로 매우 중요한 문제를 야기한다고 볼 수 있다. EPR 논변에는 세 가지 기준 또는 가정이 사용되고 있는데, 이들을 먼저 분석해보자.

(C) (완전성 기준) 어떤 물리이론이 완전하다면, 그 이론은 물리적 실재의 각 요소에 대응하는 부분을 가져야 한다.

(R) (실재성 기준) 어떤 물리계(대상)를 어떤 방식으로든 교란시키지 않고 그 계에 속하는 어떤 물리량(혹은 가관측량 observable)의 값을 확정적으로 (즉 1의 확률로) 예측할 수 있다면, 이 물리량에 대응하는 물리적 실재의 한 요소(an element of physical reality)가 존재한다.

(L) (국소성의 가정) 한 물리계에 대한 측정이 이와는 '멀리 떨어져 있는' 다른 물리계에 속한 물리적 실재의 요소, 혹은 이의 실제적인 상태의 변화에 어떠한 영향도 가할 수 없다.

완전성의 기준에 따르면 물리이론이 불완전하다는 주장은, 물리이론이 그 안에 자연적 실재의 각 요소들에 대응하는 이론적 부분들을 가지고 있지 않다는 주장의 논리적 귀결이 된다. 달리 말해 물리이론 내의 이론적 존재자들이 실재하는 세계를 지시해야 하는 것이, 물리이론이 세계에 관한 완전한 서술이 되기 위한 필요조건임을 강조하고 있다. 한편 실재성 기준은 문제의 대상계를 교란하지 않고 대상계가 지닌 물리량의 값을 확정적으로 예측할 수 있다면, (비록 필요 충분하지는 않지만) 이 물리량에 대응하는 물리적 실재의 존재를 충분하게 주장할 수 있음을 주장한다. 그러나 여기서 보다 중요한 점은 다음의 것들이다. 이 기준 안에 비록 명시적이진 않지만 몇 가지 고전적인 전제들이 암묵적으로 내재되어 있다. 우리의 관측에 상관없이 물리량들이 대상계에 실재하는 고유한 성질이라는 전통적 사고를 받아들이고 있고, 확정적인 예측가능성 자체가 물리이론에 의한 예측가능성인 만큼 이론을 통해 확정적으로 예측가능한 그 어떤 물리량들에 대해서도 실재성을 부여할 수 있다는 지극히 소박한 실재론적 관점을 받아들이고 있다. 마지막으로 국소성 가정이 주장하는 것은 원격작용(action at a distance)이 불가능하다는, 다시 말해 공간성의 간격(space-like distance)으로 떨어져있는 두 물리계 간에는 초광속적인 정보전달, 혹은 역학적인 인과적 상호작용의 전달이 불가능하다는 아인슈타인의 상대론적 인과율이다. 이는 바로 특수상대성이론의 요구이기도 하다. EPR은 이러한 기준들에 의거하여 실제적인 실험이 아닌 사고실험을 통해 물리적 실재에 관한 양자역학적 기술이 불완전함을 입증하고 있는데, 여기서는 논의의 편의를 위해 봄(D. Bohm)이 재구성한 EPR-Bohm의 사고실험에 적용하여 살펴보도록 하겠다.[2]

스핀 1/2인 두 개의 입자로 구성된 전체스핀 0의 복합 물리계가, 처음 하나의 덩어리로 있다가 전체 스핀을 보존하면서 서로 반대 방향으로 분열하여 두 입자가 공간성의 간격(space-like separation)으로 떨어진 경우를 생각하자. 그러면 두 입자로 분열된 복합계 역시 분열되기 이전의 복합계와 마찬가지로 전체 스핀이 0인 단일항 상태(singlet state)에 있게 되고, 두 입자는 완전한 反상관관계(perfectly anti-correlation)하에 놓이게 된다. 즉 공간적으로 멀리 떨어져 있다하더라도 입자 1(물리계 S1)의 임의의 한 방향의 스핀 물리량의 값이 ＋1/2이면, 입자 2(물리계 S2)의 같은 방향에서의 스핀 물리량의 값은 －1/2이 된다. 물리계 S1의 어떤 시점 t0에서 이루어진 입자 1의 z방향 스핀물리량에 관한 측정결과가 ＋1/2이었다고 가정하자. 그러면 국소성의 가정(L)에 의해, 입자 1에서의 관측행위가 입자 2의 물리적 실재에 어떠한 교란도 가하지 않게 되고, 反상관관계에 의해 입자 2의 z방향의 스핀 물리량에 관한 측정결과를 －1/2로 확정적으로 예측할 수 있게 된다. 이 경우 실재성의 기준(R)은 입자 2의 스핀값에 해당하는 물리적 실재의 한 요소가 존재한다고 말한다. 같은 방식으로 입자 1의 x방향 스핀 물리량을 측정한다고 하면, 우리는 입자 2의 x 방향의 스핀값을 아무런 교란 없이 확정적으로 예측할 수 있을 것이며, 그 결과 이 값에 대응하는 물리적 실재의 요소가 입자2에 마찬가지로 존재한다고 말하게 된다. 결국 어떤 시점에서 입자 2의 경우, 양자역학적으로 양립불가능한 x와 z방향의 스핀값 각각에 대응하는 물리적 실재의 각 요소들이 동시에 존재하게 된다. 그러나 양자이론은 동시적으로 실재하는 이 요소들에 대응하는 부분을 이론 내에 가지고 있지 않다. 즉 상호 양립불가능한 혹은 교환가능하지 않은 두 가관측량들(observables)은 동시적으로 존재할 수 없다. 따라서 완전성의 기준(C)에 따라 양자역학적 기술은 (실재에 대한 거짓된 진술은 아니지만) 불완전한 것이 된다. 이를 다음과 같이 간단하게 도식화해 볼 수 있다.


QT ∧ L ∧ R ----> QT의 불완전성


그렇다면 EPR 논변의 이같은 결론은 수용가능한가? 이를 놓고 양자이론에 관한 다양한 해석들이 논쟁을 벌여 왔는데, 그 가운데에서 양자이론의 이해와 관련하여 그동안 중요하다고 생각되어 왔던 몇 가지 견해들을 비판적으로 살펴보도록 하겠다. 이를 크게 세 부류로 나누어 볼 수 있는데 하나가 여전히 고전적인 입장이긴 하나 아인슈타인의 주장과 달리, 물리적 성질을 표현하는 가관측량의 의미가 관측과 무관하게 사전에 결정되는 것이 아니라 관측과 더불어 형성된다고 주장함으로써, 일종의 경험론적 현상론적 관점에서 양자이론을 해석하는 코펜하겐 해석(Copenhagen Interpretation)이다. 다른 하나는 아인슈타인 자신의 입장으로서, 양자이론을 고전적인 통계 이론의 하나로 간주하는 앙상블 해석(Ensemble Interpretation)이다. 마지막으로 양자이론을 마찬가지로 고전적인 통계이론의 하나로 보지만, 다만 하위-양자수준(sub-quantum level)에 물리적 실재를 표상하는 (관측가능하지 않은) '숨은변수(hidden variable)'라 불리우는 어떤 변수들이 있고, 이들에 의해 정의된 상태함수가 앙상블이 아닌 개별 대상계에 관한 확률적 정보를 제공한다고 보는 숨은변수이론의 입장이다.


코펜하겐 해석


1935년 보어는 EPR 논변에서 주장된 양자이론의 불완전성을 반박하는 논문을 곧바로 발표하였다.[3] 여기서 보어는 EPR의 실재성 기준을 비판하고 있는데, 특히 실재성 주장의 충분조건으로 제시된 주장 곧 '어떤 물리계를 어떤 방식으로든 교란시키지 않고 그 계에 속하는 어떤 물리량의 값을 확정적으로 예측'한다는 주장을 공격하고 있다.


"문제의 대상계(입자2)가 (입자 1에 대한) 측정과정의 마지막 중요한 단계에서 역학적 교란을 당하는 일은 없지만, (입자 1에 대한) 측정과정은 대상계(입자 2)의 미래 행동에 관한 예측의 가능한 유형들을 규정하는 조건들에 영향을 미칠 수는 있다"[4]


다시 말해 공간성의 간격으로 멀리 떨어져 있는 두 입자들의 성질들 사이에 아인슈타인의 상대론적 인과율을 거부하는 역학적 상호작용은 없지만, 한 입자에 대한 측정행위가 '다른 입자의 미래 행동에 관한 예측을 규정하는 조건들'에 영향을 미칠 수는 있다는 의미에서 상호 교란이 있으며, 그 결과 EPR의 기준 자체가 성립할 수 없다고 주장하고 있다. 즉 전술한 복합계에서 교란 없이 물리량의 값을 예측하는 것은 불가능하며, 따라서 이의 가능성에 기초하고 있는 물리량의 실재성에 대한 EPR의 소박한 관점은 수용될 수 없다는 것이다. 그러나 (비록 그 내용이 불분명하지만) 만약 이를 받아들인다해도, 보어의 주장은 EPR 논변에 대한 반론으로 충분하지 못하다. 왜냐하면 EPR 실재성 기준에서 '교란없이 확정적으로 예측함'은 실재성을 주장하기 위한 충분조건이기에, 전건을 부정하는 것이 곧 후건의 부정으로 이어지지 않기 때문이다. 그 이상의 주장이 필요하다. 보어는 물리량의 실재성 주장과 관련하여, 한편으로 그것이 물리량에 대한 측정과정과 분리될 수 없음을 강조한다.


"측정의 과정은 해당 물리량의 정의에 직결된 조건들에 본질적인 영향을 주고 있다. --- 이러한 조건들은 '물리적 실재'라는 용어가 명백히 적용될 바로 그 상황의 본질적 요소를 구성한다.--"[5]


다시 말해 EPR이 주장하는 그러한 전통적 의미의 실재성 개념 자체가 물리적 성질들에 관한 한 적용될 수 없음을 강하게 함의하고 있다. 즉 측정과 상관없이 대상계가 원천적으로 가지고 있을 것으로 기대되는 물리량의 값이란 아직 정의되어 있지 않거나 아니면 경험적으로 무의미한 것이며, 물리량들은 그것들이 적절한 실험장치와의 관계 속에서만 일정한 값들을 가지는 것으로 정의된다고 본다. 이는 실재성 개념에 대한 이해 자체가 바뀌어야 함을 함축한다. 이를 받아들인다면, 더 이상 EPR식의 양자이론 불완전성 논변은 거부될 수 있다. 좀더 정확히 말한다면 EPR식의 문제설정 자체가 잘못된 것으로 받아들여지게 된다.

그러나 이는 양자이론에 대한 완전히 새로운 해석을 주장하는 셈이다. 즉 양자이론 자체가 물리적 실재를 기술하는 이론으로 기능하기보다는, 단지 관측가능한 물리적 현상들을 설명하는 효과적인 도구 정도로 받아들인다. 그러한 의미에서 코펜하겐 해석은 양자이론에 관한 도구주의적 해석이라고 말할 수 있다. 한편 물리량의 실재성 문제를 이처럼 물리량에 대한 측정의 조건과 긴밀하게 연결시킴으로써, 실재 그 자체보다는 현상 혹은 경험을 사물인식의 확실한 토대로 삼는다는 측면에서, 양자이론을 경험론적 혹은 현상론적으로 해석하고 있다고 볼 수 있다. 더군다나 코펜하겐 해석은 개념들의 의미가 측정조건과 긴밀히 연결되어 있기 때문에 그러한 개념들의 의미의 명확성을 확립하기 위해서, 실험조건 및 그 결과들이 오직 고전적인 용어들에 의해 기술될 때 한해 모호하지 않는다는 주장[6]과 함께 이러한 고전적인 서술이 측정장치의 거시성으로 말미암아 충분하게 확립가능하다고 주장하고 있다.[7] 이는 결국 대상에 대한 양자역학적인 인식이라 할지라도 근본적으로 고전적인 서술에 의존할 수밖에 없음을, 즉 고전적인 개념들과 서술이 양자역학적인 서술에 우선함을 함축한다고 볼 수 있다. 그런데 이처럼 양자역학적 변수들의 의미를 고전적인 용어로 서술되는 실험조건들과 연결시키는 방식으로 고전적인 관념들을 우선하는 경우, 다음과 같은 문제가 발생할 가능성이 있다. 측정조건이 배타적인 이유로 상호 양립불가능한 두 물리량을 통해 대상계를 인식하려는 경우, 결국 또 다른 측면에서 불완전성 문제가 제기될 수 있다. 이를 극복하기 위해 코펜하겐 해석이 제안하고 있는 것이 바로 상보성 원리이다. 즉 인식적으로 양립불가능한 두 물리량들(가령 위치와 운동량) 혹은 두 개념들(가령 입자와 파동)이라 할지라도, 이들을 상보적으로 결합하면 대상에 관한 완전한 이해에 도달할 수 있다는 것이다. 결국 상보성 원리라는 매우 특이한 인식적 원리가 불가피하게 요청된다.

이러한 코펜하겐 해석에 대해 크게 두 가지 문제를 지적할 수 있다. 하나는 대상과 측정장치를 구분하는 미시/거시의 기준 자체가 정당화가 곤란하다는 점이고, 다른 하나는 상보성 원리가 반드시 필요한가하는 점이다. 먼저 미시/거시의 구획이 존재적 차원에서 볼 때 매우 모호하며, 설령 미시/거시의 구분이 (근사적 수준에서) 가능하다손 치더라도 미시적 대상에는 양자적 현상이 나타나므로 양자역학적 서술을 적용하고, 거시적 대상에는 고전적 현상이 나타나므로 고전역학적 서술을 적용한다는 설정 자체가 올바르지 못하다. 고전역학적 서술을 적용하는가 아니면 양자역학적 서술을 적용하는가의 문제는 서술대상의 크기나 규모와 무관하다. 그것은 서술방식과 관련된 문제로서, 어떠한 대상들에 대해서도 원칙적으로 두 가지 서술방식 모두가 적용 가능하다. 한편 존재적 측면에서 보더라도 거시적 대상들이 반드시 고전적인 현상들만을 야기한다고 볼 수 없다. 거시적 대상들에게서도 양자적 현상들이 충분히 나타날 수 있기 때문이다.[8] 한편 코펜하겐 해석에서 상보성 원리는, 대상에 대한 인식과정에 사용되는 개개의 개념들은 이에 관한 특정한 실험적 조건이 현실화되었을 때에만 유의미하다는 주장과 긴밀히 관련되어 있는 바, 결국 사물에 대한 양자역학적인 인식과정을 지극히 현상론적이고 경험론적인 것으로 해석하는 것과 밀접히 관련되어 있다. 그러한 의미에서 상보성의 원리가 해석과 무관하게 보편적으로 필요한 것으로 보기 어렵다.


앙상블 해석


이는 아인슈타인 자신의 입장이기도 하다. 아인슈타인은 물리적 성질들의 실재성을 승인하고 이를 완전하게 기술하지 못하는 양자이론의 불완전성을 주장한다. 그리고 양자이론을 일종의 통계적인 이론으로 해석한다. 특히 상태함수가 대상 입자의 상태를 서술하기 위해 대상 입자 개개에 적용되는 것이 아니라 이와 관련하여 동등하게 준비된 대상 입자들의 집합인 앙상블에 적용되는 것으로 간주한다.[9] 그 결과 상태함수는 이 앙상블에 관한 통계적 정보를 제공하게 되고, 이로부터 보른의 해석규칙이 제공하는 것과 동일한 개별적인 대상 입자에 대한 확률적 정보가 제공되는 것으로 본다. 이 경우 상태함수가 정보로서 제공하는 확률은 앙상블의 전체 구성입자들 가운데에서 문제의 성질을 발현하는 입자들의 빈도에 관한 값으로서 고전적인 의미를 갖는 확률개념이다. 그러한 맥락에서 아인슈타인은 양자이론을 고전적인 통계이론의 하나로 간주한다.

그러나 이러한 주장이 성립하기 위해서는 몇 가지 전제들이 정당한 것으로 받아들여져야 한다. 첫째 대상계(혹은 앙상블)의 상태가 무엇이건 물리적 성질을 표현하는 물리량은 개별적인 대상계 안에서 각기 정확한 값을 지녀야 한다. 달리 말해 대상계 내의 모든 가관측량에 대해 동시적으로 각각 특정한 값을 할당할 수 있다. 가령 스핀 물리량을 예로 든다면, 세 방향 성분을 표시하는 스핀 물리량 Sx, Sy, Sz는 동시적으로 각각의 특정한 값을 가질 수 있다. 둘째는 양자역학에서의 확률 개념은 고전적인 의미를 지닌 빈도로서의 확률 개념에 해당한다. 마지막으로 성공적인 측정은 물리량이 지니는 값들을 그대로 드러낸다. 다시 말해 앙상블 안에서 가관측량 A의 값 a가 발현되는 상대빈도는, 가관측량 A에 관한 (이상적인) 측정의 결과로 값 a를 얻게되는 상대빈도와 같아야 한다. 정리하면 이 세 가지 전제들이 앙상블 해석에 내재되어 있다고 말할 수 있다. 만약 이들이 양자이론의 주장들과 정합적이 된다면, 양자이론에 관한 앙상블 해석은 매우 성공적인 해석이 될 것이다. 여기서 두 번째와 세 번째 전제들은 사실상 첫 번째 전제 위에서 논의되고 있는 만큼, 첫 번째 전제의 정당성 문제가 가장 핵심 쟁점이라고 말할 수 있다. 그러나 이에 대해 많은 비판들이 가해져 왔는데, 이는 앙상블해석이 그렇게 성공적인 해석이 아님을 반증해 준다.

비판을 크게 두 부류로 나누어 살펴볼 수 있는데, 하나는 이론적인 비판으로서 양자역학적인 대상계와 관련한 가관측량에 대해 확률 1로(즉 확정적으로) 특정한 값을 부여할 수 없음을 수학적으로 논증하고 있는, 코헨-스펙커(Kochen-Specker) 정리와 글리슨(A.M.Gleason) 정리이다. 다른 하나는 물리량이 특정의 값을 확실하게 소유한다는 주장이, 양자이론의 주장에 의해 반증될 뿐 아니라 실험에 의해서도 거부됨을 보여주고 있는 소위 벨(J.S. Bell)의 정리이다. 코헨-스펙커의 정리에 따르면, 대부분의 양자역학적인 계에서 가관측량 A와 관련하여 '그것이 특정한 어떤 값 a를 갖는다'는 형태의 모든 명제 쌍들에 대해 0 또는 1의 값을 동시적으로 부여할 수 있는 어떤 함수 곧 확률함수도 수학적으로 존재할 수 없다. 즉 고전적인 방식으로 위의 명제들 모두에 대해 각각 확률 0 또는 1을 동시적으로 부여할 수 있는 방법은 없다.[10] 코헨-스펙커 정리가 2차원의 힐버트 공간에 국한된 논의라면, 글리슨 정리[11]는 3차원 이상의 힐버트(Hilbert) 공간에로 논의가 확장된 경우로 볼 수 있다. 그러나 이 보다 훨씬 심각한 비판은 바로 벨의 정리에서 보여진 비판이다. 벨의 정리는 원래 숨은변수를 통해 하위-양자 차원에서 물리량들이 확정적인 값을 갖는다는 숨은변수이론을 비판하기 위한 것이었지만, 숨은변수를 도입하지 않고도 관측가능한 물리량들이 확정적인 값을 갖는다는 주장에 대한 비판이기도 하다.


숨은변수이론과 벨(J.S. Bell)의 정리


숨은변수이론은 EPR 논증이 주장하고 있는 양자이론의 불완전성을 이론적으로 해결하려는 시도로서, 양자역학이 기술하는 것 이상으로 미시세계에 관한 완전한 설명이 가능하다는 신념에 기초하고 있다. 이는 다음과 같은 몇 가지 특성들을 지니고 있다. 첫째 관측가능한 물리량들(위치, 운동량, 스핀 등) 외에 관측으로 접근가능하지 않는 하위-양자 차원의 물리량들의 존재를 가정하고, 이들의 값이 관측가능한 물리량들의 값을 결정한다고 본다. 이들은 숨은변수로 표상되는데, 이들 숨은변수들의 통계적 평균치에 의해 가관측량들의 값들이 결정된다. 둘째 이렇게 도입된 숨은변수들은 미시세계의 실재들에 대한 완전한 기술을 제공한다. 그리고 기존의 양자이론은 이러한 숨은변수들의 통계적 결과들을 기술하는 일종의 통계이론으로 이해된다. 숨은변수이론은 이러한 관점에서 양자역학의 통계적인 예측들의 기초가 되는 하위-양자 차원의 대상들의 동역학을 자세하게 규명한다. 결국 양자이론적 기술이 보다 미시적인 대상에 대한 고전적 기술로 환원가능하다고 본다. 셋째 숨은변수이론은 EPR 논변에서 제시된 개념들과는 약간 다르나 본질적인 의미에서 동일한 국소성과 실재론의 가정을 만족한다. 그러한 의미에서 고전적인 관점의 연장선상에 있다고 말할 수 있다.[12] 한마디로 숨은변수 도입의 근본취지는 미시적 영역에서도 결정론과 인과성을 유지하고, 고전현상과 양자현상간의 이분법을 거부하여 고전물리학을 기초로 물리세계에 관한 일원론적인 해석을 추구하는데 있다고 볼 수 있다.

그렇다면 이러한 숨은변수이론은 양자이론의 불완전성을 해결할 수 있는 훌륭한 대안인가? 혹은 달리 말해 숨은변수이론은 양자이론의 주장들과 진정 양립가능한가? 만약 양립가능하다면, 양자역학적인 대상에 대한 보다 완전하면서도 고전적인 실재론적 서술이 가능할 것이다. 그러나 1964년 벨은 숨은변수이론을 거부하는 결정적인 논변을 제시하여, 숨은변수와 같은 고전적 특성을 지닌 개념들이 양자이론에 더 이상 도입될 수 없음을 보여주고 있다.[13] 이를 흔히 벨의 정리라 부르는데, 다행스러운 점은 EPR 논변이 실험적 검증이 불가능한 순수한 사고실험에 근거한 논변인데 반해, 이는 실제적인 실험을 통해 숨은변수의 존재를 검증할 수 있다는 점이다.[14] 벨은 (EPR논변과 약간 다른) 국소성 및 실재성의 기준과 이들을 만족하는 숨은변수이론을 도입하여 하나의 부등식(소위 벨부등식)을 유도한 다음, 이 부등식이 양자역학의 이론적인 예측결과들과 충돌함을 보여주고 있다. 이는 그 후 많은 실험을 통해 입증되었다.

벨의 논변을 살펴보기 앞서, 벨의 정리와 관련된 한가지 중요한 특성을 언급하고자 한다. 일반적으로 벨의 정리는 숨은변수이론에만 국한된 주장이 아니다. 앞서 제시된 물리학적 또는 철학적 가정들을 만족하는 어떤 이론에 대해서도 벨의 부등식을 구성하는 것이 가능하며, 이것이 양자이론의 결과 및 실험결과들과 부합하는지를 검증할 수 있다. 한 예로 벨-위그너(Bell-Wigner) 논변은 숨은변수와 같은 미시적 실재성 개념이 아닌 일상적인 실재성 개념, 즉 고전적인 이론들이 가정하는 거시적 실재성 개념을 도입하여 부등식을 구성하고 있는데, 이 또한 양자이론의 결과들과 양립가능하지 않으며 실험을 통해서도 반증됨을 보여주고 있다.[15] 한마디로 벨의 정리는 대상계를 기술함에 있어서 국소성과 실재성을 가정하는 모든 물리이론들이, 실험과 함께 양자역학의 이론적 결과들로부터 반박됨을 함축하고 있다. 비교적 간단한 형태인 벨-위그너 부등식[16]을 통해 이 논변을 구체적으로 살펴보자.

전자와 양전자 쌍으로 구성되어 있으며 전체 스핀 물리량이 0의 값을 갖는 스핀-단일항 상태(spin-singlet state)에 있는 하나의 복합계를 생각하자. 어떤 내부적인 작용에 의해 두 입자가 각각 서로 반대방향으로 튀어나가 서로 공간성의(space- like) 간격으로 멀어졌다고 하자. (이 경우 전체 스핀 값은 스핀 보존법칙에 의해 변하지 않는 것으로 가정한다.) 이 때 입자 1(전자)의 x,y,z 방향의 스핀성분을 기술할 변수를 각각 1a,1b,1c로, 입자 2의 x,y,z 방향의 스핀성분을 기술할 변수를 각각 2a,2b,2c로 표기한다면, 의미있는 확률분포 p(1a,1b,1c,2a, 2b,2c)에 대해 다음과 같은 8가지의 확률들을 갖게 된다.(아래에서 '＋'는 '＋1/2'를, '－'는 '－1/2'를 가리킨다.)



p(1) = p(＋,＋,＋,－,－,－) p(2) = p(＋,＋,－,－,－,＋)

p(3) = p(＋,－,＋,－,＋,－) p(4) = p(＋,－,－,－,＋,＋)

p(5) = p(－,＋,＋,＋,－,－) p(6) = p(－,＋,－,＋,－,＋)

p(7) = p(－,－,＋,＋,＋,－) p(8) = p(－,－,－,＋,＋,＋)



이제 두 입자에 대한 각각의 스핀 측정장치를 통해 입자 1의 물리량 1a을 관측하여 '＋'값을 얻고 동시에 입자 2의 물리량 2b를 관측하여 '＋'값을 얻게 될 확률 p(1a+, 2b+)를 계산해 보면, 다음과 같이 될 것이다.


p(1a＋, 2b＋) = p(3) ＋ p(4)


마찬가지 방식으로


p(1b＋, 2c＋) = p(2) ＋ p(6),

p(1a＋, 2c＋) = p(2) ＋ p(4)



를 얻게 된다. 나아가 이들을 적당히 조합하면 다음의 관계식을 얻게 된다.


p(1a＋, 2b＋)＋p(1b＋, 2c＋)－p(1a＋, 2c＋) = p(3)＋p(6)


그런데 p(3), p(6)의 값은 결코 음일 수 없으므로, 결론적으로 다음과 같은 벨-위그너 부등식이 언제나 만족되어야 한다.


p(1a＋, 2b＋)＋p(1b＋, 2c＋) ≥ p(1a＋, 2c＋)


이를 양자역학적으로 계산하면


1/2 sin2(1/2θab) ＋ 1/2 sin2(1/2θbc) ≥ 1/2 sin2(1/2θac)


이 된다. 이 부등식은 특정한 상황, 예를 들어 θac = 120°인 경우에 성립하지 않는다. 그리고 이는 실험에 의해서도 잘 검증되고 있다. 그렇다면 이는 무엇을 의미하는가? 이 부등식을 유도하는 과정에는 전술한 국소성과 실재성의 가정들이 내재되어 있다. 즉 각 방향의 스핀 물리량들이 독립적으로 존재하고 있고 각기 의미있는 값들을 지니고 있을 뿐만 아니라, 입자 1의 스핀 물리량에 대한 측정이 이와 공간성의 간격으로 떨어져 있는 입자 2의 스핀 물리량의 값에 어떤 영향을 가하지도 않는다. 이는 논변 중에 대상계와 관련하여 스핀 물리량의 값들을 동시에 부여하는 확률들(p(1a,1b,1c,2a, 2b,2c) 등)이 의미있는 것으로 규정되고 있다는 사실에서 알 수 있다. 그런데 국소성 가정은 앞서 강조하였듯이 아인슈타인의 인과율을 의미하는 정당한 주장이므로, 문제가 되는 것은 관측가능한 물리량들 혹은 물리적 성질들이 대상계에 실재한다는 믿음이다.(비국소성 논의 자체가 궁극적으로 물리량들의 실재성 가정에 의존하고 있기에 실재성의 문제를 배제하고 마치 비국소성의 문제만이 본질적인 문제인 양 주장하는 시도들은 근본적으로 선결문제 미해결의 오류를 범하고 있다.) 즉 이러한 실재성 가정은 양자역학의 주장들과 충돌한다. 다시 말해 관측가능한 물리량들을 가장 일반적인 사물인식방식인 양자역학을 통해 서술하는 경우, 전통적인 의미의 실재성 가정을 이들에게 적용하기 곤란하다. 그러한 의미에서 벨의 논변은 실재성 개념의 외연(실재하는 대상들)이 선험적으로 주어지는 것이 아니라 사물 인식의 가장 일반적인 방식인 동역학과 밀접한 관련을 가지면서 변화한다는 것을 잘 보여준다고 말할 수 있다.

한편 벨-위그너 부등식은 전술한 물리적 상황(보존법칙과 상관관계)이 만족된다면, 변수 a, b, c가 (바로 위의 경우처럼) 양자 물리량을 기술하는 양자역학적 변수이건 (숨은변수를 포함하여) 고전 물리량을 기술하는 고전역학적 변수이건 이에 무관하게 항상 성립하는 보편적인 관계식이다.[17] 흥미로운 점은 물리량들이 고전역학적인 변수들에 의해 기술되는 경우 이 부등식을 위반하는 고전역학적인 반대사례가 존재하지 않는 반면, 양자역학적인 변수들에 의해 기술되는 경우 이를 위반하는 양자역학적인 반대사례가 존재한다는 점이다. 이는 우리의 관념체계에 어떤 문제가 있음이 고전역학을 통해 잘 드러나지 않다가, 양자역학과 함께 비로소 밝혀졌음을 의미한다. 그러한 의미에서 양자역학은 사물인식과정에 내재된 우리의 관념체계에 대해 어떤 반성을 촉구하는 계기를 제공한다고 말할 수 있다.


벨의 정리의 철학적 함의


개별적으로 관측가능한 물리량들이 실재한다는 주장은 더 이상 양자역학이 주장하는 자연계의 질서와 양립가능하지 않다. 따라서 양자역학을 자연을 인식하는 매우 일반적인 방식으로 받아들인다면, 결국 관측가능한 물리량들에 전통적인 의미의 실재성 개념을 적용하기란 불가능하다. 이는 진정 무엇을 의미하는가? 단지 몇몇 물리량들이 전통적인 의미에서 실재하지 않는다는 주장을 하는 것에 불과한 것인가, 아니면 전통적인 의미의 실재성 개념 자체에 어떤 문제가 있음을 함의하는가?

우리의 일상적인 관념체계는 동역학과 같은 우리의 보편적인 사물인식 방식에 우선하는 근본적인 것이 아니라, 사실은 동역학적인 사물인식 방식과 밀접히 연관되어 있다. 특히 전통적인 실재성 개념을 포함하는 고전적인 관념체계란 사실은 고전역학적인 사물인식 방식과 잘 양립하는 것이며, 심지어 고전역학적인 사물인식방식에 의해 정당화된 것이라고 말할 수 있다. 이유인즉 그러한 관념체계를 고전역학적인 사물인식과정에 적용했을 때, 어떤 반대사례도 없이 고전역학적 현상을 잘 설명하여 왔기 때문이다. 따라서 기존의 관념체계가 보다 일반적인 양자역학적인 사물인식 방식과 양립가능하지 않다면, 이와 양립가능한 방식으로의 수정이 요청된다. 양자역학의 주장들과 양립가능한 실재성 관념의 논의를 위해서, 전통적인 실재성 개념에 기초하여 물리량들의 실재성을 형이상학적으로 혹은 선험적으로 가정하는 대신, 양자이론과의 연관 하에서 이들이 '실재한다'는 것이 무엇을 의미하는가를 분석할 필요가 있다. 즉 이론 안에서 문제의 성질이 실재한다고 충분하게 주장할 수 있는 (가령 EPR 기준과 유사한 형태의) 인식기준을 마련하고, 이 기준에 의거한 실재성 주장이 양자역학의 주장들과 아무런 충돌을 야기하지 않고 현상에 대한 설명 및 예측과정에서 매우 성공적이며 대상계에 관한 보다 풍부한 정보를 제공한다고 판단되는 경우, 실제적인(practical) 차원에서 문제의 성질이 실재한다고 주장할 수 있는 그러한 접근방식이 필요하다. 만약 이것이 가능하다면 여기에 적용되고 있는 '실재성' 개념은, 선험적인 존재성과 의식으로부터의 독립성을 강하게 함축하는 전통적인 형이상학적 실재성 개념과 다를 것이다. 그 의미가 훨씬 약한 최소한의 존재론적 의미만을 지닐 것이다. 달리 말하면 전통적인 실재성 개념은 그 외연적 의미가 매우 확대되어 있으며, 그 확대된 외연을 축소하는 방향으로 실재성 개념의 의미를 새롭게 조정될 필요가 있다.

이는 전통적인 실재성 개념에 기초하여 진행되어 온 과학이론에 관한 기존의 실재론-반실재론 논쟁에 대해서도 어떤 변화를 촉구한다. 기존의 소박한 실재론의 주장이나 이에 반대하는 도구주의의 주장 모두 실은 전통적인 실재성 개념에 기초하고 있다고 볼 수 있다. 왜냐하면 외부세계가 선험적으로 그리고 그 자체로 존재한다는 전제 아래, 과학이론이 이를 완전하게 기술하는가 아니면 그렇지 못하고 현상만을 설명하는 유용한 도구에 불과한가의 논쟁을 벌이고 있기 때문이다. 따라서 이를 따른다면 양자이론을 실재론적으로 해석한다는 것 자체가 불가능하고 오직 도구주의적 해석만이 가능할지도 모른다. 그러나 이 같은 존재자들이 형이상학적으로 실재하고 과학이론이 이들을 완전하게 기술하고 있음을 우리가 직접 확인할 수 있는 방법은 없다. 우리가 할 수 있는 것은 인식적 차원에서 과학이론 안에 존재자들의 실재성이 가정되어 있고 이에 기반하여 문제의 과학이론이 현상을 매우 성공적으로 설명하는 경우, 우리는 그러한 존재자들이 실재한다는 가정을 수용해도 좋을 그럴듯한 근거를 갖게 되었다는 주장뿐이다. 즉 과학이론을 통해 무엇이 실재한다고 주장할 수 있을 뿐, 그 이상의 주장은 과도한 형이상학적 가정에 불과하다.

양자이론이 과연 실재론적인가 아니면 도구론적인가의 논쟁은 아직도 계속되고 있다. 그러나 양자이론의 등장이 앞서 논의한 바대로 우리의 전통적인 관념체계 전반을 반성할 수 있는 계기를 제공하는 것이라면, 이에 관한 논쟁은 그 같은 반성 위에서 새롭게 전개될 필요가 있다. 즉 양자이론이 고전적인 관념들과 충돌하는가 그렇지 않은가라는 문제설정 위에서 고전적인 관념들에 적합한 방식으로 양자이론을 해석할 것이 아니라, 양자이론을 매우 일반적인 사물인식방식으로 인정하고 이와 양립가능한 관념체계를 형성하려는 새로운 틀 위에서 양자이론의 해석이 진행될 필요가 있다. 한마디로 양자이론에 적합한 새로운 패러다임의 형성이 필요한 것이다

이중원 교수는 서울대학교 과학사 및 과학철학 협동과정을 졸업(이학박사)하고 현재 서울시립대학교 철학과 교수로 재직 중이다