벨의 정리
양자역학에는 오랫동안 해결하기 어려운 질문이 하나 있었습니다. 측정하기 전에 물리적 성질이 이미 정해져 있는가? 그리고 서로 멀리 떨어진 두 입자가 강한 상관관계를 보인다면, 그 상관관계는 우리가 아직 발견하지 못한 숨은 정보로 설명할 수 있는 것일까요?
이 질문은 1935년 아인슈타인, 포돌스키, 로젠이 제기한 EPR 역설에서 본격적으로 등장했습니다. EPR 논문은 양자역학의 파동함수가 물리적 실재를 완전히 설명하는지 의문을 제기했습니다. 하지만 당시에는 이 문제를 명확하게 실험으로 판별하기가 어려웠습니다.
1964년 북아일랜드 출신의 물리학자 존 스튜어트 벨은 이 상황을 크게 바꾸었습니다. 벨은 특정한 종류의 국소적 숨은 변수 이론이 만족해야 하는 수학적 조건을 만들었고, 양자역학은 특정한 얽힌 상태에서 그 조건을 위반하는 상관관계를 예측한다는 사실을 보여주었습니다. 이것이 오늘날 벨의 정리라고 부르는 결과의 핵심입니다.
따라서 벨의 정리는 단순한 수학 공식이 아닙니다. 이것은 “양자역학이 이상해 보인다”는 철학적 논쟁을 실제 실험으로 시험할 수 있는 문제로 바꾼 사건이었습니다.
1. 벨의 정리는 왜 필요했을까?
벨의 정리가 등장하기 전의 상황부터 살펴보겠습니다. 1935년 EPR이 제기한 문제의 중심에는 양자 얽힘이 있었습니다. 서로 상호작용한 두 입자가 멀리 떨어진 뒤에도 측정 결과 사이에 강한 상관관계를 보일 수 있다는 것이었습니다. 한쪽 입자에서 어떤 측정을 하면 다른 쪽 입자의 결과를 높은 정확도로 예측할 수 있는 상황을 생각할 수 있습니다.
여기에서 고전적인 직관이 작동하기 시작합니다.
예를 들어 두 개의 봉투를 생각해 보겠습니다. 하나에는 빨간 카드, 다른 하나에는 파란 카드가 들어 있고 각각의 봉투를 멀리 떨어진 두 장소로 보냈다고 가정해 보겠습니다. 내가 서울에 있는 봉투를 열어 빨간 카드를 발견했다면, 부산에 있는 봉투에는 파란 카드가 들어 있다는 것을 알 수 있습니다. 이 경우 특별히 이상한 일이 일어난 것은 아닙니다. 두 카드의 색은 애초부터 정해져 있었고, 우리가 단지 그것을 확인했을 뿐이라고 생각할 수 있기 때문입니다.
EPR의 문제는 양자역학에서도 비슷한 설명이 가능한지에 대한 것이었습니다.
만약 얽힌 입자들이 측정되기 전에 이미 모든 측정 결과를 결정하는 정보를 가지고 있었다면, 양자역학에서 나타나는 이상한 상관관계 역시 우리가 아직 발견하지 못한 숨은 변수로 설명할 수 있을지도 모릅니다. 이러한 생각에서는 양자역학의 파동함수가 모든 물리적 정보를 담고 있는 것이 아니라, 더 완전한 상태를 기술하는 숨은 변수가 추가로 존재한다고 생각할 수 있습니다.
여기에는 두 가지 중요한 생각이 결합되어 있습니다.
첫째는 실재성입니다. 측정하기 전에 물리량에 어떤 실제 값이 존재한다고 생각하는 것입니다.
둘째는 국소성입니다. 공간적으로 멀리 떨어진 곳에서 이루어진 측정이 즉각적으로 다른 장소의 결과를 직접 바꾸지는 않는다는 생각입니다. 상대성이론과 인과관계에 대한 일반적인 직관과도 연결되는 개념입니다.
EPR 역설은 바로 이 두 가지 직관을 양자역학과 함께 놓고 보았을 때 문제가 발생한다고 주장했습니다.
그런데 여기서 결정적인 한계가 있었습니다. “숨은 변수가 존재할 수도 있다”는 주장만으로는 실험을 통해 쉽게 반박하기 어려웠습니다. 숨은 변수가 어떤 값을 가지고 있는지 직접 볼 수 없기 때문입니다. 따라서 새로운 질문이 필요했습니다.
숨은 변수를 포함하면서도 국소성을 유지하는 모든 이론이 반드시 만족해야 하는 실험적 조건을 만들 수 있을까?
존 벨이 한 일이 바로 이것이었습니다.
1964년 벨은 공간적으로 떨어진 두 계에서 수행하는 측정의 상관관계를 분석했습니다. 그는 특정한 국소성 조건을 만족하는 이론이라면 측정 결과 사이의 상관관계가 일정한 수학적 한계를 넘을 수 없다는 사실을 보였습니다. 반면 양자역학은 특정한 얽힌 상태에서 이 한계를 넘어서는 상관관계를 예측할 수 있었습니다.
이것이 벨의 정리가 특별한 이유입니다.
그 이전에는 “양자역학의 설명이 완전하지 않을 수도 있다”는 것이 주로 해석의 문제처럼 보였습니다. 그러나 벨은 이 문제를 측정값과 확률의 관계로 바꾸었습니다.
즉,
EPR의 질문 → 숨은 변수 → 국소성 → 수학적 부등식 → 실험
이라는 새로운 길이 만들어졌습니다.
여기서 흔히 벨의 정리와 벨 부등식을 같은 것으로 생각하기도 하지만 둘은 구분할 필요가 있습니다. 벨의 정리는 특정한 국소적 조건을 만족하는 이론이 양자역학의 모든 예측을 재현할 수 없다는 보다 넓은 결과를 가리키며, 벨 부등식은 그러한 조건에서 따라오는 상관관계의 수학적 한계를 나타내는 표현 가운데 하나입니다. 이후에는 CHSH 부등식과 같은 여러 형태의 벨 부등식이 개발되어 실제 실험에서 사용되었습니다.
이제 양자역학의 가장 깊은 논쟁이 단순한 철학적 토론을 넘어 실험실로 이동할 준비가 된 것입니다.
2. 벨의 정리는 얽힘을 어떻게 실험 가능한 문제로 바꾸었을까?
벨의 정리를 이해하려면 얽힌 두 입자를 가지고 실제 실험을 상상해 보는 것이 좋습니다.
두 입자 A와 B가 하나의 얽힌 상태로 만들어졌다고 생각해 보겠습니다. 두 입자는 서로 멀리 떨어져 있고, 각각의 실험자는 자신의 입자만 측정합니다. 중요한 것은 각 실험자가 측정 방향이나 측정 장치를 선택할 수 있다는 점입니다.
예를 들어 A를 측정하는 실험자에게 세 가지 측정 방법이 있고, B를 측정하는 실험자에게도 세 가지 측정 방법이 있다고 가정해 보겠습니다. 각각의 측정 결과는 +1 또는 -1처럼 두 가지로 기록할 수 있습니다.
이제 여러 번 실험을 반복합니다.
한 번의 실험만 보면 특별히 이상한 점이 없어 보일 수 있습니다. A에서 +1이 나왔고 B에서 -1이 나왔다고 해도 그것만으로는 아무런 결론을 내릴 수 없습니다. 중요한 것은 수천 번 또는 수백만 번 반복했을 때 두 결과가 어떤 통계적 상관관계를 나타내는가입니다.
바로 이 부분에서 벨의 정리가 등장합니다.
국소적 숨은 변수 이론이 성립한다고 가정하면 특정한 측정 설정에서 얻을 수 있는 상관관계에는 한계가 생깁니다. 이를 수학적으로 정리한 것이 벨 부등식입니다. 대표적인 실험 형태인 CHSH 부등식에서는 상관관계를 조합한 값 (S)에 대해 국소적 숨은 변수 이론에서는 일반적으로
$$
|S| \leq 2
$$
라는 형태의 제한이 나타납니다.
그런데 양자역학에서는 적절하게 선택한 얽힌 상태와 측정 방향을 사용할 경우 이 값이 2를 넘어설 수 있으며, 이론적으로는 최대 (2\sqrt{2})까지 가능하다고 예측합니다.
이 차이가 중요합니다.
만약 실제 실험에서 항상 (S\leq2)만 관찰된다면 양자역학의 해당 예측과 다른 결과가 될 것입니다. 반대로 반복적인 실험에서 (S>2)가 안정적으로 나타난다면 국소적 숨은 변수 이론이 가정하는 상관관계의 한계를 넘어서는 것입니다.
따라서 이제 질문은 아주 명확해집니다.
자연은 어느 쪽의 통계적 상관관계를 보여주는가?
이렇게 해서 벨의 정리는 실험물리학의 문제로 변했습니다.
1970년대부터 벨 부등식을 검증하기 위한 여러 실험이 등장했습니다. 존 클라우저와 스튜어트 프리드먼은 얽힌 광자를 이용해 벨 부등식을 시험했고, 이후 알랭 아스페는 측정 설정을 빠르게 바꾸는 방식 등을 활용하여 실험을 더욱 정교하게 발전시켰습니다. 안톤 차일링거 역시 얽힌 광자를 이용한 다양한 벨 실험을 수행했습니다.
이 연구들은 양자역학의 얽힘이 단순히 두 입자가 처음부터 같은 정보를 가지고 있었던 것처럼 설명되는 고전적인 상관관계와는 다른 통계적 특징을 보인다는 것을 점점 더 분명하게 보여주었습니다.
그러나 실험에는 항상 현실적인 문제가 따라왔습니다.
측정 장치가 모든 입자를 정확하게 검출했을까요? 측정 설정이 충분히 빠르게 바뀌었을까요? 두 실험 장치가 서로 영향을 주지 않을 만큼 충분히 멀리 떨어져 있었을까요? 실험 장치의 불완전성이 결과에 영향을 미칠 가능성은 없었을까요?
이런 문제를 흔히 벨 실험의 허점(loophole)이라고 부릅니다.
따라서 초기의 벨 부등식 실험이 중요하지 않았다는 의미가 아니라, 과학자들은 더욱 엄격한 조건에서 같은 현상을 확인하기 위해 실험 장치를 계속 개선했습니다.
2015년에는 네덜란드 연구팀이 서로 약 1.3km 떨어진 전자 스핀을 이용해 검출 효율과 국소성 문제를 함께 다루는 무허점 벨 실험을 발표했습니다. 연구진은 CHSH 벨 부등식에서 (S=2.42\pm0.20)을 얻었으며, 실험에서 특정한 국소적 실재론 가설을 배제하는 통계적 근거를 제시했습니다.
이러한 실험의 발전은 벨의 정리를 단순한 역사적 이론이 아니라 실제 양자 실험의 핵심적인 검증 도구로 만들었습니다.
3. 벨의 정리는 양자역학을 어떻게 바꾸었을까?
벨의 정리가 등장하기 전에도 양자역학은 원자와 분자의 세계를 놀라울 정도로 정확하게 설명하고 있었습니다. 하지만 양자역학의 해석을 둘러싼 논쟁은 여전히 남아 있었습니다.
특히 아인슈타인이 제기했던 문제는 쉽게 사라지지 않았습니다.
“양자역학이 자연의 모든 것을 설명하는 완전한 이론인가?”
이 질문은 단순히 계산의 정확성을 묻는 것이 아니었습니다. 측정하기 전의 물리적 상태가 어떤 의미를 갖는지, 서로 멀리 떨어진 물체 사이의 상관관계를 어떻게 이해해야 하는지, 물리적 실재와 관측 결과의 관계를 어떻게 정의해야 하는지에 관한 문제였습니다.
벨의 정리는 이 논쟁에 매우 중요한 변화를 가져왔습니다.
벨은 모든 숨은 변수 이론을 무조건 부정한 것이 아닙니다. 핵심은 국소성이라는 조건을 유지하면서 양자역학의 모든 예측을 재현하는 이론이 가능한가 하는 문제였습니다. 벨의 정리에 따르면 그러한 종류의 이론은 양자역학이 예측하는 모든 상관관계를 재현할 수 없습니다.
이 점은 매우 중요합니다.
흔히 “벨의 정리가 숨은 변수 이론을 모두 없앴다”라고 단순하게 표현하지만 정확한 설명은 아닙니다. 양자역학과 다른 형태의 이론이 논리적으로 모두 불가능하다는 의미가 아니라, 벨의 국소성 조건을 만족하면서 양자역학의 모든 예측을 재현하는 이론에는 제약이 생긴다는 것이 핵심입니다.
실제로 양자역학의 해석에는 다양한 입장이 존재하며, 비국소적인 숨은 변수 이론처럼 벨의 조건 가운데 일부를 포기하는 접근도 있습니다. 따라서 벨의 정리가 남긴 것은 하나의 철학적 결론이라기보다 자연이 허용하는 이론적 가능성의 범위를 매우 강하게 제한한 결과라고 이해하는 것이 정확합니다.
그리고 여기에서 양자역학의 새로운 모습이 등장합니다.
얽힘은 더 이상 양자역학에서 불편한 이상 현상으로만 취급되지 않습니다. 오늘날에는 오히려 얽힘 자체가 중요한 물리적 자원으로 연구되고 있습니다.
2022년 노벨물리학상은 알랭 아스페, 존 클라우저, 안톤 차일링거에게 수여되었습니다. 노벨위원회는 이들의 공로를 얽힌 광자를 이용한 실험을 통해 벨 부등식의 위반을 확립하고 양자정보과학을 개척한 것으로 설명했습니다.
이것은 역사적으로 상당히 흥미로운 변화입니다.
아인슈타인과 동료들이 양자역학의 해석에 문제를 제기했던 현상이 수십 년 뒤에는 오히려 새로운 기술을 가능하게 하는 핵심 자원으로 연구되기 시작했기 때문입니다.
양자컴퓨터에서도 얽힘은 중요한 역할을 합니다. 양자통신에서는 얽힌 상태를 이용한 정보 처리와 보안 기술이 연구되고 있으며, 벨 부등식의 위반은 장치 독립적인 양자기술과 같은 분야에서도 중요한 개념으로 활용됩니다. 실제로 벨 부등식의 위반을 이용해 양자암호와 난수 생성의 보안성을 검증하려는 연구도 진행되었습니다.
이러한 발전을 보면 벨의 정리가 양자역학의 역사를 어떻게 바꾸었는지 더욱 선명하게 보입니다.
처음에는 “양자역학이 자연의 실재를 완전히 설명하는가?”라는 질문이었습니다.
그다음에는 “국소적 숨은 변수 이론으로 양자역학을 설명할 수 있는가?”라는 문제가 되었습니다.
그리고 마침내 “실험에서 어떤 상관관계가 실제로 관찰되는가?”라는 물리학적 질문으로 바뀌었습니다.
이 과정에서 벨의 정리는 철학과 물리학 사이에 놓여 있던 경계를 실험이라는 방법으로 연결했습니다.
양자역학은 우리가 일상적으로 경험하는 세계와 상당히 다른 방식으로 자연을 설명합니다. 입자는 특정한 상태를 공유하고, 측정 결과에는 확률이 등장하며, 얽힌 계에서는 고전적인 직관으로 설명하기 어려운 상관관계가 나타납니다. 그러나 중요한 것은 이러한 이상한 현상들이 단순한 상상이나 철학적 주장에 머무르지 않는다는 것입니다.
실험으로 측정할 수 있고, 서로 다른 이론의 예측을 비교할 수 있으며, 반복적인 검증을 통해 자연이 어떤 규칙을 따르는지 확인할 수 있습니다.
바로 그 지점에서 벨의 정리의 진정한 의미를 찾을 수 있습니다.
EPR 역설이 “양자역학의 설명은 정말 완전한가?”라고 물었다면, 벨의 정리는 그 질문을 “어떤 종류의 자연관이 실험과 양립할 수 있는가?”라는 문제로 바꾸었습니다.
그리고 그 질문은 오늘날에도 끝나지 않았습니다.
다음 단계에서는 벨의 부등식 실험을 좀 더 구체적으로 살펴볼 필요가 있습니다. 실제로 어떤 장치를 사용하고, 두 입자의 측정 방향을 어떻게 바꾸며, 어떤 결과가 나와야 벨 부등식의 위반이라고 말할 수 있는지를 이해하면 양자 얽힘의 의미가 훨씬 선명해집니다.
즉, 벨의 정리는 단순한 공식이 아니라 양자역학의 가장 깊은 질문을 실험실로 가져온 하나의 전환점이었습니다.