벨 부등식 실험
양자역학의 역사를 따라가다 보면 어느 순간 아주 이상한 질문과 마주하게 됩니다. 서로 멀리 떨어져 있는 두 입자가 마치 하나의 시스템처럼 강한 상관관계를 보일 수 있다면, 그 결과는 과연 입자가 처음부터 가지고 있던 정보만으로 설명할 수 있을까요? 아니면 우리가 자연을 설명하는 방식 자체에 기존의 상식으로는 이해하기 어려운 부분이 있는 것일까요?
이 질문을 수학적으로 구체화한 것이 바로 벨의 정리이고, 이를 실제 자연에서 검증하기 위해 수행된 것이 벨 부등식 실험입니다. 벨은 1964년 국소적 숨은 변수 이론이 양자역학의 모든 예측을 재현할 수 없다는 것을 보여주었고, 이후 물리학자들은 실제 입자와 광자를 이용해 이 차이를 측정하기 시작했습니다.
특히 1972년 존 클라우저와 스튜어트 프리드먼의 실험은 벨 부등식이 실제 측정에서 위반될 수 있음을 보여준 중요한 출발점이었습니다. 이후 알랭 아스펙트의 실험을 비롯해 여러 실험이 기존의 허점을 줄여 나갔으며, 2015년에는 서로 약 1.3km 떨어진 전자 스핀을 이용해 주요 실험적 허점을 동시에 피하려는 실험이 보고되었습니다.
이번 글에서는 벨 부등식 실험이 왜 필요했는지부터 시작해 실제로 무엇을 측정했는지, 그리고 이러한 실험들이 양자역학에 어떤 의미를 남겼는지를 살펴보겠습니다.
1. 벨 부등식 실험은 왜 시작되었을까?
벨 부등식 실험을 이해하기 위해서는 먼저 ‘숨은 변수’라는 생각을 살펴볼 필요가 있습니다. 고전적인 세계에서는 어떤 물체의 상태가 우리가 측정하기 전에도 이미 정해져 있다고 생각하는 것이 자연스럽습니다. 예를 들어 상자 안에 빨간 공과 파란 공을 넣어두고 상자를 닫았다면, 우리가 보지 않았다고 해서 공의 색이 존재하지 않는 것은 아닙니다. 단지 우리가 그 정보를 모를 뿐입니다.
아인슈타인과 포돌스키, 로젠은 1935년 발표한 유명한 논문에서 양자역학의 파동함수가 물리적 실재를 완전히 설명하지 못할 가능성을 제기했습니다. 특히 얽힌 두 입자를 생각하면 문제가 더욱 복잡해집니다. 두 입자가 서로 멀리 떨어진 뒤 한쪽을 측정했을 때 다른 쪽의 결과와 강한 상관관계가 나타난다면, 그 상관관계가 입자가 출발할 때 이미 가지고 있던 정보에서 비롯된 것인지, 아니면 양자역학이 말하는 새로운 종류의 관계인지를 구별해야 했습니다.
여기에서 중요한 단어가 국소성(locality)입니다. 국소성이라는 생각을 단순하게 표현하면 멀리 떨어진 곳에서 일어난 사건이 빛보다 빠르게 다른 장소의 측정 결과에 영향을 주어서는 안 된다는 것입니다. 특수상대성이론과도 연결되는 매우 중요한 원칙입니다.
문제는 양자역학이 얽힘 상태에서 예측하는 상관관계가 이런 직관적인 설명만으로는 충분히 재현되지 않는다는 점이었습니다. 하지만 단순히 “양자역학이 이상하다”고 말하는 것만으로는 과학적인 논쟁을 끝낼 수 없습니다. 두 설명이 서로 다른 예측을 내놓는 실제 실험이 필요했습니다.
1964년 존 벨이 등장하면서 상황이 달라졌습니다. 벨은 국소적인 숨은 변수 이론이 만족해야 하는 수학적 제한을 만들어냈습니다. 이를 흔히 벨 부등식이라고 부릅니다. 반면 양자역학은 특정한 얽힘 상태와 측정 조건에서 이 부등식을 위반하는 상관관계를 예측했습니다. 따라서 논쟁은 철학적인 질문에서 실험 가능한 질문으로 바뀌었습니다.
그렇다면 실제 실험에서는 무엇을 해야 할까요?
가장 대표적인 방식은 얽힌 입자 한 쌍을 만들어 서로 반대 방향으로 보낸 다음, 양쪽에서 각각 측정하는 것입니다. 광자를 사용하는 실험에서는 편광을 측정할 수 있습니다. 양쪽에 필터나 편광 분석 장치를 설치하고 각각 다른 방향을 선택해 측정합니다. 같은 과정을 수없이 반복하면 각각의 측정 결과 사이에 나타나는 상관관계를 통계적으로 계산할 수 있습니다.
여기서 핵심은 한 번의 측정 결과가 아닙니다. 벨 부등식 실험은 수많은 측정 결과를 모아 통계적 상관관계를 계산합니다. 만약 입자들이 처음부터 모든 결과를 숨은 변수 형태로 가지고 있었고 국소적인 방식으로 행동한다면 특정한 수학적 한계를 넘을 수 없습니다. 그러나 실제 측정값이 그 한계를 넘어선다면 단순한 국소적 숨은 변수 설명으로는 결과를 재현하기 어려워집니다.
따라서 벨 부등식 실험은 “입자가 이상하게 행동했다”는 것을 보여주는 실험이 아니라, 서로 다른 자연관을 구별하기 위한 실험이라고 보는 것이 더 정확합니다. 그리고 이 점에서 양자역학은 처음으로 자신의 독특한 예측을 철학적 논쟁이 아닌 숫자로 보여줄 수 있게 되었습니다.
2. 실제 벨 부등식 실험에서는 무엇을 측정했을까?
초기의 벨 부등식 실험은 얽힌 광자를 이용하는 방식으로 발전했습니다. 1972년 존 클라우저와 스튜어트 프리드먼은 얽힌 광자를 이용해 벨 부등식의 위반을 관측했고, 그 결과는 양자역학의 예측과 일치했습니다. 노벨상 측 자료에 따르면 이 실험은 벨 부등식이 실제 측정에서 위반될 수 있음을 명확하게 보여준 중요한 실험이었습니다.
실험의 기본적인 그림을 상상해 보면 이해하기 쉽습니다.
하나의 장치에서 얽힌 광자 두 개를 동시에 만들어 각각 왼쪽과 오른쪽으로 보냅니다. 왼쪽에는 측정 장치 A, 오른쪽에는 측정 장치 B가 있습니다. 각각의 장치는 광자의 편광을 서로 다른 각도에서 측정합니다. 측정 결과는 예를 들어 통과와 차단처럼 두 가지 결과로 분류할 수 있습니다.
중요한 것은 A와 B가 각각 어떤 결과를 얻었는지를 따로 보는 것이 아니라 두 결과가 얼마나 강하게 연결되어 있는지를 보는 것입니다.
예를 들어 특정한 측정 각도 조합에서는 두 입자의 결과가 강하게 일치하고, 다른 각도 조합에서는 그 관계가 달라질 수 있습니다. 여러 측정 설정을 조합하면 상관관계를 하나의 수치로 표현할 수 있고, 대표적인 형태가 CHSH 벨 부등식입니다.
CHSH 형태에서는 국소 숨은 변수 이론이 만족해야 하는 범위가 일반적으로
|S| ≤ 2
라는 형태로 표현됩니다.
반면 이상적인 양자역학에서는 적절한 얽힘 상태와 측정 조건을 선택했을 때 최대
|S| = 2√2
까지 예측할 수 있습니다.
따라서 실험의 목표는 단순히 “얽힘이 존재하는가?”를 확인하는 것이 아닙니다. 실제 측정에서 얻은 상관관계가 벨 부등식이 허용하는 범위를 넘어서는가를 확인하는 것이 핵심입니다.
이 차이가 매우 중요합니다. 양자역학이 단순히 고전적인 확률 이론보다 복잡하다는 정도가 아니라, 특정한 종류의 국소적 숨은 변수 설명으로는 만들어낼 수 없는 상관관계를 실제로 예측하기 때문입니다. 노벨상 자료에서도 얽힌 광자의 측정 결과가 숨은 변수에 의해 미리 결정되었다고 가정했을 때 가능한 상관관계보다 강하게 나타나며, 그 결과 벨 부등식이 위반될 수 있다고 설명합니다.
하지만 여기에서 곧바로 “실험으로 모든 논쟁이 끝났다”고 말할 수는 없었습니다.
실제 실험에는 언제나 장비의 한계가 존재하기 때문입니다. 광자를 만들어내는 과정에서 모든 광자가 원하는 형태로 만들어지는 것은 아니며, 만들어진 광자 가운데 일부만 검출될 수도 있습니다. 측정 장치의 효율도 완벽하지 않습니다. 또한 두 측정 장치가 충분히 멀리 떨어져 있지 않거나 측정 설정을 바꾸는 과정이 충분히 빠르지 않다면, 국소성에 관한 가정을 완전히 만족했다고 보기 어려울 수 있습니다.
이러한 실험적 한계를 흔히 허점(loophole)이라고 부릅니다.
알랭 아스펙트와 동료들의 1981~1982년 실험은 이러한 문제를 해결하기 위한 중요한 진전을 보여주었습니다. 특히 측정 설정을 빠르게 바꾸는 방법을 사용해 한쪽 측정 설정에 대한 정보가 다른 쪽 결과에 영향을 줄 가능성을 줄였습니다. 노벨상 자료는 아스펙트의 실험이 이러한 방식으로 중요한 국소성 허점을 다루었다고 설명합니다.
이후에도 실험은 계속 발전했습니다. 검출 효율을 높이고, 측정 설정을 무작위로 선택하며, 두 측정 장소를 충분히 떨어뜨리는 등 여러 조건을 동시에 만족시키려는 노력이 이어졌습니다.
결국 벨 부등식 실험의 역사는 단 한 번의 결정적인 실험으로 끝난 이야기가 아니라, “혹시 다른 설명이 가능한 것은 아닐까?”라는 질문에 하나씩 답해 나간 과정이라고 볼 수 있습니다.
3. 2015년 이후 벨 부등식 실험은 무엇을 보여주었을까?
벨 부등식 실험의 역사에서 중요한 전환점 가운데 하나는 2015년입니다. 그전까지 수많은 실험에서 벨 부등식 위반이 관측되었지만, 각 실험에는 검출 효율이나 측정 위치와 관련된 여러 실험적 허점이 남아 있었습니다. 따라서 결과를 해석할 때 특정한 추가 가정을 사용해야 하는 경우가 있었습니다.
2015년 네덜란드 델프트공과대학교의 로널드 핸슨 연구팀을 중심으로 수행된 실험은 이러한 문제를 줄이기 위해 서로 약 1.3km 떨어진 두 지점에서 전자 스핀을 측정했습니다. 연구진은 질소-공공(NV) 중심이 있는 다이아몬드에서 전자 스핀을 이용해 얽힘을 만들고, 빠른 무작위 측정 설정과 효율적인 스핀 판독을 결합했습니다. 실험 논문은 245회의 시험에서 CHSH 벨 부등식의 S 값으로 2.42 ± 0.20을 얻었다고 보고했습니다. 국소 실재론적 가설을 기준으로 한 통계적 검정에서도 관측된 정도 이상의 위반이 우연히 나타날 확률을 평가했습니다.
여기에서 ‘무허점(loophole-free)’이라는 표현을 사용할 때는 주의가 필요합니다. 이는 자연에 존재할 수 있는 모든 철학적 가능성을 완전히 제거했다는 의미가 아닙니다. 당시 실험에서 주요한 검출 허점과 국소성 허점을 동시에 다루도록 설계했다는 의미에 가깝습니다. 이후에도 다양한 방식의 벨 검증 실험이 이어졌으며, 실험 물리학에서는 어떤 가정과 허점을 어떻게 통제했는지를 세밀하게 검토합니다. 실제로 2015년에는 거의 비슷한 시기에 서로 다른 연구팀에서도 주요 허점을 줄인 벨 부등식 위반 실험들이 보고되었습니다.
그렇다면 이 모든 실험이 양자역학에 어떤 의미를 주는 것일까요?
가장 중요한 점은 양자역학의 얽힘이 단순히 우리가 아직 모르는 고전적인 정보의 집합으로 쉽게 대체될 수 없다는 것입니다. 벨 부등식 위반은 국소적 숨은 변수 이론이 양자역학의 모든 예측을 재현할 수 없음을 실험적으로 검증하는 방향으로 발전해 왔습니다. 노벨상은 이러한 연구의 공로를 인정해 2022년 존 클라우저, 알랭 아스펙트, 안톤 차일링거에게 얽힌 광자를 이용해 벨 부등식의 위반을 확립하고 양자정보과학을 개척한 공로로 물리학상을 수여했습니다.
하지만 이것을 “양자역학이 모든 것을 설명한다”는 의미로 받아들여서는 안 됩니다. 벨 부등식 실험이 직접적으로 다루는 것은 특정한 종류의 국소적 숨은 변수 설명과 양자역학의 예측 사이의 차이입니다. 또한 얽힘을 이용해 정보를 전달할 때 빛보다 빠른 통신이 가능하다는 뜻도 아닙니다. 얽힘에서 나타나는 강한 상관관계와 실제로 원하는 메시지를 초광속으로 전달하는 것은 서로 다른 문제입니다.
오히려 벨 부등식 실험이 남긴 더 흥미로운 결과는 양자역학이 실험실에서 기술적으로 활용할 수 있는 자원으로 바뀌었다는 것입니다.
얽힘을 정밀하게 만들고 측정하는 기술이 발전하면서 양자컴퓨터, 양자통신, 양자암호, 양자난수 생성과 같은 분야가 발전할 수 있는 기반이 마련되었습니다. 노벨상 자료에서도 벨 부등식과 얽힘 실험이 현대 양자정보과학의 발전으로 이어졌다는 점을 강조합니다.
결국 벨 부등식 실험은 단순히 오래된 물리학 논쟁을 해결한 실험 목록이 아닙니다. 처음에는 “아인슈타인의 직관과 양자역학 중 무엇이 자연을 더 잘 설명하는가?”라는 질문에서 시작했지만, 시간이 지나면서 “얽힘이라는 독특한 물리적 자원을 어떻게 만들고, 측정하고, 활용할 것인가?”라는 새로운 질문으로 확장되었습니다.
이런 의미에서 벨 부등식 실험은 양자역학의 기초를 검증하는 동시에 현대 양자기술의 출발점 중 하나가 되었습니다. 그리고 여기서 자연스럽게 다음 질문이 등장합니다.
벨 부등식은 실제 실험에서 정확히 어떻게 계산되고, 어떤 조건에서 위반되었다고 판단할 수 있을까요?
다음 글에서는 바로 이 문제를 수학적 구조와 실제 측정 결과를 중심으로 살펴보겠습니다.