하이젠베르크의 행렬역학
20세기 초 원자물리학은 눈에 보이지 않는 세계를 설명하기 위해 기존의 물리학을 끊임없이 수정해야 했던 시기였습니다. 플랑크의 양자 가설, 아인슈타인의 광양자설, 러더퍼드의 원자핵 발견, 보어의 원자모형을 거치면서 원자의 세계에는 고전역학만으로 설명하기 어려운 규칙이 존재한다는 사실이 점점 분명해졌습니다.
특히 원자 스펙트럼은 결정적인 문제였습니다. 원자가 방출하는 빛은 연속적인 모든 파장이 아니라 특정한 선 스펙트럼으로 나타났습니다. 보어의 원자모형은 수소 원자의 에너지 준위를 성공적으로 설명했지만, 복잡한 원자와 분자의 현상까지 일반적으로 설명하기에는 한계가 있었습니다.
이러한 상황에서 1925년 베르너 하이젠베르크는 기존의 원자 궤도 개념을 과감하게 내려놓고, 실제로 관측 가능한 물리량 사이의 관계를 중심으로 새로운 역학을 만들려고 했습니다. 그의 1925년 논문은 관측 가능한 양을 중심으로 새로운 양자이론을 구성하려는 시도였습니다. 이후 막스 보른과 파스쿠알 요르단이 하이젠베르크의 아이디어를 행렬이라는 수학적 언어로 정리하면서 오늘날 하이젠베르크의 행렬역학으로 알려진 이론이 발전했습니다.
흥미로운 점은 하이젠베르크가 처음부터 “행렬역학”이라는 완성된 형태를 만들었던 것은 아니라는 사실입니다. 행렬이라는 수학적 구조를 명확하게 인식하고 체계화한 과정에는 보른과 요르단의 중요한 기여가 있었습니다.
따라서 하이젠베르크의 행렬역학은 한 과학자의 단독 발명이라기보다 당시 양자론이 맞닥뜨린 문제를 해결하기 위해 여러 연구자들의 아이디어가 빠르게 결합하면서 탄생한 새로운 물리학의 형태로 이해하는 것이 적절합니다.
1. 하이젠베르크의 행렬역학은 왜 필요했을까?
하이젠베르크의 행렬역학을 이해하려면 먼저 하이젠베르크가 기존 원자이론에서 무엇을 문제라고 생각했는지 살펴볼 필요가 있습니다.
당시 물리학자들은 원자를 설명하기 위해 전자가 원자핵 주위를 움직이는 모습을 상상했습니다. 특히 보어의 원자모형에서는 전자가 특정한 에너지 상태에 해당하는 궤도에 존재한다고 가정했습니다. 이 모형은 수소 원자의 스펙트럼을 설명하는 데 놀라운 성공을 거두었습니다.
그러나 여기에는 근본적인 문제가 있었습니다.
전자 궤도 자체는 직접 관측할 수 없었습니다.
우리가 실험을 통해 실제로 얻을 수 있는 것은 원자가 방출하거나 흡수하는 빛의 주파수와 세기 같은 관측량이었습니다. 그렇다면 관측할 수 없는 전자의 궤도를 억지로 상정하기보다, 처음부터 관측 가능한 양을 중심으로 이론을 구성하는 것이 더 합리적이지 않을까요?
하이젠베르크는 바로 이 방향을 선택했습니다.
1925년 7월 발표된 그의 논문에서 그는 원자의 운동을 설명할 때 원자 내부의 고전적인 전자 궤도처럼 원칙적으로 관측할 수 없는 양을 사용하는 대신, 관측 가능한 양들과 그 관계를 이용하는 새로운 양자역학을 구성하려고 했습니다.
이것은 당시로서는 상당히 급진적인 발상이었습니다.
고전역학에서는 물체의 위치 q, 운동량 p, 속도 v 등을 이용해 물체의 운동을 설명합니다. 예를 들어 행성이 태양 주위를 어떤 궤도로 움직이는지를 계산하려면 행성의 위치와 속도를 시간에 따라 추적할 수 있습니다.
그러나 원자 규모에서는 “전자 궤도”라는 개념 자체가 실험적으로 확인되는 대상이 아니었습니다.
하이젠베르크는 그래서 원자에서 관측되는 스펙트럼을 출발점으로 삼았습니다.
원자가 하나의 에너지 상태에서 다른 에너지 상태로 이동할 때 특정한 주파수의 빛이 방출됩니다. 따라서 원자의 상태 사이의 전이와 그에 대응하는 주파수 및 세기를 체계적으로 다룬다면 원자의 물리적 성질을 설명할 수 있다고 생각했습니다.
이러한 접근은 양자역학의 사고방식을 크게 바꾸었습니다.
기존의 질문은 “전자가 어떤 궤도를 도는가?”였습니다.
새로운 질문은 “원자가 어떤 에너지 상태 사이에서 전이하며, 그 전이에서 어떤 관측량이 나타나는가?”가 되었습니다.
이것은 단순한 표현 방식의 변화가 아니었습니다.
이론의 출발점 자체가 달라진 것입니다.
하이젠베르크가 1925년에 발표한 논문의 제목인 Über quantentheoretische Umdeutung kinematischer und mechanischer Beziehungen 역시 고전적인 운동학적·역학적 관계를 양자이론적으로 재해석한다는 의미를 담고 있었습니다.
그리고 여기에서 놀라운 수학적 구조가 나타났습니다.
하이젠베르크가 원자의 물리량을 표현하기 위해 사용한 양들은 우리가 익숙하게 생각하는 일반적인 숫자와 같은 방식으로 곱해지지 않았습니다.
오늘날의 표현으로 단순화하면 두 물리량 A, B에 대해
AB ≠ BA
가 될 수 있다는 것입니다.
이것이 바로 비가환성입니다.
일반적인 숫자에서는 2 × 3과 3 × 2가 동일합니다.
하지만 행렬에서는 행렬의 곱셈 순서가 결과에 영향을 줄 수 있습니다.
바로 이 성질이 새로운 양자역학의 핵심적인 특징 가운데 하나가 되었습니다.
이때 중요한 역사적 사실이 있습니다.
하이젠베르크의 최초 논문에서는 오늘날 우리가 배우는 것처럼 처음부터 행렬을 명시적으로 사용한 것은 아니었습니다. 막스 보른이 하이젠베르크의 독특한 곱셈 규칙을 살펴보다가 그것이 행렬의 곱셈과 같다는 사실을 알아냈고, 파스쿠알 요르단과 함께 이를 체계적인 수학으로 발전시켰습니다.
따라서 하이젠베르크의 행렬역학이라는 이름에는 하이젠베르크의 물리적 통찰뿐만 아니라 보른과 요르단의 수학적 정식화 과정도 함께 포함되어 있습니다.
이렇게 탄생한 새로운 이론은 기존 원자모형의 “보이지 않는 궤도”를 중심에 두지 않았습니다.
대신 실험에서 실제로 얻을 수 있는 스펙트럼과 전이 정보를 수학적으로 조직했습니다.
이것은 양자역학이 고전역학을 단순히 조금 수정한 이론이 아니라, 미시세계의 물리량을 표현하는 방법 자체를 다시 만들어야 했던 새로운 이론임을 보여줍니다.
2. 행렬은 어떻게 원자의 물리량을 표현했을까?
하이젠베르크의 행렬역학에서 가장 낯설면서도 중요한 부분은 바로 “왜 물리학에 행렬이 등장하는가?”라는 질문입니다.
오늘날 행렬은 선형대수학에서 흔히 사용하는 수학적 도구입니다. 하지만 1925년의 물리학에서는 원자의 물리량을 행렬로 표현한다는 생각이 매우 새로운 것이었습니다.
하이젠베르크가 다루려 했던 것은 원자의 여러 에너지 상태 사이에서 일어나는 전이였습니다.
예를 들어 원자가 에너지 상태 n에서 m으로 전이한다고 생각해보겠습니다.
이 전이와 관련된 빛의 주파수는 두 에너지 상태의 차이와 연결됩니다.
현대적인 표현으로는
hν = Eₙ - Eₘ
과 같은 관계로 나타낼 수 있습니다.
그런데 원자의 모든 가능한 상태 사이의 전이를 체계적으로 기록하려면 상당히 많은 정보가 필요합니다.
각 상태에서 다른 상태로 전이할 때의 주파수와 전이 세기를 하나씩 기록해야 하기 때문입니다.
하이젠베르크의 아이디어는 이러한 정보를 체계적인 배열로 표현하는 것이었습니다.
보른은 이 구조가 행렬과 연결된다는 사실을 발견했고, 요르단과 함께 새로운 양자역학의 수학적 기반을 발전시켰습니다. 보른과 요르단의 1925년 논문에서는 하이젠베르크의 양자이론을 체계적인 행렬 계산법으로 정리했으며, 이후 보른·하이젠베르크·요르단의 공동 연구를 통해 이 이론은 더욱 완성되었습니다.
이렇게 생각하면 행렬은 단순한 숫자의 표가 아닙니다.
각 원소에는 특정한 양자 상태 사이의 전이와 관련된 정보가 담길 수 있습니다.
즉 행렬 하나에 원자의 여러 상태 사이의 관계가 압축되어 들어가는 것입니다.
여기에서 양자역학의 독특한 수학적 특징이 더욱 분명해집니다.
고전역학에서는 물리량을 일반적인 함수로 표현하고 그 함수들을 곱하거나 미분합니다.
하지만 행렬역학에서는 물리량을 행렬로 표현하고 행렬의 곱셈 규칙에 따라 계산합니다.
그리고 행렬의 곱셈은 일반적으로 교환법칙을 만족하지 않습니다.
즉
AB ≠ BA
가 될 수 있습니다.
이것이 단순한 수학적 불편함이라면 큰 의미가 없었을 것입니다.
그러나 실제 양자계에서는 위치와 운동량 같은 물리량 사이에 이러한 비가환성이 나타나며, 이것은 훗날 불확정성 원리와 깊은 관계를 갖게 됩니다.
대표적인 관계는 다음과 같습니다.
[x, p] = xp - px = iℏ
여기서 [x,p]는 위치와 운동량의 교환자를 의미합니다.
이 관계는 양자역학에서 매우 중요한 역할을 합니다.
고전역학에서는 위치와 운동량을 동시에 정확히 갖는 물리적 상태를 생각하는 것이 자연스럽습니다.
그러나 양자역학에서는 위치와 운동량에 대응하는 연산자의 비가환성이 근본적인 수학적 구조로 등장합니다.
따라서 행렬역학은 단순히 “행렬을 이용해 계산하는 양자역학”이라고만 이해하면 부족합니다.
핵심은 물리량의 곱셈 규칙 자체가 고전역학과 달라졌다는 것입니다.
이 변화는 원자 세계를 설명하는 방식에 근본적인 차이를 만들어냈습니다.
보른과 요르단의 1925년 연구에서는 이러한 행렬 계산법을 바탕으로 운동방정식을 정리하고 에너지 보존과 보어의 주파수 조건 등을 새로운 형식 안에서 다루었습니다.
특히 행렬역학은 원자의 에너지 스펙트럼을 계산하는 데 사용할 수 있었습니다.
행렬로 표현된 에너지 연산자의 고유값을 찾으면 허용되는 에너지 값들이 나타납니다.
오늘날에는 이를 선형대수학의 고유값 문제로 익숙하게 바라볼 수 있지만, 당시에는 이것이 원자물리학을 새로운 수학으로 표현하는 혁신적인 방법이었습니다.
실제로 파울리는 행렬역학을 이용해 수소 원자의 에너지 상태를 계산했고, 새로운 이론이 기존의 스펙트럼 문제를 해결할 수 있다는 사실을 보여주는 중요한 결과를 얻었습니다.
이 점에서 하이젠베르크의 행렬역학은 단순한 철학적 제안이 아니었습니다.
실제 원자의 관측 가능한 결과를 계산할 수 있는 물리이론이었습니다.
그리고 바로 이것이 양자역학이 새로운 이론으로 빠르게 자리 잡는 데 중요한 이유였습니다.
흥미로운 점은 이 이론이 처음에는 상당히 난해했다는 것입니다.
행렬을 잘 알고 있던 수학자들에게는 새로운 계산법으로 볼 수 있었지만, 물리학자 입장에서는 기존의 공간적 그림과 다른 방식으로 원자를 설명해야 했습니다.
전자가 어디를 움직이는지 보여주는 궤도가 사라지고, 대신 상태 사이의 전이와 물리량의 행렬 표현이 중심이 되었습니다.
이 때문에 하이젠베르크의 행렬역학은 원자를 바라보는 관점 자체를 변화시킨 이론이라고 할 수 있습니다.
원자를 작은 태양계처럼 상상하는 대신, 측정 가능한 양과 상태 사이의 관계로 원자를 기술하기 시작한 것입니다.
이러한 변화는 오늘날 양자역학을 공부할 때도 매우 중요합니다.
양자역학은 고전물리학에서 사용하던 그림을 단순히 작은 크기로 축소한 이론이 아닙니다.
미시세계에서는 물리량과 상태를 표현하는 수학적 구조 자체가 달라집니다.
행렬역학은 그 사실을 가장 극적으로 보여주는 역사적 사례입니다.
3. 하이젠베르크의 행렬역학에서 현대 양자역학으로
하이젠베르크의 행렬역학은 1925년에 등장한 뒤 빠르게 발전했습니다.
하이젠베르크 혼자 완성한 이론이 아니라 보른, 요르단, 그리고 이후 디랙 등 여러 연구자들의 작업이 결합하면서 현대적인 양자역학의 형태로 발전했습니다. 특히 보른과 요르단은 하이젠베르크의 아이디어를 행렬 형식으로 정리했고, 세 사람은 1925년 말 공동 논문을 통해 이론을 더욱 발전시켰습니다.
이 과정에서 양자역학의 중요한 개념들이 점차 명확해졌습니다.
그중 하나가 바로 교환자입니다.
두 물리량을 나타내는 연산자 A와 B에 대해
[A,B] = AB - BA
로 정의할 수 있습니다.
고전적인 숫자라면 일반적으로 AB - BA = 0이지만, 양자역학의 연산자에서는 반드시 그렇지 않습니다.
위치와 운동량에 대해
[x,p] = iℏ
라는 관계가 등장합니다.
이 관계는 훗날 하이젠베르크의 불확정성 원리와 연결됩니다.
따라서 하이젠베르크의 행렬역학은 단순히 하나의 역사적 계산법으로 끝난 것이 아닙니다.
그 안에서 현대 양자역학의 핵심적인 수학 구조가 발전했습니다.
하지만 여기에서 또 하나의 중요한 전환점이 등장합니다.
1926년 에르빈 슈뢰딩거가 파동역학을 발표한 것입니다.
슈뢰딩거는 전자의 상태를 파동함수로 표현하고 미분방정식을 통해 그 변화를 설명했습니다.
처음 보면 행렬역학과 파동역학은 완전히 다른 이론처럼 보입니다.
하나는 행렬을 사용하고 다른 하나는 파동함수를 사용하기 때문입니다.
그러나 이후 두 이론이 수학적으로 동등한 양자역학의 서로 다른 표현이라는 사실이 밝혀졌습니다. 1926년 말에는 요르단과 디랙의 연구를 포함해 행렬역학과 파동역학 사이의 수학적 동등성이 정립되어 갔습니다.
이것은 매우 중요한 사실입니다.
오늘날 우리가 슈뢰딩거 방정식을 이용해 양자역학을 공부한다고 해서 하이젠베르크의 행렬역학이 역사적으로 실패한 이론이었다는 의미는 아닙니다.
오히려 같은 양자현상을 서로 다른 수학적 표현으로 기술할 수 있다는 것을 보여줍니다.
현대적으로는 이를 슈뢰딩거 그림과 하이젠베르크 그림이라는 서로 다른 표현 방식으로 연결해서 이해할 수 있습니다.
슈뢰딩거 그림에서는 상태가 시간에 따라 변화한다고 보는 반면, 하이젠베르크 그림에서는 연산자의 시간 변화를 중심으로 기술합니다.
관측 가능한 물리적 예측은 적절한 조건에서 동일하게 얻어집니다.
이러한 관점에서 하이젠베르크의 행렬역학은 양자역학의 한 역사적 단계인 동시에 현대 양자이론의 중요한 구조적 뿌리라고 볼 수 있습니다.
더 흥미로운 것은 행렬역학에서 등장한 수학적 사고가 오늘날에도 계속 사용된다는 사실입니다.
양자컴퓨터를 예로 들어보겠습니다.
양자컴퓨터에서는 큐비트의 상태를 벡터로 표현하고, 양자 연산을 행렬 또는 연산자로 표현할 수 있습니다.
여러 양자 게이트를 차례대로 적용할 때 연산의 순서가 중요할 수 있습니다.
이는 양자역학에서 연산자의 비가환성이 중요한 이유와 연결됩니다.
즉 1925년에 등장한 새로운 수학적 구조는 단순한 역사적 유물이 아니라 현대의 양자정보과학에서도 자연스럽게 이어지는 언어가 되었습니다.
양자역학의 발전 과정에서 행렬은 단순히 계산을 편리하게 만드는 도구가 아니었습니다.
행렬은 양자 상태 사이의 관계와 측정 가능한 물리량을 표현하는 하나의 언어가 되었습니다.
그리고 이 언어는 원자물리학을 넘어 분자물리학, 고체물리학, 양자광학, 양자정보과학 등 다양한 분야로 확장되었습니다.
따라서 하이젠베르크의 행렬역학을 공부할 때 중요한 것은 행렬 계산법 자체를 암기하는 것이 아닙니다.
오히려 다음과 같은 사고의 변화를 이해하는 것이 중요합니다.
고전역학에서는 물체의 궤적을 중심으로 자연을 설명했습니다.
하지만 하이젠베르크는 원자 내부의 관측할 수 없는 궤도보다 실제 관측 가능한 전이와 스펙트럼을 중심으로 새로운 역학을 만들려고 했습니다.
그리고 보른과 요르단은 이러한 아이디어를 행렬의 수학으로 정리했습니다.
그 과정에서 비가환적인 물리량이라는 새로운 구조가 등장했고, 이것은 현대 양자역학의 핵심적인 특징 가운데 하나가 되었습니다.
이후 슈뢰딩거의 파동역학이 등장하면서 서로 다른 형태의 양자이론이 하나의 체계로 연결되었습니다.
결국 하이젠베르크의 행렬역학은 고전역학에서 양자역학으로 넘어가는 과정에서 매우 중요한 역할을 했습니다.
그 의미는 단순히 “하이젠베르크가 행렬을 사용했다”는 사실에 있지 않습니다.
더 근본적인 의미는 관측할 수 없는 고전적 그림을 포기하고 관측 가능한 물리량의 관계를 중심으로 자연을 기술하려는 발상에 있습니다.
이러한 발상은 양자역학이 왜 고전적인 직관에서 벗어나야 했는지를 보여주는 대표적인 사례입니다.
그리고 이 지점에서 양자역학을 바라보는 흥미로운 질문이 다시 등장합니다.
만약 우리가 전자의 궤도를 직접 볼 수 없다면, 우리가 말하는 “전자 상태”란 정확히 무엇일까요?
이 질문은 앞에서 살펴본 파동함수의 의미와도 연결됩니다.
슈뢰딩거는 양자 상태를 파동함수로 표현했고, 하이젠베르크는 연산자와 행렬을 중심으로 표현했습니다.
서로 다른 언어처럼 보였지만 결국 같은 양자세계의 구조를 설명하는 수학적 체계로 연결되었습니다.
따라서 하이젠베르크의 행렬역학은 양자역학의 역사를 이해하기 위한 하나의 창이라고 할 수 있습니다.
그 창을 통해 보면 양자역학은 단순히 “작은 입자에 적용되는 새로운 물리학”이 아니라, 자연을 수학적으로 표현하는 방법 자체가 변화한 혁명이었다는 사실이 드러납니다.
1925년의 하이젠베르크, 보른, 요르단이 만들어낸 새로운 수학적 구조는 이후 거의 한 세기 동안 발전해 왔으며, 오늘날에도 원자와 분자부터 양자컴퓨터와 양자정보과학까지 다양한 분야에서 활용되고 있습니다.
결국 하이젠베르크의 행렬역학이 남긴 가장 큰 의미는 행렬이라는 계산법 그 자체보다도, 미시세계에서는 우리가 익숙한 고전적인 그림이 아닌 새로운 언어가 필요할 수 있다는 사실을 보여준 데 있습니다.
그리고 그 새로운 언어가 바로 현대 양자역학의 출발점 가운데 하나가 되었습니다.