이상욱/ 한양대 철학과 교수
양자역학(Quantum Mechanics)은 현대물리학의 근간이 되는 이론인 동시에 이론적 예측과 응용 모두에 있어 매우 성공적인 이론이다. 양자역학이 설명하는 현상은 별들의 진화와 같은 거시적 수준에서부터 반도체 안의 아주 작은 입자의 흐름과 같은 미시적 수준까지 물리적 세계의 모든 부분에 걸쳐있다. 그래서인지 양자역학의 내용에는 현대과학이 세계를 바라보는 방식의 중요한 특징이 담겨있다고도 이야기한다.
물리학자들은 20세기를 전후로 원자 수준의 현상을 본격적으로 연구하면서 당시의 물리학 이론으로 설명하기 어려운 흑체복사와 같은 여러 실험 현상을 발견했다. 양자역학은 이를 설명하려는 플랑크, 보어, 아인슈타인, 좀머펠트, 하이젠베르크, 파울리, 보른 등의 노력을 통해 등장했다. 하지만 양자역학은 단순히 기존 이론이 설명하지 못하던 실험 현상을 설명해낸 새로운 이론이기만 한 것은 아니었다. 과학이론이 현상을 기술하고 설명한다는 것이 무엇인지에 대해 양자역학은 기존의 물리학과 전혀 다른 대답을 내놓았던 것이다. 양자역학의 기술방법이 가진 개념적 생경함은 양자역학 특히 하이젠베르크의 ‘불확정성 원리’가 예기치 않게 인문사회과학과 예술 분야에서 상당한 영향을 끼치게 하였다. 물론 대부분의 경우 이는 단순한 도입이기보다는 창조적 변형이었다.
우리에게 가장 ‘자연스럽게’ 느껴질 수 있는 세상에 대한 과학적 서술방식은 다음과 같다. 우선 우리 주변의 현상 중에서 어떤 것을 기술하고 싶은지(기술대상), 그리고 그 기술대상의 어떤 측면(기술목표)을 기술하고 싶은지를 결정한다. 그런 다음 기술하고자 하는 대상에 적당한 ‘속성’을 부여한다. 대상은 현상적으로 보여지는 속성을 소유하고 있는 것으로 가정된다. 그 다음 등장하는 것이 동역학 방정식이다. 이것은 우리가 관심을 가지고 있는 기술목표가 시간에 따라 어떻게 변화하는가를 말해준다.
양자역학 이전의 뉴턴역학은 기술대상을 잠재적으로 모든 물체로 잡고 기술목표를 그런 물리적 대상계의 위치와 속도가 시간에 따라 어떻게 변화하는가로 한정한다. 이 기술목표를 달성하기 위해 뉴턴역학은 물체가 질량이라는 속성을 가지고 있고, 이 질량이 물체에 가해지는 힘에 대해 일종의 ‘저항’으로 작용한다고 생각한다. 즉, 뉴턴의 제2법칙에 의하면 힘을 받은 물체는 일정한 가속도를 얻게 되는데 이 때 얻어지는 가속도는 물체의 질량에 반비례한다고 설명한다. 여기서 주목할 점은 뉴턴역학에서는 물체의 위치변화에 대한 완전하고도 결정론적인 해법이 이론상으로는 존재한다는 사실이다. 이런 해법을 통해 얻은 물체에 대한 뉴턴역학의 기술이 성공적일 때 우리는 물체가 정말로 질량이란 것을 ‘가지고’ 있고 생각할 수 있는 근거를 갖게 된다. 또한 뉴턴역학에서 질량이나 속도를 측정하는 과정은 대상이 이미 가지고 있는 물리적 속성을 그대로 읽어내는 과정으로 상정된다.
스턴-게락의 실험과 양자역학의 개념성
양자역학이 개념적 어려움을 제기하는 이유는 이상의 자연스러워 보이는 가정들이 더 이상 정합적으로 유지되기 어렵다는 데 있다. 이 점은 은(silver)원자에 대한 스턴-게락의 유명한 실험을 통해 이해할 수 있다. 양자역학적 기술은 은원자에 스핀이라는 ‘속성’을 부여하는데, 은원자의 흐름에 불균일한 자기장을 강하게 걸어주면 서로 다른 방향의 스핀을 지닌 은원자들을 분류해 낼 수 있다. 이제 이런 장치를 사용하여 위방향의 스핀을 가진 은원자와 아래방향의 스핀을 가진 은원자를 분류해 냈다고 생각하자. 이 분류가 완벽하게 이루어졌다는 전제 하에서 아래방향으로 빠져나온 은원자들은 모두 아래방향의 스핀을 지니고 있다고 가정하는 것이 자연스러울 것이다. 게다가 이렇게 아래방향으로 빠져나온 은원자를 다시 상하스핀 측정기에 걸어주면 모두 아래방향으로 빠져나오므로 우리가 이렇게 가정하는 것은 정당한 것처럼 보인다.
이제 이 위로 빠져나온 은원자를 좌우방향의 스핀을 가려내는 또 다른 장치를 통과하게 하자. 그럼 이 중 일부는 왼쪽으로 다른 일부는 오른쪽으로 나올 것이다. 이제 이 장치에서 왼쪽으로 나온 은원자들을 다시 위/아래방향의 스핀을 가려내는 장치를 통과시키면 어떻게 될까? 당연히 우리는 모든 은원자들이 아래방향으로 나올 것이라고 기대할 것이다. 하지만 놀랍게도 은원자들은 정확히 절반씩 위/아래 방향으로 갈려나온다. 여기서 한 술 더 떠서 아래방향의 은원자를 다시 한번 왼쪽/오른쪽 스핀측정기에 집어넣으면 과거에 자신의 ‘정체성’을 잊은 채로 다시 좌우 정확하게 절반씩 갈라져 나온다. 이 실험에서 알 수 있듯이 은원자에 스핀의 특정방향을 정합적으로 부여하는 일은 불가능하다. 양자역학에서 다루는 대표적인 속성인 스핀은 확정적인 성질을 갖지 않고 매 측정상황에서 ‘불확정성’을 드러내게 되는 것이다.
왜 양자역학의 속성에 대해서만 이런 현상이 일어나는가에 대해 여러 가지 짐작을 해볼 수 있다. 한 가능성은 은원자의 상하방향 스핀을 잰 후 그것의 좌우방향 스핀을 재면 상하방향 스핀값이 변해 버린다는 것이다. 사실 이것이 ‘불확정성 원리’를 처음 제안할 때 하이젠베르크의 생각이었다. 하지만 이후 연구를 통해 이런 영향이 기계적 간섭이라기보다는 확률에 대한 영향이라는 점이 밝혀졌다. 문제는 이런 확률적 영향이 어떤 물리적 메커니즘을 통해서 가능한지에 대해 양자역학이 침묵하고 있는 데 있다.
상대성이론의 주창자이자 양자이론의 초기 발전과정에 중요한 역할을 담당했던 아인슈타인은 양자역학이 가진 이와 같은 불확정성을 참아낼 수 없었다. 그래서 양자역학에 숨겨진 메커니즘을 보충해서 보다 완전한 이론을 세우고자 노력했다. 하지만 이후 전개된 물리학의 역사는 아인슈타인의 편을 들어주지 않았다. 대다수의 물리학자들이 양자현상의 기묘함을, 불편하지만 인정해야 할 ‘사실’로 받아들이게 된 것이다. 여기에는 벨의 부등식에 대한 실험적 확인 등의 여러 경험적 근거가 중요했다. 이는 형이상학적 주장이 경험적으로 검증된, 드문 사례라고 할 수 있다.
* 양자역학과 불확정성 원리 이 글은 <과학기술의 철학적 이해(제3개정판)> (한양대학교출판부, 2006)에 실린 필자의 글 ‘양자역학의 기묘한 세계’내용의 일부를 기초로 작성되었다.