수론의 난제 중 하나인 타원곡선의 구조

임보해 / 수학과 교수

  과학뿐만 아니라 일상생활은 물론 사회 전반에 수학을 이용하여 해결할 수 있는 문제들이 매우 많이 존재한다. 예를 들어 어떤 특정한 조건을 만족하는 수치 또는 값을 찾아야 하는 경우, 이러한 문제는 그 조건을 만족하는 방정식을 세우고 식의 해를 찾음으로써 해결할 수 있다. 특히 실생활에서는 해 중에서도 정수해를 찾아야 할 경우가 많다. 수학분야 중 주로 수론(number theory)과 산술적 기하학(arithmetic geometry)이 이러한 문제들과 관련이 있다. 예를 들어 세 변의 길이가 양의 정수인 직각삼각형을 찾고자 할 때 방정식 을 만족하는 양의 정수 를 구하면 되는데, 이러한 세 수를 피타고라스 수라 하며 (3,4,5), (5,12,13), (7,24,25) 등 무한히 많은 피타고라스 수가 존재한다. 그러나 비슷한 형태의 방정식으로써 2보다 큰 정수 n에 대하여 방정식을 만족하는 0이 아닌 정수 는 존재하지 않는다는 것이 페르마의 마지막 정리(Fermat’s last theorem)이다. 이 정리는 1637년에 페르마에 의해 발견되었으나 그 당시 페르마는 ‘여백의 부족으로 증명을 남기지 않는다’라고 하며 이 문제를 후세에 남겨주었다. 그 덕분에 수학적 호기심으로 가득 찬 수많은 천재 수학자들에 의해 그 이후 약 350년 동안 증명의 시도와 실패가 거듭되다가 결국 1993년 영국 수학자 와일즈(Andre Wiles)에 의해 처음 증명이 거의 완성되고, 1995년 다른 수학자들의 공동 연구로 보완을 거쳐 완벽하게 완성되었다. 

  나의 주요 연구분야는 수론 중에서 다이오펜틴 방정식(diophantine equation)의 정수근의 존재성 결정과 근의 표현에 관한 연구이며, 특히 와일즈의 증명과정에서 다시 한 번 중요성이 강조된 타원곡선(elliptic curve), 즉 를 만족하는 유리수 들의 집합 구조 연구이다. 실제로 대수기하학적으로 정의된 타원곡선이 갖는 특별히 정의된 연산 하에서 군(group)의 구조는 매우 특별한 성질이다. 타원곡선을 만족하는 실수나 복소수 들의 집합 구조는 잘 알려져 있으나, 유리수 쌍들의 집합의 구조를 찾는 알려진 효율적인 알고리즘이 없으므로 매우 중요한 연구 주제이며, 클레이 수학 연구소(Clay Mathematics Institute)의 백만 달러의 상금이 걸린 밀레니엄 난제 중 한 문제로서 정수론자들에 의해 활발히 연구되는 분야이다. 예를 들어 타원곡선 [그림9]를 만족하는 유리수 쌍은 (0,0) 하나만 존재하는 반면, 타원곡선 [그림10]를 만족하는 유리수 쌍은(0,0), (2,0), (10,0), (1,-3), ,… 등 무한히 많은 쌍들이 존재한다. 두 번째 보기의 경우 이러한 점들을 찾는 방법과 함께 무한히 많은 쌍들을 어떻게 모두 표현할 것인가 하는 질문을 하는 것이 자연스러운데, 실제로 세 쌍 (0,0), (2,0), (1,-3)만으로 주어진 연산을 이용하여 나머지 무한한 쌍들을 모두 구해낼 수 있다. 이러한 생성원들의 개수를 찾아내거나 직접 생성원을 구하는 문제가 이 분야에 남아있는 중요한 주제이다.

  타원곡선은 그 자체로서 수학적인 아름다움을 지니고 있을 뿐만 아니라, 또한 타원곡선이 가진 특별한 연산 구조는 암호에 활용될 정도로 저장 공간 대비 보안성이 우수한 암호체계를 제공하는 등 산업수학으로의 응용에도 기여하는 중요한 주제이다. 타원곡선 외에도 다양한 형태의 다이오펜틴 방정식으로 여러 분야의 문제를 해결할 수 있는 식들이 연구될 문제로서 존재한다. 앞으로도 나의 연구는 이 문제들 해결과 관련된 분야의 발전을 위해 꾸준히 집중할 계획이다.

  나에게 수학연구는 특정한 수학문제를 해결하여 수학의 학문적 발전에 기여할 기회를 제공할 뿐만 아니라, 해결 과정에서의 논리적 사고를 성장시키고 또한 다른 분야와의 새로운 연결 고리 등을 스스로 발견할 수 있는 능력을 키워 주는 매우 중요한 성숙의 도구로 평생 함께해 왔다. 중고등학교 교과과정의 수학이 어렵고 불필요한 부분이 많다고 불만을 표현하는 사람도 있지만, 이제는 다양한 수준의 수학문제에 도전해 봄으로써 스스로를 더욱 성장시킬 수 있는 기회를 만들어 보는 것이 어떨까 제안하고 싶다.