리만 기하학의 직관적인 이해

By | August 30, 2009

리만 기하학의 직관적인 이해

이 글은 M.J.Greenberg의 "유클리드 기하학과 비유클리드 기하학"(이우영 역, 경문사, 1997) 부록 B(275-283쪽)의 내용을 토대로 작성되었으며, 작성자의 의도에 따라 내용이 수정되었습니다.


미적분학의 내용을 이용하지 않고 리만 기하학의 착상을 엄밀하게 설명하는 것은 불가능하다. 여기서는 리만 기하학의 직관적인 착상을 간략하게 이해하도록 하자. 리만 기하학을 이해하기 위하여 우리가 파악해야 할 기본적이고 필수적인 개념은 곡률(curvature)이다.

평면에 있는 곡선의 곡률

유클리드 평면에서 가장 매끄러운 1차원 도형은 직선과 원이다. 직선을 휘어지지 않고 "곧은" 것으로 생각할 때 직선에 어떤 곡률수치 \(k\)를 대응시킨다면 \(k = 0\)으로 하는 것이 좋다. 한편 원 \(\gamma\)는 분명히 "휘어져" 있는데 그것이 얼만큼 휘어져 있느냐 하는 것은 반지름 \(r\)을 이용하여 결정할 수 있다. 원의 반지름이 커질 수록 원은 직선에 가깝다고 생각할 수 있고, 그래서 덜 휘어진다. 따라서 반지름이 \(r\)인 원의 곡률 \(k\)를 \(k = 1/r\)로 정의하는 것이 자연스럽다.

이제 평면 위에 매끄러운 곡선 \(\gamma\)를 살펴보자. "매끄러운 곡선"이라는 말은 곡선의 각 점에서의 접선을 그을 수 있고, 곡선 위의 점이 움직일 때 그 위에서의 접선이 연속적으로 움직인다는 뜻이다. 원 위의 한 점에서의 접선은 그 점과 원의 중심을 잇는 반지름과 수직이다. 일반적인 곡선 \(\gamma\) 위의 점 \(\rm P\)에서의 접선은 다음과 같이 정의할 수 있다 ― \(\rm P\)와 \(\gamma\) 위의 또 다른 한 점 \(\rm Q\)를 생각하자. 이때 \(\rm P\)와 \(\rm Q\)를 지나는 직선 l을 생각할 수 있다. 점 \(\rm P\)를 고정시키고 \(\rm Q\)를 \(\rm P\)에 접근시키자. 그러면 \(\rm Q\)가 \(\rm P\)로 한없이 가까이 다가갈 때 직선 l의 극한을 생각할 수 있는데, 그 극한을 \(\rm P\)에서 \(\gamma\)의 접선(tangent line)으로 정의한다.

곡선에 접하는 직선과 비슷하게 곡선에 접하는 원을 생각할 수 있다. 곡선 \(\gamma\) 위의 고정된 점 \(P\) 이외에 \(\gamma\) 위의 또 다른 두 점 \(\rm P_1 ,\) \(\rm P_2 \)를 생각해보자. 세 점 \(\rm P_1 ,\) \(\rm P ,\) \(\rm P_2 \)가 일직선 위에 있지 않다면 이들 세 점을 지나는 원 \(\delta \)가 존재한다. \(\rm P\)를 고정시키고 \(\rm P_1 \)과 \(\rm P_2 \)를 \(\gamma\)를 따라서 \(\rm P\)에 한없이 가까이 접근시키면 원 \(\delta\)의 극한은 \(\rm P\)에서 원 \(\gamma\)에 "가장 잘 맞는" 원이 되는데, 이 원을 \(\rm P \)에서 \(\gamma\)의 접촉원(osculating circle)이라고 부른다. (접촉이라는 말은 키스한다는 뜻의 라틴어 osculari에서 유래한 것이다.) 그러면 \(\rm P\)에서 \(\gamma\)의 곡률은 \(\rm P\)에서의 접촉원의 곡률, 즉 접촉원의 반지름 \(r\)의 역수 \(k = 1/r\)로 정의하는 것이 바람직하다. 참고로 이때 \(r\)를 \(\rm P\)에서 \(\gamma\)의 곡률반경(radius of curvature)이라고 부른다.

그림 4에서, 접촉원이 곡선 \(\gamma\)를 따라 움직일 때 크기가 변한다는 것을 알 수 있다. 즉 곡률 \(k\)는 \(\gamma\)의 점에 따라 변한다. 또한 점 \(\rm P\)에서의 \(\gamma\)의 접선은 \(\rm P\)에서 접촉원의 접선이 된다.

그림 4에서 두 접촉원은 곡선 \(\gamma\)의 서로 다른 쪽에 있다. 이러한 상황을 고려하여 곡선의 곡률을 \(\gamma\)의 한쪽에서는 양수가 되고, 다른 한쪽에서는 음수가 되도록 재정의하는 것이 편리할 것이다. 일단 그렇게 하면 그림 4에서 \(\gamma\)는 매끄러운 곡선이므로, 곡률이 연속적으로 변하게 될 것이고, 따라서 \(\gamma\) 위의 두 점 \(\rm A ,\) \(\rm B\) 사이에 곡률이 \(0\)이 되는 점 \(\rm I\)가 존재하게 된다. 이 점 \(\rm I\)를 변곡점(point of inflection)이라고 부르는데, 변곡점 \(\rm I\)에서의 접촉원은 \(\rm I\)에서의 접선, 즉 하나의 직선이 된다.

공간에 있는 곡면의 곡률

다음에는 유클리드 3차원 공간에 떠있는(embedding) 매그러운 곡면을 생각해보자. 여기서 매끄럽다는 말은 곡면 위의 각 점 \(\rm P\)에서 접평면(tangent plane)이 존재하고, 점 \(\rm P\)가 곡면을 따라 움직일 때 이 접평면이 연속적으로 움직인다는 것을 의미한다. 점 \(\rm P\)를 지나고 접평면과 수직인 직선을 \(\rm P\)에서의 법선(normal line)이라고 부르는데, 이 법선을 포함하는 평면과 곡면의 교선은 평면곡선이 된다. 이 평면이 법선을 중심으로 회전하는 동안 \(\rm P\)를 지나는 곡면 위의 여러 곡선들을 자르게 된다. 우리는 앞서 이들 각 절단곡선(normal section)에 대하여 \(\rm P\)에서의 곡률을 어떻게 정의하는 살펴보았다. 일반적으로 이들 곡률은 평면이 법선을 중심으로 회전하는 동안 변하게 된다. (구와 같이 특별한 경우에 이 곡률은 일정하고 또 절단곡선들이 모두 구의 대원이 되므로 그 곡률은 구의 반지름의 역수가 된다.) 미분기하학의 정리에 의하면 이 곡률들은 최댓값 \(k_1\)과 최솟값 \(k_2\)를 가지며, 또 그 대응 법단선(principal curve)은 서로 수직이 된다. 이들 최대곡률과 최소곡률의 곱 \( K = k_1 k_2 \)를 가우스 곡률(Gaussian curvature; 가우스가 그것을 처음 연구했다고 해서 그의 이름을 땀) 또는 간단히 점 \(\rm P\)에서 곡면의 곡률이라고 부른다. 일반적으로 점 \(\rm P\)가 곡면 위를 움직임에 따라 곡률 \(K\)의 값은 변하게 되는데, 만약 \(K\)가 상수라면 그 부호에 따라 곡면을 다음과 같이 분류할 수 있다; \(K\)가 음수이면 의구, \(K = 0\)이면 평면, \(K\)가 양수이면 구.

그림 6에서 안장모양의 곡면에 대한 접평면, 법선, 주곡선들을 볼 수 있다. 이 곡면 위의 점 P에 대하여 가우스 곡률은 음수가 되는데, 그 이유는 두 주곡선에 대한 접촉원이 접평면의 서로 다른쪽에 놓이기 때문이다. 한편 그림 7에 있는 달걀 모양의 곡면에서는 두 주곡선이 접평면의 같은 쪽에 놓이므로 가우스 곡률은 양수가 된다.

원기둥의 경우에는 주곡선 중의 하나기 직선이 되는데 직선의 곡률은 k2 = 0 이므로 원기둥 위의 임의의 점에서의 가우스 곡률은 \(K = k_1 k_2 = 0\)이 된다.

이것은 원기둥을 "평면을 말은" 것으로 생각하면 더 잘 이해할 수 있다. 곡면곡률을 어떻게 정의하든 평평한 평면의 곡률은 \(0\)이 되도록 해야할 것이다. 직사각형면 띠를 "마는" 과정에서 띠 위에 있는 호의 길이와 곡선들 사이의 각은 변하지 않는데 이런 의미에서 "고유 기하학(intrinsic geometry)"은 변하지 않는다. 가우스는 곡면이 유클리드 3차원 공간에 놓이는 방법과는 관계없이 곡면의 고유기하학에만 종속되는 곡면곡률의 정의를 찾다가, 곡면 위의 호의 길이와 모든 곡선들 사이의 각이 불변인 채로 곡면을 "구부리게" 할 수 있다면 그의 곡률 \(K\)가 변하지 않음을 증명하였다. 따라서 \(K\)는 곡면이 유클리드 3차원 공간으로 꼭 맞게 구부려지는 방법과는 관계없이 곡면의 고유곡률을 나타낸다. 그러한 구부림에 의해 주곡률 \(k_1 ,\) \(k_2 \)가 변하는데도 불구하고 그들의 곱 \(K\)는 변하지 않는다. 가우스는 이 결과에 너무 흥분하여 이 정리에 "놀라운 정리"라고 이름붙였다. 그는 천문학자 한센(Hansen)에게 쓴 편지에서 "이 연구결과는 많은 분야에 큰 영향을 미칠 것이다, 나는 이 정리가 공간의 기하학에 대한 형이상학과 관계된다고 극언하고 싶다"라고 했다.

공간이 휘어진 정도를 나타내는 척도

가우스는 또한 공기가 순환하는 3차원 공간의 개념과 관계없이 고유곡률 K를 결정하는 문제를 풀었다. 곡면 위에 살면서 3차원의 어떤 개념도 갖고 있지 않고, 곡률 \(K\)를 정의하는 데 사용한 법선을 상상할 수도 없는 2차원 생명체를 상상해보라. 이 생명체는 어떻게 \(K\)를 계산할 수 있겠는가? 가우스의 대답을 듣기 위해 미분법의 용어를 사용하자.

유클리드 평면 위에 있는 점은 \(x,\) \(y\) 좌표에 의해서 결정된다. 이 좌표들이 무한소의 변화를 일으킬 때 그것들을 \(dx,\) \(dy\)로 표시하자. 이때 그 점은 무한소의 거리 \(ds\)를 움직이는데, 이는 피타고라스의 정리 \[ds^2 = dx^2 + dy^2 \]을 만족시킨다. 이제 매끄러운 곡면 위에 있는 점도 국소적으로는 두 좌표 \(x,\) \(y\)에 의해서 결정될 것이다. 이 좌표들의 무한소의 변화 \(dx,\) \(dy\)를 일으키면 그 점은 곡면 위에서의 거리 \(ds\)를 움직이는데 이는 보다 복잡한 다음 식을 만족시킨다: \[ d s^2 = E~d x^2 + 2 F~d x ~d y + G~d y ^2 \]여기서 \(E,\) \(F,\) \(G\)는 점들이 변함에 따라 변하게 된다. 함수 \(E,\) \(F,\) \(G\)들은 원칙적으로 곡면 위에서만 측정을 하는 2차원 생명체에 의해서 결정될 수 있는 것들이다. 가우스는 곡률 \(K\)가 그리 복잡하지 않은 공식에 의하여 \(E,\) \(F,\) \(G\)로 표현될 수 있음을 보였다. 따라서 2차원 생명체도 이 공식으로부터 \(K\)를 계산할 수 있고, 더욱이 그 생명체는 곡률 \(K\)가 무엇을 의미하는 지를 이해할 수 없을 지는 몰라도, 그의 세계가 휘어져 있다는 사실을 발견할 수 있다.

2차원 생명체에 관한 이 이야기가 기묘하게 들릴 지도 모르지만, 리만이 논증했듯이 꼭 그렇지는 않다. 리만은 우리가 3차원 공간에 살면서 완전히 그와 유사한 상황에 있다고 생각했는데, 3차원 공간에서의 거리 \(ds\)에 관한 무한소의 변화는 2차원의 경우와 유사하게 세 개의 무한소 \(dx,\) \(dy,\) \(dz\)에 관한 공식으로 주어진다는 것이다.\[ d s^2 = g_{11} ~d x^2 + g_{22} ~ d y^2 + g_{33} ~dz^2 + 2 g_{23} ~dy ~dz + 2 g_{31} ~dz~ dx + 2 g_{12} ~dx ~dy \]리만은 이 공식으로부터 곡면의 가우스 곡률과 비슷하지만 약간 더 복잡한 곡률텐서(curvature tensor)를 정의하였다. 가우스 곡률은 하나의 수 \(K\)로 결정되지만 리만의 곡률은 여섯 개의 수로 결정된다. 리만은 열전도에 관한 연구를 하면서 거의 우연히 이 곡률을 발견했다. 사실 그는 임의의 \(n\)차원의 추상기하학에 대한 곡률텐서를 개발했으며, 아인슈타인은 리만의 착상을 그의 4차원 시공연속체에 응용하였다.

우리도 하잘 것 없는 2차원 생명체와 똑같은 처지에 있는 셈이다. 우리는 우리가 살고 있는 공간에 대한 리만 곡률을 알아내기 위하여 측정을 할 수 있다. 천문학자들이 그러한 측정을 행해왔다. 만일 리만 곡률이 \(0\)이 아니라면 우리가 살고 있는 공간에서의 기하학은 유클리드 기하학이 아니라고 할 수 있다. 그렇다고 이것이 우리의 공간이 보다 높은 차원의 공간에 휘어져 매장되어 있음을 의미하는 것은 아니다. 우리가 막연히 공간이 휘어졌다고 말할 때 그것은 그의 기하학적 성징들이 리만의 공식에 의해서 주어진 매우 특수한 방법에 있어서 유클리드 공간의 성질과는 다르다는 것을 의미한다.

리만은 1854년에 그의 취임강의 "기하학의 기초를 이루는 가정에 관하여"에서 n차원 공간에 관한 착상을 소개했는데, 그곳에서의 고유기하학은 거리 \(ds\)의 무한소의 변화에 관한 2차식에 의해 결정된다. 오늘날 그러한 구조를 리만 다양체(Riemannian manifold)라고 부른다. 하나의 다양체가 주어질 때마다 그에 따른 기하학을 생각할 수 있으므로 리만은 무수히 많은 새로운 기하학을 발견한 셈이다. 그러한 각 기하학에서의 직선은 그 다양체 위의 측지선(geodesic, 호의 길이가 최소가 되는 경로)이 된다. 리만은 곡면의 곡률이 어떤 양의 상수보다 커지면 측지선은 유한 길이를 갖게 됨을 알아냈다.

비록 리만의 이론이 단순히 가우스의 착상을 2차원에서 고차원으로 일반화시킨 것으로 강조되긴 했지만 리만의 이론은 유클리드 3차원 공간에 매장될 수 없는 곡면에 관한 새로운 정보를 주고 있다는 것을 주목해야 한다. 예를 들어 쌍곡평면은 일정한 음의 곡률을 갖는 완비 2차원 리만 다양체로서 표현될 수 있고 타원평면은 일정한 양의 곡률을 갖는 완비 2차원 리만 다양체로서 표현될 수 있다. 후자의 경우에 두 점은 유일한 측지선을 결정한다. 그러나 이들 다양체의 어떤 것도 해석적으로 유클리드 3차원 공간에 매장될 수는 없다.

현대수학에서 리만의 영향이 매우 크다는 사실은 그의 이름을 따라서 붙인 개념, 방법, 정리들만 보아도 알 수 있다: Riemann 다양체, Riemann 곡률, Riemann 적분, Riemann-Lebesgue의 보조정리, Riemann 곡면, Riemann-Roch의 정리, Riemann의 방법, 쌍곡편미분방정식에 대한 Riemann의 방법, Riemann 사상 정리, Cauchy-Riemann 방정식 등.

Leave a Reply