근대수학의 탄생

근대수학의 사회적 배경

편의상 근대를 18세기 말에서 19세기 후반까지 근 100년 간의 기간을 가리키기로 한다. 이 시기의 유럽은 이전의 다른 어떤 100년간 보다도 정치, 경제상으로 눈부신 변화를 겪었다. 그 특징을 요약해 보면, 절대군주제를 타도한 정치혁명과 그에 따라 일어난 산업혁명(産業革命), 또 이에 이어지는 근대자본주의(近代資本主義)의 형성 등이라고 말할 수 있다. 즉, 경제상으로는 자본주의적인 생산방법이 결정적인 승리로 기울어지고, 유럽의 여러 나라가 거의 산업자본주의의 시대로 접어들게 되었다.  잇따른 사회적 대변동이 학문의 내용을 일변시킨 것은 너무나 당연하다. 그리하여 천문학, 역학, 광학, 그리고 이것들과 밀접한 관계를 갖는 수학에 변화가 온 것이다.

특히 나폴레옹 전쟁은 무엇보다도 측지학(測地學), 토목, 축성술(築城術), 건축술 등을 발전시켰다. 이어서 산업혁명을 일으킨 한 요소가된 새로운 동력(動力)인 증기기관은 열역학(熱力學)이라는 새 분야를 일으켰고, 또 산업혁명을 계기로 급격히 발달한 근대 광산업(鑛産業)은 근대 화학, 지질학(地質學) 및 광물학을 탄생시켰다. 그리고 봉건적인 농업형태에서 근대 농업으로의 전환을 계기로 식물학, 동물학이 생겼다.

이 시대의 과학의 발전속도는 비약적인 것이어서 산업혁명, 그리고 세계시장(世界市場) 개척과 결부된 항해술, 조선술, 군사기술, 열공학(熱工學), 수력학(水力學) 등의 새로운 과학기술 분야가 등장하였고, 기계학과 천문학은 물론이고, 이론적인 물리학 분야에서도 전자기(電磁氣)현상이나 열(熱)현상을 연구하기 위해서 수학적 방법을 사용하는 문제가 활발히 연구되었다.

과학적인 연구를 추진하는 아카데미가 유럽의 곳곳에 설치되었고, 대학의 역할이 점차로 넓어졌으며, 특히 프랑스혁명 무렵에는 많은 직업적인 학자들이 배출되었다. 그들의 주된 업무는 연구와 교육이었다. 또 사상(思想)의 측면에서는 「인간해방」의 정신을 모체로 하여 자유로운 사고(思考)가 태어나고, 이것이 수학에 반영되어 사고의 자유성이라는 기본입장이 마련되었다.

근대 수학의 탄생

이러한 과학분야의 대약진이 수학에 반영되지 않을 수 없었고, 새로운 시대에 걸맞는 새로운 근대 수학의 방향이 결정되었다. 이 수학은 크게 나누어 세 가지 방향, 즉 해석학, 대수학, 그리고 기하학 분야로 갈라져서 발전하였다.

(1) 해석학

근대수학의 두드러진 특징중의 하나는 이전의 수학을 이론적으로 더욱 엄밀하게 다듬었다는 점이다. 근대이전의 수학자들은 미적분학을 역학 및 천문학의 연구수단으로 하는 실용적인 목적이 주가 되었으므로 수학의 기초적인 개념을 충분히 음미할 만한 여유가 없었다. 그러나 응용의 범위가 넓어 질수록 수학은 그 토대의 취약성을 드러내기 시작하였다.

여기서 기초적인 개념이란 미분, 적분의 정확한 정의의 규명, 급수의 수렴과 발산등의 문제를 깊이 연구하는 일이었다. 보수(補修)작업의 결과 해석학은 수학적 엄밀성을 지닐수 잇게 되었다.

달랑베르(Jeam-le-Rond d'Alembert, 1717-1783)는 만족스럽지 못한 상태의 해석학 기초에 대한 실제적인 구제책을 처음으로 제시하였는데 이 이론은 1821년에 가서야 비로소 진정한 발달이 시작되었으나 그는 1754년 극한 이론이 필요하다는 것을 매우 정확하게 진술하였다. 미적분학을 엄격하게 하려는 실제적인 시도를 한 최초의 수학자는 이탈리아계 프랑스의 수학자인 라그랑주(Joseph Louis Lagrange 1736-1813)이다. 19세기에 해석학의 상부구조가 계속해서 세워졌으나 이전의 기초를 다지는 일도 여전히 계속되었다. 이것의 일부는 의심할 바 없이 가우스의 업적이다. 왜냐하면 가우스는 그 시대의 다른 어느 수학자보다도 직관적인 발상에서 벗어났고 수학적인 엄밀성의 새롭고 높은 표준을 정하였기 때문이다. 또한 1821년 프랑스 수학자 코시(Augustein-Louis Chuchy 1789-1857)는 무한소해석(無限小解析)에 관한 엄밀한 이론을 전개하여 유명한 「코시의 조건(條件)」을 발표하였다.  코시는 또한 적절한 극한 이론을 발달시키고 연속, 미분가능, 정적분을 극한 개념을 써서 정의함으로써 달랑베르의 제안을 실행하면서 커다란 발전을 가져왔다.

(2) 대수학

대수학 발전의 터전은 이미 18세기 초에 갖추어졌으나, 때마침 뉴턴의 「보편산술(普遍算術)」(Arithmetica Universalis, 1707)이 출판되어 산술보다 한 층 높은 계산법으로서의 대수가 구체적으로 모습을 나타냈다.

그후 눈이 먼 오일러(L. Euler, 1707-1783)가 구술(口述)에 의해 출판하였던 이와 똑같은 이름의 책(1767)에서는 대수학의 내용을 분명히 규정하고 있다. 이 책을 읽어보면 뉴턴으로부터 오일러에 이르는 사이에 대수학은 엄청난 발전을 하였음을 알 수 있다.

대수학의 내용면에서는 방정식의 해법(解法)과 관련된 영역이 중심이 되어 있었다. 18세기의 대수학이 이 방향으로 발전한 계기는 라그랑주의 <방정식(方程式)의 대수적(代數的) 해법에 관한 고찰(考察)> (1771)을 통해 정점에 이른다. 19세기가 되어 대수학의 체계 안에서 방정식론과 수론이 완전히 다듬어지게 됨에 따라서 「군(君)」(group)과 「체(體)」(field)라는 연산구조에 관한 개념이 생겨났고, 이 이론은 발견자인 가우스에 이어 요절한 노르웨이의 천재 아벨(N. H. Abel, 1802-1829)에 의하여 완성되었다. 이 결과로 부터 5차방정식에 관한 일반적 해법(공식)이 존재할 수 없다는 「5차방정식의 대수적방법(代數的方法)의 불가능성에 관한 증명」이 유도된 것이다.

대수학의 현대적 관점의 최초의 싹은 케임브리지 졸업생이며 교수였고 후에 일리(Ely) 대성당의 사제장이었던 피코크(George Peacock, 1791-1858)의 논문으로 1830년경 영국에서 나타났다. 피코크는 대수학의 근본원리를 최초로 진지하게 연구한 사람중의 하나이며, 1830년에<대수학, 代數學, Treatise on Algebra>을 발간하였는데, 그 책에서 피코크는 식에 쓰이는 문자는 수 이외의 것으로 나타내도 상관이 없다는 획기적인 주장을 하였다. 또한 그 책에서 대수학에 유클리드 <원론>과 견줄만한 논리체계를 갖추려 하였다. 그는 '산술대수'(arithmetic algebra)와 '기호 대수'(symbolic algebra)라 부른 둘을 구별지었다. 피코크는 전자를 일상적인 양의 십진수를 나타내는 기호와 덧셈, 뺄셈 같은 연산기호를 사용하여 얻어지는 학문으로 간주했다. '산술 대수'에서 어떤 연산은 그들의 적용성에 의하여 제한된다. 예를 들면 뺄셈 a-b에서 반드시 a>b이어야 한다. 반면에 피코크의 '기호 대수'는 '산술 대수'의 연산 등을 채택하지만 그들의 제한을 묵살한다. 따라서 '기호 대수'에서의 뺄셈은 항상 적용될 수 있다고 간주되는 점에서 '산술 대수'의 뺄셈과 다르다. 피코크는 이 '산술 대수'의 법칙의 '기호대수'로의 확장을 형식 불변의 원리 (principle of the permanence of equivalent form)라고 불렀다. 이 생각은 드 모르강 등의 지지를 받았고, 부울(George Boole, 1815-1864)은 이것을 토대로 논리학을 일종의 대수학으로까지 발전시켰다. 그리하여 「논리대수(論理代數)」라는 수학의 새 분야가 개척되었다. 이 연구는 퍼스(Charles S. Peirce, 1839-1914), 슈뢰더(Ernst Schroder, 1841-1902)에 의해 지속적으로 추진되고, 마침내 화이트헤드의 「보편대수(普遍代數)」(1898)로 그 열매를 맺었다.

(3) 기하학

1) 화법기하학(畵法機何學)

1789년의 프랑스 대혁명 이후 20여년 간 유럽의 천지는 온통 전쟁에 휩싸였다. 이와 함께 일어난 군사과학은 측지학(測地學), 토목학, 건축학 등을 발전시켰고, 그 영향은 기하학에도 파급되어 새로운 과학 기술을 뒷받침하는 새로운 방법이 필요하게 되었다. 몽주(G. Monge, 1746-1818)는 병기학교 재학 중 건축술에 관한 복잡한 계산을 간단한 기하학적인 작도(作圖)로 나타내려던 몽주의 착상은 <화법기하학(畵法幾何學)>(Geometrie descriptive, 1795)이라는 책에서 성취되었다.

<화법기하학>에 관한 몽주의 기본적인 입장은

첫째, 공간적인 물체를 평면 위의 도형으로 나타내는 것

(즉 3차원의 공간도형을 2차원의 도화지 위에 묘사하는 방법)

둘째, 공간 도형의 모양이나 위치에 관한 명제(命題)를 찾아낼 것

화법기하학은 직접 도형 그 자체를 구체적으로 어김없이 표현하기 위한 실용적이고 기술적인 기하학이었으며, 따라서 다른 어떠한 기하학보다도 직관적(直觀的)이었던 것이다.

2) 사영기하학

몽주의 화법기하학은 퐁슬레(J. V. Poncelet, 1788-1867)에 의해 이론적으로 체계화됨으로써 근대 사영기하학(射影幾何學]이 탄생되었다.

명문 에콜 폴리테크니크(Ecole Polytechnique, 고등공예학교)에서 몽주의 제자였던 퐁슬레는 러시아군의 포로로 잡혀서 사라토프에서 감옥 생활을 지낼 당시 스승에게 배웠던 기하학을 다시 되새기면서 수학을 연구하였다. 그 결과 발표된 것이 <도형의 사영적 성질에 관한 이론>이었다. 여기서 그는 「사영기하학의 정리가 하나 있으면, 그 안에서 점과 직선의 위치를 바꾼 정리도 성립한다」는 유명한 '쌍대(雙對)의 원리(原理)를 내놓았다.

퐁슬레의 사영기하학은 몽주의 기술적(技術的)·직관적인 화법기하학에 비하면 순전히 이론적 구조를 지닌다. 다시 말하면 사영기하학은 실용적인 의미를 떠난 순수 수학으로 발전하였던 것이다.

3) 곡면기하학(미분기하학)

18세기 후반부터 시작된 측지학(測地學)은 나폴레용 전쟁에서 급격히 발전하였다. 그러나, 측지학이 정밀성을 더해 갈수록 지구 표면의 조건인 곡면(曲面)의 성질을 문제삼지 않을 수 없게 된다. 이 때문에 곡면과 공간, 곡선을 대상으로 하는 새로운 기하학이 18세기 이후부터 중요한 연구 분야로 등장하였다. 이것이 오늘날 미분기하학(微分幾何學)이라는 이름으로 불리우는 학문이다. 방법적인 면에서 본다면, 미분기하학이란 해석기하와 미분학을 하나로 묶어서 곡선이나 곡면의 성질을 연구하는 수학분야이다. 구체적으로 말하면 미분방정식을 써서 기하학을 다루는 동시에 역으로 미분방정식을 기하학적으로 해석하기도 한다. 몽주는 이 분야에서도 선구자 구실을 하였다. 이러한 미분기하학이 전개한 곡면론(曲面論)은 전혀 새로운 기하학, 즉 소위 비유클레이데스 기하학의 출발점이 되었다.

4) 비유클레이데스 기하학의 탄생

유클레이데스 기하가 학문으로서 우수하였던 것은 직관적(直觀的)으로 도형을 다루지 않고 엄격한 논리(論理)에 의해 이론체계를 쌓아 올려 갔다는 점에 있다.

공준이라는 것은 그것을 바탕으로 하여 전개되는 모든 서술에 조금도 모순이 일어나지 않도록 처음부터 내세우는 기본명제이다. 즉, 기본적인 출발점이 되는 가정(假定)이다.

※ 유클레이데스 <원론(原論)>의 다섯 공준

(1) 임의의 점에서 임의의 점까지 하나의 직선을 그을 수 있다.

(2) 한정된 직선을 연장하여 하나의 직선으로 할 수 있다.

(3) 임의의 중심 및 반지름으로 원을 그릴 수 있다.

(4) 직각은 모두 같다.

(5) 한 직선이 두 직선과 만나서 그 한쪽의 두 내각의 합이 2직각보다도 작을 때, 그 두 직     선을 연장하면 내각의 합이 2직각보다도 작은 쪽에서 만난다.

19세기초 가우스에 의해서 완성된 「일반곡면론(일반곡면론)」은 처음으로 곡면 위의 기하학을 탄생시킨 계기가 되었다. 새 기하학 탄생의 산파역을 맡은 삼총사(三銃士)는 로바체프스키, 볼리야이, 그리고 리만 세 사람이었다.

비유클레이데스 기하학의 출현은 수학이 자연현상을 설명하는 과학과 엄연히 다른 학문의 영역임을 새삼 일깨워 주었다. 즉, 이 새 기하학은 수학이 논리적으로 모순이 없다는 것만으로 충분히 존재 가치가 있는 '특별한' 과학이라는 것, 그러니까 기하학이 한 개 뿐만이 아니라 둘도 셋도 있을 수 있다는 것을 실제로 보여준 것이다.

비유클레이데스 기하학의 출현은 단순히 수학 내부에서의 변화를 뜻하는 것이 아니라, 인간의 사고(思考)의 역사에 전환기를 가져온 대사건이었던 것이다.

5) 볼리야이와 로바체프스키

유클레이데스의 제 5공준을 알기 쉽게 고치면, "직선 L과 그 직선위에 있지 않은 점 P가 있을때, P를 지나며 L과 만나지 않는 직선은 꼭 하나 있다."가 된다. 볼리야이와 로바체프스키는 이 명제를 다음과 같이 고쳤던 것이다. "직선 L과 그 위에 있지 않은 점 P가 있을 때, P를 지나며 L과 만나지 않는 직선은 적어도 두 개가 있다." (따라서, 「무수히 많다.」가 된다.)

그리고 또 "삼각형의 내각(內角)의 합은 2직각보다 작고, 각 변의 길이가 커질수록 작아지고, 길이가 무한대로 되면 마침내 내각의 합은 0이 되고 만다." 로바체프스키가 내세운 공리는 종래의 상식적인 기하학에 익숙한 사람들에게는 너무도 이상스러운 느낌을 준다. 그러나 이것을 곡면(曲面) 위의 현상으로 생각하고, 직선을 「곡면 위의 직선」, 즉 측지선(測地線, 곡면 위의 두 점을 지나는 곡선 중에서 길이가 최소인 것, 구면위에서는 大圓의 일부)이라고 생각한다면 전혀 신기할 것은 없다. 사실 로바체프스키의 기하학은 안쪽으로 휘어진 「마이너스의 곡률(曲率)」을 갖는 모든 공간에 해당하는 기하학이다.

6) 리 만

「리만기하학」의 창시자인 리만 (Georg Friedrich Bernhard Riemann, 1826-1866)은 독일 하노버의 조그만 마을 브레젤렌츠에서 태어났다. 그는 1854년에 괴팅겐 대학의 시간강사 취임강연에서 <기하학의 기초가 되는 가설(假說)에 관하여>라는 대담한 논문을 발표하여 새 기하학의 출발을 세상에 알렸다. 이 논문에서 리만 기하학이 태어났다.

리만기하학은 주로 가우스의 '곡면 위의 기하학'을 발전시킨 것이다. 이 기하학에서는 '곡률' (曲率, curvature)의 생각이 중요한 구실을 한다. 이 '구부러짐'의 정도를 수학에서는 반지름의 역수(逆數)를 써서 나타낸다. 로바체프스키 등의 비 유클레이데스 기하학은 '리만기하학'의 입장에서는 곡률이 마이너스인 공간에서의 기하학으로 분류된다.

평행선에 관해서 서로 상반되는 공준을 가진  세가지 기하학이 있다는 것을 알았다.

(□) 유클레이데스 기하학 : 평행선은 하나밖에 없다.

(□) 로바체프스키 및 볼리야이 기하 : 평행선이 적어도 둘 있다.

(따라서 무수히 많이 존재 한다.)

(□) 리만기하 : 평행선은 존재하지 않는다.