소수를 찾기 위한 천재 수학자들의 도전

소수를 찾기 위한 천재 수학자들의 도전

1. 소수란?

 

소수는 아주 특별한 성질을 가진 숫자입니다.

소수는 1과 자신을 제외하면 어떤 수로도 나눠지지 않는 수를 말합니다.

이 소수에는 많은 수학자들이 풀고자 했던 수수께끼가 숨어 있습니다.

인류의 지성이 시작된 이래 소수는 수많은 수학자들의 탐구대상이었습니다.

2. 메르센 소수

숫자 하나의 크기가 어마어마한 이 거대 소수는 프랑스의 수학자이자 철학자인 마랭 메르센(Marin Mersenne, 1588~1636)의 이름을 따 '메르센 소수'라고도 부릅니다.

수를 사랑했던 메르센은 특히 소수의 질서를 찾는데 빠져있었습니다.

메르센소수

그는 n이 1보다 큰 자연수 일 때, 2의 n승에서 1을 빼면 소수가 나온다는 식을 만들었습니다.

그러나 모든 수가 소수를 만들어내지 못한다는 것을 알았습니다.

메르센소수

자신의 식에서 n이 소수일 때에만 소수가 나온다는 것을 발견했던 것입니다.

메르센소수

그런데 n이 11일 때 나온 값은 2047로 이것은 23과 89로 나눌 수 있어 소수가 아니었습니다.

메르센이 발표한 소수가 나온다는 숫자

그 결과 메르센은 다음과 같은 숫자일 때에만 소수가 나온다는 발표를 합니다.

메르센 소수는 무한하다

그런데 시간이 흘러 이것 역시 틀린 것으로 밝혀지고 메르센 소수는 무한하다고 알려집니다.

메르센 소수를 찾아낸 수학자들

이처럼 메르센의 발표에 허점은 있었지만 수학자들은 이 식을 이용해 메르센 소수를 찾아내게 됩니다.

1957년 스웨덴 수학자 한스 리젤이 컴퓨터를 이용해 18번째 메르센 소수(3217)를 찾으면서 소수발달은 컴퓨터의 영향에도 큰 영향을 미치게 됩니다.

3. 수와 수학의 규칙에서의 예외, 소수

수와 수학에는 규칙이 있고, 그 규칙으로 계산을 하고 답을 얻습니다.

그 규칙의 세계에서 소수는 '예외'입니다.

소수가 나타나는 자리를 따라가다 보면 소수가 연달아 나타나기도 하지만  어딘가에는 아예 소수가 나타나지 않기도 합니다.

과연 이 소수의 발생에 어떤 연관성을 찾을 수 있을까요?

4. 고대 수학자들의 소수를 찾는 방법. '에라토스테네스의 채'

소수에 대한 이 의문을 풀기 위한 노력은 고대에서부터 계속되어 왔습니다.

고대 수학자들은 소수를 알면 모든 수를 알 수 있을 것이라고 생각했습니다.

그리고 쪼개지지 않는 소수의 성질은 남성과 군인등 강인함의 상징이 되기도 했습니다.

지중해의 아름다운 항구도시 이집트 알렉산드리아는 고대 학문과 예술의 중심지였습니다.

알렉산드리아 도서관

이곳에 있는 알렉산드리아 도서관에는 고대시대의 석학과 예술가들의 학술과 배움의 장으로 세계의 모든 지식이 모여있다고 해도 과언이 아니었습니다.

에라토스테네스

에라토스테네스는 고대 그리스 수학자이자 천문학자이며 이 도서관의 관장이었습니다.

그는 1부터 1000까지의 숫자 가운데 어떤 수가 소수인지를 찾아냅니다.

'에라토스테네스의 채'라고 하는 방법입니다.

우선 2의 배수들을 하나씩 지워갑니다.

그리고 3의 배수를 지우고 지워지지 않고 남은 수가운데 다음 수를 택해 그 배수를 지우는 과정을 반복하다 보면 소수만 남게 되는 것입니다.

고대 수학자들은 이처럼 소수를 찾는 방법은 알았지만 얼마나 많은 소수가 있는지 소수가 어떤 규칙을 가지고 있는지에 대해서는 어떤 답도 알아내지 못했습니다

그리고 오랜 세월 동안 소수는 수수께끼를 간직한 채 그 자리에 멈춰 있었습니다.

5. 가우스의 소수 추측, 소수의 범위가 커지면 커질수록 오차가 점점 줄어들어 결국 오차가 없어진다는 식

수학자들은 소수를 이해하고 그 수수께끼를 풀기 위해 노력했지만, 소수는 아직 인간의 영역이 아니었습니다.

그러던 중 18세기 독일, 한 수학자의 손에 닿기 시작합니다.

요한 카를 프리드리히 가우스

그는 수학 역사상 가장 위대한 천재중 한 명인 '요한 카를 프리드리히 가우스'입니다.

소수의 세계에 관심이 많았던 가우스는 그 안에서 규칙을 찾고자 했습니다.

그는 어릴 때부터 놀이처럼 소수를 찾는 것을 즐겼다고 하며, 누가 가르쳐준 것도 아닌데 소수에는 특별한 무언가가 있다는 것을 어린 가우스는 알고 있었던 것 같습니다.

기록에 의하면 가우스는 30분의 여유시간이 주어질 때마다 숫자 1,000개씩을 한 구간으로 정해 각 구간마다 소수의 개수를 셌으며 그는 이런 작업을 지속적으로 하며 일기장 마지막에 각 구간들의 소수의 개수를 기록해 두었다고 합니다.

이런 과정을 통해 가우스는 한 가지 의문을 가지게 됩니다.

일정한 범위 안에 얼마나 많은 소수가 있는 것인가'

 

하는 것인데, 수학자즐이 소수의 정확한 위치를 알아내려고 했던 것과는 전혀 다른 의문이었습니다.

가우스는 소수 분포에 대한 연구를 위해 이런 방법으로 소수의 개수를 셌습니다.

2,3,5 등 첫 숫자들 중에는 소수가 많았지만 규칙성을 찾기 어려웠고 10만 또는 300만 이상의 큰 수의 범위에서는 소수 분포의 규칙성이 보였습니다.

가우스는 소수 분포의 규칙성을 큰 나무에서  나뭇잎이 떨어지는 것과 비슷할 것이라고 생각했다고 합니다.

나무의 바로 밑에는 잎이 많이 떨어지지만 밖으로 나갈수록 그 수가 줄어드는 것처럼 말입니다.

소수 역시 1을 중심으로 했을 때 1과 가까운 곳에는 소수가 많이 나타나지만 1과 멀어질수록 소수분포가 줄어들 것이라고 생각했습니다.

실제로 소수 분포를 보면 100까지는 25%(25/100), 1000까지는 12.29%(1229/10000)로 소수의 개수가 확연히 줄어드는 것을 볼 수 있습니다.

이것을 100만까지 넓혀보면(78498/1000000) 소수는 7.84%로 가우스의 생각이 맞다는 것을 알 수 있습니다.

이를 바탕으로 가우스는 하나의 식을 만듭니다.

가우스의 소수 추측

소수의 범위가 커지면 커질수록 오차가 점점 줄어들어 결국 오차가 없어진다는 식으로 그 식이 바로 '가우스의 소수 추측'입니다.

이후 소수 연구는 활발해졌고 그 중심은 가우스가 교수로 있었던 괴팅겐대학교였습니다.

괴팅겐대학교는 원래 신학이 중심이었지만 독일 교육혁명 이후 과학과 수학 분야 연구가 크게 장려됐습니다.

이런 분위기는 한 남자의 운명을 바꾸게 됩니다.

게오르크 프리드리히 베른하르트 리만

처음 신학과에 입학한 '게오르크 프리드리히 베른하르트 리만'은 수학에 빠져들게 되었고 엄청난 연구성과를 냅니다.

총 10페이지밖에 되지 않는 리만의 논문은 하나의 주제 즉 '소수'에 관한 것이었습니다.

베를린 아카데미 정기 간행물(1859년)

1859년 베를린 아카데미 정기 간행물에 실린 리만의 논문입니다.

채 10쪽도 되지 않는 이 짧은 논문은 리만이 소수에 대해 남긴 유일한 기록이기도 한데, 

주어진 수보다 작은 소수의 개수에 관하여...

 

이 논문이 가져올 엄청난 파장을 리만은 과연 알고 있었을까요?

소수에 대한 최고의 논문으로 알려진 이 논문은 이후 많은 수학자들에게 큰 좌절과 숙제를 남깁니다.

리만의 연구는 스승인 가우스의 소수 추측에서 비롯된 것입니다.

리만은 가우스를 통해 배운 내용을 일반화하고 가우스가 전혀 알지 못했던 부분까지 더욱 확장시켰습니다.

하지만 아무도 예상하지 못한 비극이 찾아옵니다.

리만이 39세의 젊은 나이로 갑자기 세상을 떠나게 된 것입니다.

가정부가 집안 정리를 하며 아직 출판되지 않은 수많은 연구성과를 불에 태워버립니다.

리만이 수학 연구를 시작한 지 10년 되던 해였으며, 수학을 연구한 10년 동안 펴낸 수학의 논문들은 믿을 수 없을 정도의 것들이었습니다.

10쪽도 되지 않은 리만의 소수논문은 소수를 보는 새로운 프레임을 제시합니다.

제타 함수(zeta  function)

제타 함수를 쉽게 풀어본 식

바로 소수 분포와 관련 있다고 알려진 함수식인  제타 함수(zeta function)라고 불리는 것으로 이 식을 조금 쉽게 풀어보면 이런 모양이 됩니다.

6. 소수만으로 이루어진 식에서 원주율'파이'가 나오는 오일러의 함수

여전히 어렵게 보이는 이 식에서 중요한 것은 '소수로 이루어진 식이며 존재하는 모든 소수를 포함한다는 것'입니다.

레온하르트 오일러

이 제타 함수의 출발점은 스위스 출신의 수학자 '레온하르트 오일러'입니다.

오일러의 제타 함수 식

앞에서 본 리만의 제타 함수는 와 비슷한 모양인데 x가 2로 바뀐 것을 볼 수 있고, 역시 소수만으로 이루어진 계산식입니다.

그런데 놀라운 것은 이 식의 답입니다.

소수만으로 이루어진 계산에서 원주율(파이)가 나온 것

소수만으로 이루어진 계산에서 원주율(파이)가 나온 것

소수만으로 이루어진 계산에서 원주율 '파이'가 나온 것인데, 이것은 4.6.8을 대입해도 마찬가지입니다.

불규칙한 소수에서 원의 상징인 파이가 나온 것으로 자연계에서 가장 아름답고 완벽하다고 일컬어지는 '원'은 소수와 어떤 연관이 있는 것일까요?

옛 수학자들과 철학자들이 추측한 것처럼 소수에는 자연의 무엇인가가, 우주의 어떤 힘과 법칙이 숨어있는 것일까요?

그래서 그 비밀을 자연에 숨겨놓고 인간이 보지 못하도록, 발견하지 못하도록 꽁꽁 감춰두고 있는 것은 아닐까요?

소수는 여전히 그 답을 알려주지 않은 채 수학자들의 마음을 애타게 만들고 있습니다.

7. 제타 함수의 영점이 모두 일직적 상에 있을 것이라고 추측하는 리만 가설, 소수의 미스터리를 푸는 열쇠

불규칙성은 자연의 본질적인 불규칙성이 아니라 사람들이 몰라서 생기는 불규칙성도 많습니다.

그래서 아무리 불규칙한 (소) 수라도 진짜 불규칙한 부분이 어떤 것이고 그중 규칙성은 어떤 것인지 규명하는 작업들이 필요합니다.

인류는 자연이 숨겨놓은 비밀을 하나씩 발견하며 규칙을 찾아왔습니다.

리만은 과연 소수의 규칙을 찾았을까요?

그리고 그 규칙의 수수께끼가 알려지지 않도록 자신의 논문에 꼭꼭 숨겨놓은 것은 아닐까요?

리만은 제타 함수라는 새로운 틀을 제시하고 제타 함수를 자신의 3차원 기하학 공간에 올려봅니다.

영점(Zero Point)

그런데 이 3차원 공간을 자세히 들여다보니 함숫값이 0이 되는 바닥에 떨어지는 점들이 보였습니다.

게다가 그 점들은 모두 일직선상에 보였습니다.

리만 가설(Riemann hypothesis)

리만은 소수로 이루어진 제타 함수의 영점이 모두 일직적 상에 있을 것이라고 추측했는데 이것이 바로 '리만 가설'(Riemann hypothesis)이 됩니다.

리만은 자신의 가설을 확신하며 증명을 거쳐야 한다는 말로 논문을 마무리했고 더 이상의 상세한 말은 덧붙이지 않았습니다.

리만은 가설 내용을 별로 중요하지 않게 써 두었지만 그것은 잘 알려진 함수였고, 매우 정교한 형태이며 소수는 리만 가설을 통해 잘 설명될 수 있습니다.

리만 가설은 소수에 대한 새로운 지평을 열었고 소수의 미스터리를 푸는 중요한 열쇠라고 수학자들은 말합니다.

8. 지겔과 튜링의 리만 가설 증명

칼 루드비히 지겔

그로부터 반세기가 지난 후 수학자 '칼 루드비히 지겔'은 새로운 가설에 흥미를 가지게 됩니다.

리만의 연구자료는 앞서 보았듯 대부분 불타 없어졌지만 리만의 동료 데데킨트가 불속에서 건져낸 자료가 조금 남아있었는데 지겔은 괴팅겐대학교 도서관에서 그 자료를 얻게 되면서 리만 가설에 빠져들게 됩니다.

지겔은 3년여간의 연구 끝에 수백여 개의 영점을 구했지만 리만의 가설을 증명하지는 못했습니다.

그리고 1939년 제2차 세계대전이 일어나면서 당시 독일은 에니그마라는 암호 기계를 사용했는데 이 암호문이 워낙 정교하고 복잡해 해석하는 일이 쉽지 않았습니다.

앨런 튜링

이 암호문을 해독해 2차 세계대전을 연합군의 승리로 이끈 사람이 바로 수학자 '앨런 튜링'입니다.

튜링은 자신이 만든 전자계산기를 통해 리만 가설에 대한 새로운 접근을 시도하게 됩니다.

리만 가설이 참이 아니라 거짓일 것이라는 가정을 하고 연구를 시작하게 된 것입니다.

만일 일직선에서 벗어나는 영점을 하나만 찾아도 리만 가설은 증명할 필요가 없는 잘못된 가설이 되기 때문입니다.

그런데 오히려 일직선 상에 있는 영점만 무려 1,104개나 더 찾게 됩니다.

9. 존 내쉬, '리만 가설의 저주'

리만 가설의 증명은 현대 수학자들의 가장 큰 숙제입니다.

1950년대 세계적인 천재 수학자로 칭송받던 존 내쉬 역시 리만 가설에 도전했습니다.

내쉬는 리만 가설을 풀 독특한 접근법을 가지고 있다고 자신했습니다. 

세상 만물에 적용되는 규칙을 찾고 싶다. 나에겐 그것을 증명해 낼 새로운 아이디어와 창의적인 생각을 가지고 있다.

 

리만 가설이 세상에 나온 지 100년 되던 해인 1959년, 존 내시는 리만 가설에 대한 연구결과를 발표하기로 합니다.

그런데 발표를 시작한 내쉬는 말을 더듬거리며 이상한 행동을 보였는데, 정신에 이상이 온 것이었습니다.

사람들은 이것을 '리만 가설의 저주'라고들 했습니다.

10. 가장 기본적이지만 풀리지 않는 문제로 선정된 '리만 가설'

그리고 2000년 밀레니엄을 맞으면서 미국 매사추세츠의 클레이 수학연구소에서 새천년을 맞아 꼭 풀어야 할 수학문제를 세계 유수의 수학자들에게 추천받습니다.

2000년 선정된 밀레니엄 수학문제

각 문제에는 100만 달러의 상금을 걸었습니다.

이 밀레니엄 수학문제에는 가장 기본적이지만 풀리지 않는 문제들이 선정됐고, 모든 수학자들은 꼭 풀어야 하지만 풀지 못하는 난공불락의 문제로 리만 가설을 꼽았습니다.

소수와 리만 가설, 과연 리만 가설이 증명되면 소수의 비밀이 풀리는 걸까요? 소수의 불규칙성에는 도대체 어떤 비밀이 숨어 있는 것일까요?

수학자들은 소수의 미스터리에 매혹됐고 그 수수께끼를 풀기 위해 혼신의 힘을 다해왔습니다.

하지만 소수는 아직도 불규칙하고 해답을 주지 않습니다.

 

<출처: EBS지식>