박사가 사랑한 수식

지난 수백 년간 과학자들은 절감했다. 현대 과학이 수학에 얼마나 큰 수혜를 입었는지 말이다. 우주를 분석하는 가장 유용한 언어가 결국 수학이라는 사실을 말이다(다중우주론은 수학적 계산의 결과다). 그간 과학자들은 수학자들이 밝혀낸 일련의 결과물을 대체로 신뢰해왔는데, 그런 사연이 점점 쌓이고 쌓여 믿을 만한 길잡이가 되자 그들은 아예 수학을 완전히 끌어안아버렸다.
올해 서울 세계수학자대회의 집행위원장인 박형주 포스텍 교수도 마찬가지다. 그는 고등학생 때부터 과학자가 되길 꿈꾸다 서울대학교 물리학과에 진학했다. 하지만 대학 3학년 때 수학과 수업인 ‘현대 대수’를 듣다 그만 수학과 외도를 시작했다. 그를 사로잡은 건 19세기의 천재 수학자 에바리스트 갈루아(Evariste Galois)의 이론이었다. 그는 인류가 고대 그리스 시대부터 2000년 이상 풀지 못한 수학 난제인 5차 방정식 근의 공식을 해결한 갈루아의 ‘군론(group theory)’에 매혹됐고(갈루아는 5차 이상의 고차방정식은 결코 근으로 풀 수 없다는 걸 증명했다), 대학 졸업 후 결국 미국으로 건너가 UC 버클리 대학원에서 수학 박사 학위를 받고, 미국 오클랜드 대학(수학과 교수)과 우리나라 고등과학원(계산과학부 교수)을 거쳐 포스텍 강단에 서며 수학 외길을 걸어왔다.
오늘 박 교수가 일찍이 ‘수포자(수학을 포기한 사람)’였던 에디터에게 가장 처음 받은 질문은 ‘우리는 왜 수학을 배워야 하는가’였다. 이에 박 교수는 조금의 망설임도 없이 답했다. “새로운 걸 배우는 능력을 갖추는 데 수학만큼 적합한 학문도 없으니까요.” 그는 수학이 특정 지식이 아니라 논리적으로 사고하는 방법을 가르치는 학문이라고 말을 이었다. 그러면서 요즘같이 변화 속도가 빠른 시대엔 논리력으로 무장한 수학 전공자들이 다른 전공자보다 사회에서 더 두각을 보인다고 했다.
물론 박 교수의 주장을 뒷받침할 만한 증거는 많다. 수년 전 <월스트리트 저널>에 게재된 인기 직종 순위에서 미국 내 최고 직업으로 수학자가 선정되었고, 실리콘밸리에서 가장 선호하는 신입 사원의 유형이 창의적 사고와 문제풀이 능력을 갖춘 수학 전공자란 소문도 이젠 거의 정설로 받아들이고 있으니 말이다. “수학이 세계적으로 점점 이목을 끄는 건, 특정 분야의 전문 인력을 양성하던 과거의 기업들이 점차 변화하는 환경에 즉각 대응 가능한 인재를 키우는 쪽으로 방향을 틀었기 때문입니다. 그런데 그런 인재들의 핵심 소양인 ‘논리적 사고’를 가장 잘할 수 있는 이들은 과연 누구일까요? 바로 수학자입니다.”

수학자 출신의 세계 최고 펀드매니저로 유명한 미국의 제임스 사이먼스. 박 교수와 오랜 친구이기도 한 그는 이번 서울 세계수학자대회에서 특별 강연을 연다.

물론 박 교수의 이런 부연 설명 없이도 우린 수학이 그간 알게 모르게 사람들의 삶을 지배해왔다는 걸 알고 있다. 첨단 범죄 수사에 필요한 지문 대조법과 인터넷 뱅킹 등에 쓰는 암호를 만드는 데 수학이 크게 이바지했고, 병원 CT 촬영 같은 3차원 영상 기술도 수학의 ‘암호론’이나 ‘편미분방정식’이 발전한 것이다. 할리우드 영화 <캐리비안 해적> 시리즈의 CG나 <토이 스토리>의 해상도 조절 같은 알고리즘 역시 모두 수학자가 고안한 유명한 수학적 시스템이다. 구글이 검색엔진으로 성공한 것도 사실 사용자가 원하는 검색 결과를 찾도록 수학을 이용해 검색엔진을 바꿨기 때문이다.
그런데 여기서 궁금한 것 하나. 수학은 이렇듯 중요한 학문임이 틀림없는데, 왜 어려서부터 그걸 즐기는 것이 쉽지 않은 걸까? “우리나라 수학 교육은 사실 문제가 많습니다. 아이들에게 수학을 ‘왜’ 해야 하는진 가르치지 않고, 늘 ‘어떻게’ 해야 하는지만 가르치니까요. 즉 ‘어떻게’의 과잉이죠. 전 아이들 스스로 수학을 왜 배워야 하는지 아는 게 중요하다고 봅니다. 아이들에게도 동기부여가 필요하죠. 수학은 어른들에게도 어려운 학문입니다. 더 이상 아이들에게 ‘쉬운 수학’이란 말로 거짓말을 하면 안 됩니다.”
박 교수는 현재 미국에서 각각 대학과 고등학교에 다닌다는 두 아들 이야기를 덧붙이기도 했다. 그들에게도 늘 수학 공부만 강요하진 않는다고 말이다. “물론 제 아이들도 수학을 어려워합니다. 미래엔 분명 수학자의 소양이 지금보다 중요해지겠지만, 지금은 아이들 스스로 자신의 취향과 관심사를 찾는 것이 더 중요하다고 봅니다. 사실 수학자 아버지라고 해서 아이들의 모든 문제를 해결해줄 수 있는 것도 아니니까요. 전 덧셈과 뺄셈 실수도 자주 하는 편입니다. 수학자들이 숫자 다루는 것에 능숙하다는 얘긴 드라마에나 나오는 허구죠.(웃음)”
박 교수는 자신이 발견한 ‘수학의 아름다움’을 좀 더 널리 알리는 일에도 참여하고 있다. 1897년부터 4년마다 열리는 세계 수학계 올림픽 ‘세계수학자대회(ICM)’의 조직위원장을 맡고 있는 것. 전 세계 5000여 명의 수학자가 참가하는 올해 ICM은 8월 13일 서울 코엑스에서 국내 최초로 열리는데, ‘수학의 노벨상’인 필즈상 시상(개최국의 대통령이 직접 시상한다)과 함께 세계적 석학들이 새로운 수학 이론을 선보여 국내외에 수많은 이슈를 불러일으킬 것이라고 했다. “ICM에선 대회 유치 활동부터 조직 운영까지 벌써 7년을 일했어요. 그 때문에 정부가 세 번이나 바뀌며 우여곡절도 많았죠. 부서와 담당자가 바뀌면 처음부터 다시 설명해야 하고, 어렵게 따낸 예산이 삭감되는 일도 있었어요. 돌이켜보면 정말 힘들었습니다. 하지만 개인적으론 기대도 많이 됩니다. 이번 행사로 국내 수학과 기초과학의 수준과 위상이 훨씬 높아질 테니까요.” 수학은 산업과 세상을 바꾼다. 첨단 과학과 기술은 수학으로 통한다. 수학은 인류 문명에서 늘 중요한 역할을 해왔고, 현대엔 쓰임새가 더 넓어지고 있다. 컴퓨터공학은 물론이고 물리학과 우주론에서도 수학은 없어선 안 될 지식의 도구다. ‘수학의 발전이 자연스레 사회 전반의 수학 문화 확산으로 이어지고, 그것이야말로 진정한 수학의 아름다움’이라 말하는 박 교수의 내일이 궁금해진다.

2014 서울 세계수학자대회(8월 13일~8월 23일)
기초과학 분야의 세계 최대 축제로 ‘수학계의 올림픽’으로 불린다. ‘수학의 노벨상’이라는 필즈상 시상과 대규모 학술 행사, 대중 강연, 패널 토론 등을 진행한다.
문의 536-2014

에디터 이영균 (youngkyoon@noblesse.com)
사진 안지섭