0:00Your browser does not support theaudio element.구글 선호 매체 등록클립아트코리아광고김민형 | 영국 에든버러 국제수리과학연구소장 최근 일반인이 접하는 인공지능(AI)의 비약적인 발전에는 아마도 2017년에 구글 연구단이 발표한 이른바 ‘어텐션 메커니즘’에 관한 논문이 가장 중요한 구실을 했을 것이다. 대학교 수준의 선형 대수학 정도만 필요로하는 수학적 도구 ‘어텐션’과 뇌신경망을 결합함으로써 기계가 특정 단어를 처리할 때 문서의 다른 영역의 영향을 정량적으로 섬세하게 헤아려 보는 기능을 부여한 것이다. 바로 그 계산능력이 지금 수준으로 언어 구사력이 뛰어난 기계를 가능하게 했다는 것은 불가사의다. 65년쯤 전에 양자역학의 창시자 중 하나였던 유진 위그너는 자연을 설명하는 데 있어서 수학이 ‘불가사의한 위력’을 가졌음을 지적한 바 있다. 수학처럼 조화로운 개념 체계가 복잡다단한 자연을 그토록 잘 포착한다는 사실이 이해하기 어렵다는 말이었다. 우리 시대에 이 비슷한 미스터리를 인공지능의 위력이 과시하고 있다. 인간 고유 영역으로 생각되던 언어의 지위가 기계의 침략을 받으면서 위협을 받고 있다고도 할 수 있다.어텐션을 기반으로 한 인공지능의 ‘거대 언어 모델’인 챗지피티가 처음 공개된 게 2022년 11월이었으니 4년이 안 됐다. 처음 나왔을 때 언어 구사력이 상당히 뛰어났지만 수학 실력은 약점이 많았고 가장 잘할 때 중고교 수학 문제를 푸는 정도였다. 그런데 작년쯤부터 실로 놀라운 속도의 발전이 있어서 수학 연구의 최첨단 결과들이 인공지능으로부터 나오고 있다. 대중에게 가장 잘 알려지기로는 헝가리 수학자 에르되시 팔이 제안한 추측 중 여러개가 풀리는데 인공지능이 결정적인 역할을 했다는 사실이다. 물론 놀라운 기여다. 그런데 폭넓은 시각으로 볼 때 그 문제들의 중요성을 정확히 가늠할 수 있는 것은 아니다. 에르되시는 다양한 추측을 수없이 제시했기에 그중 어떤 것들이 정말 어려운지, 혹은 수학적 의미가 큰지에 대해 누구나 동의하는 것은 아니다.광고이런 동향 때문에 수학의 여러 영역 중 인공지능이 어떤 일을 잘하는가에 대한 질문이 자연스럽게 나오고 있다. 20년쯤 전에 필즈상 수상자인 영국의 수학자 티머시 가워스는 ‘수학의 두 문화’라는 제목의 에세이를 썼다. 이 글의 요지는 수학자들이 대략 두 종류, ‘문제풀이 수학자’와 ‘수학적 이론가’로 나뉜다는 것이었다. 이론가란 문제보다 근본적인 ‘수학의 이해’를 중시하는 사람이라고도 할 수 있다. 어느 분류나 그렇듯 수학자 사회가 두 영역으로 딱 갈라지는 것은 아니지만 수학적 활동의 목표를 어떻게 설정하느냐가 사람에 따라 꽤 차이가 있다고 가워스는 주장했다. 문제 풀이 전문가 같으면 아무리 고상한 이론이더라도 문제 풀이에 사용해야만 직성이 풀리고 이론가는 문제 푸는 목표를 수학의 이해로 설정한다는 것이다. 사실 에르되시는 전형적인 문제 풀이 수학자였다고 할 수 있다. 그리고 지금까지 우리가 목격한 인공지능의 능력도 문제 풀이에 중점을 두었던 것이 사실이다. 그 때문에 인공지능이 고등한 이론을 어느 정도 잘 소화할 수 있는지가 중요한 질문으로 대두했다. 그런데 올해 들어 판도가 바뀌었다. 바로 두가지 수학적 성향의 융합을 인공지능이 구현했기 때문이다. 이 역시 에르되시의 단순한 추측과 관련 있다. 평면상에 점을 배열해 놓고 점 두개 사이의 거리를 쟀을 때 거리 1이 되도록 많이 나타나게 하고 싶다. 에르되시는 점 n개를 배열할 때 거리 1인 점 쌍의 개수가 n 이상이 가능하지만 대략 n에 비례할 것이라고 추측했다. 그러나 인공지능은 거리 1인 점 쌍의 개수가 n의 1.014승 규모인 배열을 무한히 많이 찾아내는 데 성공했다. 즉, 추측이 틀리다는 것을 보인 것이다. 또 놀라운 것은 이에 필요한 배경이 첨단 연구 수준의 대수적 정수론이었다는 사실이다. 그 시점까지 인공지능이 활용한 다른 수학적 도구들에 견주면 이론적 수준이 높다는 것이 주목됐다. 즉, 인공지능 안에서 두 문화가 합쳐진 것이다.광고광고이 사건의 열기가 식기도 전에 최근 오픈에이아이의 수학자 레웬트 알푀게는 인공지능을 이용해서 대수 기하의 83년 된 문제 ‘야코비안 추측’의 반례를 발견해서, 지금까지의 인공지능 기반 결과 중 가장 큰 충격을 수학계에 안겨 주었다.앞으로 어디로 갈 것인가? 수많은 사람이 온갖 예측을 하고 있지만 당연히 아무도 모른다는 것이 가장 정직한 답일 것이다. 수학의 이해를 중시하는 나 같은 이론가의 입장에서는 흥미진진한 시대가 아닐 수 없다.광고