베르누이가 쏘아 올린 작은 공 

From the Calculus of Variation to the Optimal Control Theory

[한국자동차공학회 오토저널 2022년 3월호] - 김남욱 교수 (한양대학교 에리카캠퍼스)


‘정답을 제시한 사람은 영원히 기억될 것이다[1].’

1696년 6월 네덜란드 그로닝겐 대학(University of Groningen)의 교수로 일하고 있던 29세의 요한 베르누이(Johann Bernoulli[2], 1667-1748)는 독일의 학술지 Acta Eruditorum에 다음과 같은 문제를 발표한다. 

‘A와 B를 연결하는 무수히 많은 경로 중, A에서 출발하여 자신의 중력에 의해 경로를 따라 이동하는 물체가 가장 빨리 B에 도달하게 하는 경로는 무엇인가?’

그리스어로 ‘최단(Brachistos)’과 ‘시간(Chronos)’을 뜻하는 단어들의 합성어인 브라키스토크론(Brachistochrone)으로 이름 붙여진 이 문제는 이미 반 세기 전, 갈릴레오(Galileo Galilei, 1564-1642)가 심층적인 해결 방안을 탐구했을 정도로 유명한 문제였으나 베르누이가 다소 도발적으로 문제를 발표하던 1696년까지도 정확한 답이 아직 제시되지 않은 상황이었다. 스스로 만족할 만한 해답을 얻었다고 확신한 베르누이는 자신의 답을 바로 공개하는 대신 6개월의 제출 기한을 주고 다른 학자들의 답안을 받아 보기로 한다.

<그림 1> 요한 베르누이와 Acta Eruditorum에 삽입된 그림

간단히 이 문제에 대한 논의를 해 보자면 다음과 같다. <그림 1>에서 AB를 직선으로 연결하는 경우는 가장 짧은 경로를 제공하지만 초기 가속이 상대적으로 느리기 때문에 초반에 빠르게 가속을 하게 되는 AMB에 비해 불리하다고 볼 수 있다[3]. 한 편, 초기 가속을 얻기 위해 경사를 가파르게 설정하면 B까지 도달하는데 필요한 경로가 길어져서 이동 시간이 증가하게 된다. 결국, 이런 상황을 최적화하는 적절한 경로가 존재할 것이다.

베르누이는 발표문에서 ‘지적인 사람들에게 도전적인 문제보다 더 매력적인 것은 없다’며 사람들을 자극(?)했고, 실제로 이는 유럽의 유명한 수학자들에게 도전 정신을 불러 일으켰다. 베르누이가 최초 제시한 6개월의 기간 동안, 베르누이 자신, 그의 친구이자 그가 진정으로 추종하던 수학자 빌헬름 라이프니츠(Gottfried Wilhelm Leibniz, 1646-1716), 그리고 베르누이의 형인 야코프 베르누이(Jakob Bernoulli, 1654-1705), 이렇게 세 명 만이 정답을 제시하였다. 그러나 이 문제에 상당한 관심을 가지고 있었던 정답자 라이프니츠는 해답 제출 기한을 연장할 것을 제안하였고, 베르누이는 이를 받아들여 기한을 이듬해인 1697년 부활절까지로 변경하였다. 그리고 약속한 부활절이 되었을 때, 기존 정답자 3명을 포함하여 최종적으로 6명의 인물이 정답을 제시하였는데[4], 이 중 우리가 관심을 가질 만한 흥미로운 정답자가 한 명 있었다. 그의 이름은 바로 역학의 역사에 자신의 이름을 선명하게 새겨 놓은 아이작 뉴턴(Isaac Newton, 1643-1727)이었다. 

<그림 2> 풀이 없이 결론만 제시했다는 뉴턴의 답안

사실, 이 문제의 출제 자체가 뉴턴의 미적분에 대한 이해도를 시험하고자 했다는 소문이 있을 만큼, 당대에 뉴턴과 라이프니츠로 대변되는 영국의 왕립학회와 대륙의 학자들 사이에 미적분학(Calculus)의 원조 논쟁이 치열하게 전개되는 상황이었다[5]. 이러한 관점에서 정리해 보자면, 미적분학의 진정한 발견자는 라이프니츠라고 굳게 믿고 있었던 베르누이가 뉴턴의 실력을 한 번 확인하고자 문제를 냈는데, 뉴턴으로부터 답안이 오지 않자 기한을 연장했다는 이야기가 매우 설득력이 있어진다[6]. 사실 ‘프린키피아(Principia[7])’를 저술하여 이미 엄청난 명성을 얻은 뉴턴은 당시 정부 관리(조폐국 국장)로 지내느라 바빴던 터라 이미 1차 기한을 넘긴 1697년 1월 29일 오후에서야 문제를 받게 되었다고 한다. 그런데 정작 뉴턴은 문제를 받고, 12시간 만에 답을 얻은 후 다음 날인 1월 30일, 왕립학회에 답안을 제출했다고 하니 베르누이가 기획한 시험은 뉴턴의 명성만 확인해주는 일이 되어버렸다[8]. 뉴턴이 직접 작성한 답안은 나중에 익명으로 학술지 Philosophical Transaction에 발표가 되는데, 베르누이는 익명으로 제출된 뉴턴의 답안을 보고 이렇게 말했다고 전해진다.

 ‘사자는 발톱만 보고도 알 수 있다.’

어쩌면 미적분학의 원조를 증명하기 위해 벌어졌던 천재들의 대단한 신경전은 그렇게 일단락이 되었으나 이 사건으로 인해 오늘날 수학, 자연과학, 공학, 경제 분야에 막대한 영향을 미치는 변분법(Calculus of Variation[9])의 흥미로운 기원이 명확해지는 계기가 되었다. 참고로 브라키스토크론 문제의 해답은 오른쪽 <그림3>과 같이 원형 도형을 굴릴 때, 도형 위의 한 점이 그리는 경로로 얻을 수 있는 싸이클로이드(Cycloid) 곡선이다.

오른쪽의 싸이클로이드 곡선을 얻는 과정에서 활용되는 원리가 변분법의 근원적 개념이 되는데, 이 때문에 변분법에 기초하여 발달한 최적제어이론(Optimal Control Theory)의 기원 역시 1696년으로 여겨지고 있다. 변분법에서 최적제어이론까지의 여정을 살펴보기 위해 다시 선구자들의 이야기로 잠깐 돌아가면, 시대가 바뀌어 베르누이가 가장 아끼던 수제자이자 위대한 수학자인 레온하르트 오일러(Leonhard Euler, 1707-1783)는 스승의 업적을 이어갔고, 그는 제자인 조제프루이 라그랑주(Joseph-Louis Lagrange, 1736-1813)와 함께 오늘날 해석역학의 꽃이라고 불릴 수 있는 오일러-라그랑주(Euler-Lagrange Equation) 방정식을 만들면서 본격적인 변분법의 서막을 장식했다.

<그림 3> AB 이동 시간을 최소화하는 경로 (Cycloid)

<그림 4> (구)소련의 폰트리아진(왼쪽)과 미국의 벨만(오른쪽)

기계공학 전공자들은 한 번 정도는 접하게 되는 오일러-라그랑주 방정식은 이러한 역사 속에서 탄생하였으며, 이 식은 해밀턴(William Rowan Hamilton, 1805-1865)에 의해 진화된 방식으로 표현이 되고[10], 바이어슈트라스(Karl Weierstrass, 1815-1897)의 잉여항 정리를 거쳐 20세기 중반에 이르러는 최적제어이론의 필요조건을 발견하는 수학적 근간이 되었다. 비록 수학적으로 최적제어의 조건을 검토하고, 편미분 방정식이나 경계치 문제를 통해 해답을 얻는 과정은 고통스럽지만[11], 변분법에서 시작된 해석역학과 최적제어 기법은 공학 분야에 엄청난 혜택을 선사했다. 이 후, 20세기 중반에 이르러 본격적으로 발달하기 시작한 최적제어이론을 두고 또 다른 세기의 경쟁이 펼쳐지는데, 냉전을 배경으로 미국과 (구)소련의 제어 이론 학자들 사이에서 펼쳐졌던 두뇌 싸움이 바로 그 것이었다. 이 치열했던 대결의 선봉에는 (구)소련의 폰트리아진(Lev Semenovich Pontryagin, 1908-1988)과 미국의 벨만(Richard E. Bellman, 1920-1984)이 있었다[12].

폰트리아진은 바이어슈트라스의 이론을 기반으로 Pontryagin’s Maximum Principle을 고안하였고, 벨만은 Dynamic Programming을 정립하여 최적제어이론의 두 축을 완성시켰다. 냉전으로 인해 서로 교류가 거의 없었음에도 두 진영의 대결은 엄중했던 시대적 배경이 투영되어 숨막히게 진행이 되었는데, ‘베르누이의 공’과는 달리 이들의 이론은 바로 적용될 것으로 예상되는 확실한 분야가 있었기 때문이다. 예를 들어, 그림 5와 같이 전투기의 비행 경로를 최적화하여 상대 전투기를 격추할 수 있는 위치로 가장 빠르게 이동하고자 하는 군사적 목적 등이 이들에게 지속적인 동기를 부여했다.

이 글을 흥미롭게 읽고 있다면 이 문제가 그림 1에 언급된 상황과 단순히 유사한 정도에 그치지 않는다는 것을 눈치 챘을 것이다[13]. 이 후, 컴퓨터의 발달과 함께 최적제어의 시대가 무르익게 되었고, 지속되던 양쪽의 이론 대결은 달에 누가 먼저 발자국을 내는가를 걸고 두 진영의 우주개발 경쟁으로 이어지기도 했다[14]. 이 후, 최적제어이론은 범위를 제한하기 힘들 정도로 다양한 분야에 적용되어 왔고, 강화학습 이론과 같은 최첨단 제어 개념의 근원도 최적제어이론에서 찾아볼 수 있다[15].

<그림 5> 적 전투기를 추격하기 위해 기동하는 전투기의 경로

<그림 6> 폰트리아진 최소원리에 의해 얻어진 무인자동차의 최적 속도

베르누이의 예언대로 영원히 이름을 남긴 천재들의 이야기를 잠시 뒤로 하고 자동차와 관련한 이야기로 화제를 바꾸어 보자면, 필자는 안식년을 맞아 2022년 8월까지 (미)국립아르곤연구소[16]에서 연구원 생활을 하고 있다. 이 곳에서 자율주행 차량의 주행 속도 최적화를 위한 제어 개념 개발을 진행하고 있는데 바로 베르누이가 발견한 그 우아한 곡선에서 비롯된 해답을 찾아가고 있는 중이다. 특정한 거리와 시간이 주어졌을 때, 어떻게 자동차가 움직이면 가장 에너지를 적게 소비하는가에 대한, 어찌 보면 간단한 문제이지만 최적제어이론을 활용하여 보다 엄밀한 해를 찾고 있다. 현재, 이 분야는 (미)국립아르곤연구소가 선도적인 역할을 하고 있고 Michigan Technological University(MTU), Clemson University, American Center for Mobility(ACM)[17]과 협업하여 실제 차량에 제어로직을 탑재하고 성능을 평가하는 시험을 진행 중이기도 하다.

미국 내에서는 많은 연구 기관들이 관련 연구를 진행하고 있어 해당 연구 분야는 성숙한 단계에 들어서고 있는데, NEXTCAR 프로젝트에 참여하고 있는 UofM, UC Berkeley, Penn State, Purdue, OSU 등 주요 대학과 위에 언급한 ANL, ORNL, SwRI 등의 주요 연구소들이 관련 연구를 주도하고 있으며, GM과 같은 제작사도 프로젝트에 참여하여 자율주행 속도 제어 기술을 확보하려고 하고 있다[18]. 많은 연구 그룹들이 최적제어에 대한 깊은 이해를 바탕으로 더 이상 사람이 차량을 직접 운전하지 않는 시대에, 운행 시간을 줄이고 에너지를 저감하기 위한 첨단 제어전략을 개발하기 위한 즐거운 경쟁을 벌이고 있다. 외부로 잘 알려져 있지는 않지만 국내의 현대기아차 역시, Model Predictive Control(MPC)등의 개념을 적용하여 관련 연구를 활발히 진행하고 있는 것으로 알고 있다.

<그림 7> ACM에서 커넥티드 차량의 제어 성능 평가를 수행하는 모습

1696년 베르누이가 상상했던 작은 공에서 시작하여, 우리가 존경했던 많은 탐험가들은 자연이 빚어낸 경이로운 현상들에 대한 해석을 탐미하고 이에서 영감을 얻어 후손들에게 좀 더 새롭게 세상을 볼 수 있는 기회를 열어주었다. 필자 역시 그 혜택을 누리고 있는 시대에 태어난 사람들 중 하나로 그들이 느꼈을 ‘발견의 희열’을 조금이나마 흉내내 볼 수 있기를 바라며 위대한 수학자이자, 베르누이가 가장 아끼던 제자였던 오일러의 말을 빌려 이 글을 마친다. 

‘우주는 가장 완벽하고 가장 지적인 창조주의 작품이기때문에 평범한 법칙이 지배하는 일은 일어나지 않는다[19].'

[1] 실제 원문은 라틴어로 발표되었고 필자가 참고한 영어 원문에는 ‘정답은 명성을 가져다 줄 것이고 영구적인 기념물이 될 것이다’ 정도로 표현되어 있다. (Nothing is more attractive to intelligent people than an honest, challenging problem, whose possible solution will bestow fame and remain as a lasting monument.)

[2] 베르누이 가문은 당대에 저명한 학자들을 많이 배출한 가문으로 요한 베르누이는 유체역학의 베르누이 방정식을 고안한 다니엘 베르누이(Daniel Bernoulli, 1700-1782)의 아버지이고, 베르누이 수를 발견한 야코프 베르누이(Jakob Bernoulli, 1654-1705)의 동생이다.

[3] 이미 갈릴레오(1564 ~ 1642)는 원호를 이용하면 직선보다 짧은 시간이 걸리는 것을 증명한 상태였다.

[4] Johann Bernoulli, Jacob Bernoulli, Leibniz, Marquis de l’Hospital, Ehrenfried Walther von Tschirnhaus, Gottfried Wilhelm Leibniz, 그리고 Isaac Newton, 이렇게 6명이 정답을 제시한 것으로 알려져 있다.

[5] 미적분학의 원조 논쟁은 라이프니츠의 사후에도 1세기 동안 계속되다가 19세기에 이르러 두 사람의 초기 기여물들이 추가적으로 인정되면서 둘을 독립적인 발견자로 인정하는 것으로 결론이 났다. 참고로 오늘날 우리가 사용하는 대부분의 미적분학 기호는 Leibniz's notation에 의존하고 있다.

[6] 이 부분은 라이프니츠가 직접 왕립학회에 편지를 보내 자신은 문제의 출제와 관련이 없다고 밝혔으나 의문은 쉽게 가라앉지 않았다. 20살의 나이 차이에도 불구하고 베르누이와 라이프니츠는 깊은 교감을 나누는 사이였는데, 베르누이는 종종 자신이 처한 상황에 대한 불평을 라이프니츠에게 보내는 서신에 표현하기도 했다고 한다.

[7] 1687년에 발행된 뉴턴의 대표 저서로 우리가 알고 있는 뉴턴의 3법칙이 제1권에 담겨 있다. 다만, 당시에는 너무 어렵게 서술이 되어 있어 지식인들조차 읽기가 어려웠다는데, 뉴턴은 이를 의도한 것이라고 밝히고 있다. 뉴턴은 종종 과정을 공개하지 않고 결과만 제시하는 성향을 가지고 있는 것으로도 유명했다.

[8] 이 부분은 뉴턴의 조카가 증언한 내용으로 알려져있다. 뉴턴은 존 플램스티드(John Flamsteed, 1646 ~ 1719)에게 보내는 편지에서 자신이 이러한 식으로 시험을 받는 것을 불쾌하게 생각한다고 말하기도 했다고 한다. 참고로, 베르누이는 이 문제의 답을 얻는데 2주가 걸렸다고 한다.

[9] 변분법은 범함수(functional)의 최대 최소를 다루는 기법으로 범함수로 정의된 목적함수를 최소화시키는 함수의 형태를 제시한다.

[10] 해밀턴 역학은 르장드르 변환에 따라 전환되는 라그랑주 역학의 다른 표현이다. 심미적인 요소로 인해 매우 근원적인 표현으로 인식되며 양자역학 등에 널리 활용된다.

[11] 이 부분은 필자의 경험이 그렇다는 것이다. 물리학과 학생들은 학부 2년차부터 Euler-Lagrange Equation을 다루고, 최적제어(선형)를 학부에서 다루는 학과들도 있다. 다만, 공학 관련 학과에서는 대체로는 대학원 과정에서 본격적으로 최적제어를 다루고 있는데 최적제어이론은 변분법에 근간을 두고 있다고 볼 수 있다.

[12] 사실, 당시 관련 이론 정립이 무르익은 상황이었고, 미국의 Rufus Isaacs (1914-1981)이나 Magnus Hestenes (1906-1991)도 Dynamic Programming, Maximum Principle과 유사하거나 혹은 더 뛰어난 결과물을 얻었고 최초 발견 시기에 대한 논쟁이 있다. 폰트리아진의 경우, 그의 명성과는 별개로 개인적인 성향 문제로 주변 사람들과 문제들이 있었는데, 대표 이론인 Maximum Principle과 관련하여 Vladimir Grigorevich Boltyansky (1925-2019)와의 이론적 논쟁이 있었음을 밝혀 둔다. 결과적으로 모두가 상태변수(state)를 활용하는 현대제어의 본격적인 시작을 알린 사람들이다.

[13] 추진력이라는 제어 요소만 뺀다면 그림3의 싸이클로이드는 이 문제에도 좋은 해답이 될 것이다. 추진력의 제한조건 등으로 인해 실제 해답은 좀 더 복잡한 편이다.

[14] 아폴로 계획을 통해 무수히 많은 경로 최적제어 관련 논문이 쏟아졌는데, 달 탐사의 경우는 전투기 문제와 달리 effort를 최소화시키는 것이 목표였다. 다만, 컴퓨터를 활용하는 제어의 시대에는 이론 뿐만 아니라 실제 적용에도 엄청난 자원이 필요했으므로 문제의 규모가 훨씬 복잡해졌다.

[15] 강화학습은 Stochastic Dynamic Programming에서 진화한 개념으로 벨만의 Principle of Optimality를 근간으로 하고 있으나 변분법에서 분화했다고 보기는 어렵다.

[16] (미)국립아르곤연구소는 미국의 17개 국립 연구소 중 하나로 시카고 근방에 위치하고 있으며, 맨하탄 프로젝트 종료 후 국립연구소로 전환된 대형 국립연구소 중 하나이다. 주요 연구 분야는 방사광 가속기, 고성능 컴퓨팅 해석 등이 있으며 자동차 관련 연구 분야에서도 ORNL, NREL 등과 함께 주요 기관으로 활동 중이다.

[17] American Center for Mobility(ACM)은 미시건 앤 아버 지역에 있는 차량 성능 시험 플랫폼으로 아르곤연구소와 함께 Connected Automated Vehicle(CAV) 시험을 하고 있다.

[18] NEXTCAR: NEXT-Generation Energy Technologies for Connected and Automated On-Road Vehicles 프로젝트는 미국 에너지성에서 진행하는 Advanced Research Project Agency-Energy (ARPA-E) 프로젝트의 하나로 커넥티드 자율주행 차량 기술 개발을 위해 자동차 관련 주요 대학과 연구소들이 참여 중이다.

[19] 이 역시 누군가 영어로 번역한 문장인데, 마지막 부분은 ‘세상의 일은 최대, 최소의 원리로 설명된다’ 정도로 표현되어 있다. 사실, 이 문장은 Euler-Lagrange 방정식에 대한 철학적 해석이라고 볼 수 있다. ‘For since the fabric of the universe is most perfect and the work of a most wise Creator, nothing at all takes place in the universe in which some rule of maximum or minimum does not appear.’ - Leonhard Euler