[수치해석] 기저 함수(Basis function)에 대해

 학부 생활을 통틀어 나와 가장 밀접한 용어를 꼽아보면, 기저 함수(Basis function)와 Spectral method인 것 같다. Legendre Galerkin Method에도 쓰이고, 개인적으로는 연산자 학습(Operator Learning)도 일종의 기저 함수와 Spectral Method의 연장선이라고 생각하기 때문이다. 또한 기저 함수 이론을 바탕으로 Spectral Method가 성립된다. 한창 연구실에 있었을 때는 일개 학부생이 다루기에는 어려운 개념이라고 생각해, 공부하고자 25만 원짜리 Spectral Method 원서를 사달라고 교수님한테 말씀드렸었다. 흔쾌히 사주실 줄은 몰랐지만...(필요한 부분 빼고 안 읽었다.)

 

 교수님께 감사하며, 추후 다른 포스팅에 대한 빌드업을 위해 Basis function과 Spectral method에 대해 작성하고자 한다. 시작하기에 앞서, 졸업한 지 1년이 넘어 기억을 더듬어 작성하는 것이기도 하고, 애초에 수치 해석을 제대로 배우지 않아서, 잘못된 부분이 많을 수 있다. 애초에 용어 자체의 혼동이 있을 수도 있다. 그래서 수식적으로 깊게 다룰 생각도 없기도 하고, 해당 개념이 뭔지 모르는 사람에서 이런 느낌이구나~ 정도로만 감을 잡을 수 있게 작성할 예정이다. 그래서 깊은 내용을 원하고 오신 전공자라면 뒤로 가기를 눌러주시면 감사하겠습니다.

 

기저 함수(Basis function)이란?

 

 먼저, Basis function에 대해 얘기하기 전에 한 가지 예시를 들고자 하겠다. 올바른 수식적 표현으로 찾아보고 예를 들기에는 귀찮기 어렵기 때문에, 용어적으로 틀린 부분이 있어도 알잘딱하게 이해해 주길 바란다. 먼저, 전체 x 좌표에 대해 1의 값을 가진 A라는 상수 함수와 -1의 값을 가진 B라는 상수 함수가 있다고 가정하자. A와 B의 x coordinate에 대해 범위와 좌표값이 동일하다. 이를 수식적으로 표현하면 아래와 같다.

 

$$A(x) = 1, \quad B(x) = -1, \quad x \in (0,1)$$

 

 그렇다면, 이 두 개의 상수 함수를 적절히 계수를 통해 조합해서 C라는 $x=y$라는 선형 그래프를 만들 수 있지 않을까? 아래와 같은 수식을 통해서 말이다.

 

$$ \alpha_x A(x) + \beta_x B(x) = C(x)$$

 

정답은 O이다. 아래의 그래프 사진을 참고해주길 바란다. $x=0$일 때에는 $\alpha_0$과 $\beta_0$이 둘 다 0이라면, $C(0)=0$이 성립할 것이다. 그렇다면 $x=0.2$일 때는 어떨까? 다들 생각한 것처럼 $\alpha_{0.2} = 1$와 $\beta_{0.2}=0.8$이 된다면 $C(0.2)=0.2$가 성립하게 된다. 같은 원리로 접근한다면, $\alpha_x$를 계속 1로 설정하고, $\beta_x$를 조정한다면, $x=y$인 $C(x)$를 $x$값의 범위 내에서 구현할 수 있다. 단순 선형 그래프뿐만 아니라, 대부분의 그래프를 표현할 수 있다. 

 

Chat GPT로 그렸다..ㅎㅎ

 

 이것이 Basis function과 Spectral method의 기초적인 개념이다. 다른 함수를 표현하기 위한 $A(x)$와 $B(x)$가 Basis function이며, Basis function과 계수(coefficient)의 조합으로 여러 함수들을 표현하는 것이 Spectral method의 원리이다. 여기까지 읽어보았을 때, 눈치 빠른 누군가는 이상한 점을 느꼈을 수 있다. 바로 고정된 $x$ 값에 대해 $\alpha, \beta$의 값이 다양하게 나올 수 있다는 점이다. 풀어서 말하면 필자는 $C(0.2) = 0.2$를 만들기 위해 $\alpha_{0.2} = 1, \beta_{0.2} = 0.8$를 사용하였지만, 사실 $\alpha_{0.2} = 2, \beta_{0.2} = 1.8$, 혹은 $\alpha_{0.2} = -1, \beta_{0.2} = -0.8$ 등 나올 수 있는 계수의 조합이 무궁무진하다는 점이다. 이러한 의문이 드는 것은 매우 당연하다. 왜냐면 예시로 든 $A(x)$와 $B(x)$는 basis function인 기본 조건인 선형 독립성을 위반하기 때문이다. 단순히 이해를 위해 두 개의 상수 함수를 사용하였을 뿐이다.

 

 그렇다면, 선형 독립성이 무엇일까? 두 개 이상의 함수가 선형 독립적이라고 하는 것은, 함수들이 서로의 상수배나 조합으로 표현이 될 수 없음을 뜻한다. 이를 수학적으로 표현하자면 아래의 조건을 성립해야 된다.

 

$$a \cdot f(x) + b \cdot g(x) = 0, \quad (for all x)$$

 

 위의 방정식이 자명한 해($a=0, b=0$)을 가져야만 두 함수는 선형독립적이 된다. 만약 자명하지 않은 해($a, b$가 0이 아닌 해)가 존재할 때 두 함수는 선형 독립적이지 못하고, 선형 종속적이 되는 것이다. 그렇다면 예시로 들었던 $A(x) = 1$과 $B(x) = -1$을 생각해 보자. 위의 수식에 적용을 하면 $a \cdot 1 + b \cdot (-1) = a - b = 0$, 즉 $a=b$만 만족하면 되기 때문에 수많은 조합이 나오며, 선형 독립적이지 않다. 이것이 바로 예시로 든 두 상수 함수가 Basis function의 조건을 만족하지 못한다는 것이었고, 상수 함수끼리는 Basis function이 되지 못한다라는 것을 깨닫는 다면 맞게 이해한 것이다.

 

 그렇다면 선형 독립성을 만족시키려면 어떻게 해야 될까? 서로 다른 차수를 가지는 다항식이나 주기 함수를 사용하면 된다. 얼핏 봤을 때는 어려워 보일 순 있지만, 자주 쓰이는 Basis function들이 이러한 조건을 만족 시킨다. ${1, x, x^2, x^3, \cdots, x_n}$같은 Polynomial Basis나 ${1, sin(x), cos(x), sin(2x), cos(2x), \cdots}$와 같은 Fourier Basis와 같이 말이다. 이러한 Basis function들은 각각의 특성이 있고, 풀어야 하는 문제에 따라 장단점이 있다. Legendre Polynomials, Chebyshev Polynomials, Wavelet Basis 등 다양한 Basis function이 있으며, 궁금하면 구글링을 해보길 바란다.

 

글을 마치며

 

 원래는 Spectral Method까지 본 글에 같이 적을 예정이었지만, 한 번에 적으면 너무 길어질 것 같아 Basis function에 대한 개념만 다루는 것으로 해당 글을 마치도록 한다. Spectral Method만으로 글 하나를 뽑을 수 있을까 하는 생각이 한편으로 들긴 하지만, 지금 다 써버리기엔 귀찮기에... 끝.