기계공학의 잡다구리 생활

최근 PINN과 같이 Single Instance 특성을 가진, 즉 같은 문제 상황이더라도 Input 데이터 등의 조건이 바뀌면 재훈련해야 된다는 문제로 인해 Operator Learning과 같은 Multi Instance의 특성을 가진 알고리즘들이 떠오르고 있다. 그중 필자의 생각으로 가장 많은 연구가 진행된 것은 Physics Informed Neural Operator (PINO)와 Physics Informed DeepONet (PIDoN)이 아닐까 생각한다. 실제로 PINO 경우는 엔비디아에서 쓰고 있으니까. PINO에 대한 포스팅은 일전에 남겼기 때문에 이번에는 PIDoN에 대해 적어보고자 한다. DeepONet이란? PINN이 기본적인 CNN에 물리적 정보를 끼얹은 것처럼 PIDoN 또한 ..

이전 발행 글에서 마저 분석하다만 Physics-Informed Neural Operator(PINO)의 코드를 분석할 예정이다. 방정식의 상세한 조건 세팅 등은 이전 글에 있으므로 검색을 통해 이번 포스팅부터 보시는 분들은 아래에 있는 링크를 통해 이전 글부터 보고 오시면 될 듯하다. 이전 글에서는 Generating Data, Fourier Neural Operator(FNO) 부분을 다뤘으며, 이번 글에서는 나머지인 Defined Loss function, Train Neural Operator 부분을 다룰 예정이다. 2023.10.10 - [인공지능/Deep Learning] - [PINO] Burger's Equation 예제 코드 분석 [1/2] [PINO] Burger's Equation 예..

이전의 PINN에 이어 Physics-Informed Neural Operator(PINO)의 알고리즘 작동 원리 및 코드 짜임새를 살펴보기 위해 Burger's Equation의 예제 코드를 분석해 볼 예정이다. Burger's Equation은 식 구성이 단순해선지는 모르겠지만, 여러 프레임워크가 시작 예제 느낌으로 코드를 많이 제공하기 때문에, 가능한 한 앞으로도 딥러닝 프레임워크의 코드 분석에 있어서는 Burger's Equation을 사용하지 않을까 싶다. 동일한 방정식을 토대로 한 여러 코드를 보다 보면 방정식을 확실하게 알고 있다 보니, 그만큼 각 프레임워크의 차이도 구별하기 쉬운데, 이 글을 읽는 여러분들이 이런 효과를 조금이라도 느끼셨으면 하는 마음도 있다. 이번 포스팅에 사용할 코드는 ..

Fourier Neural Operator(FNO)는 Neural Operator의 일종으로 Kernel Integral Operator에서의 Kernel function을 사용하는 대신 Fast Fourier Transform(FFT)를 통해 Fourier 공간에서 표현한 Neural Operator이다. 본문에서는 FNO의 핵심 개념에 대해 다뤄볼 예정이다. 해당 개념을 제시한 논문은 Zongyi Li의 "Fourier Neural Operator for Parametric Partial Differential Equatons"로 FNO에 대해 자세히 알고 싶다면 해당 논문을 참조하면 된다. FNO에 대해 공부할 때 바로 포스팅을 했어야 됐는데 귀찮아서 미루다 보니 어느 정도 기억을 더듬어 적는 바가..