AI Tech Blog

MyungJae Shin (MOFL Inc.) AI Engineer

PytorchTS의 TempFlow (RealNVP) 완전 분석 (Normalizing Flow 개념 정리까지)

PytorchTS의 TempFlow (RealNVP) 코드 분석 Introduction PytorchTS는 Gluon-TS를 기반으로 Pytorch로 구현된 time series를 전문적으로 다루는 오픈 소스 입니다. 제법 다양한 시계열을 위한 ML 모델들을 담고 있어서 실제로 논문을 보고 구현할 때 많은 도움을 받고 있습니다. 제가 이전 포스팅 ...

Posted by MJ Shin on September 30, 2021

Distribution Fitting 과 Rejection Sampling

Distribution Fit 잡담 오늘은 Distribution Fit에 대해서 오랜만에 글을 정리해보려고 합니다. ML 내용은 아니지만 최근 MLOps 스터디와 여러 프로젝트들을 수행하면서 모델 적 접근도 중요하지만 Data의 정제와 분석이 훨씬 더 중요하다는 생각이 들어서 이런 공부를 더 많이하는 것 같습니다. 최근 Coursera에...

Posted by MJ Shin on September 8, 2021

Normalizing Flow - RealNVP 이론 과 구현까지 (3)

Normalizing Flow -> RealNVP Implementation & Theory 이 포스트부터는 실제로 CouplingLayer들이 어떻게 작동하는지를 살펴보도록 하겠습니다. 먼저, image input x를 가장 처음 변환하는 CheckerBoardCoupling의 코드입니다. 우선 앞선 코드에서, in_out...

Posted by MJ Shin on August 2, 2021

Normalizing Flow - RealNVP 이론 과 구현까지 (2)

Normalizing Flow -> RealNVP Implementation & Theory 이제 본격적으로 realNVP 논문의 내용을 살펴보도록 하겠습니다. 이론적인 부분보다 이번 포스팅에서는 간단한 realNVP 개념과 구현사항을 살펴보겠습니다. realNVP 논문에서는 위의 1-1 invertible mapping functi...

Posted by MJ Shin on August 2, 2021

Normalizing Flow - RealNVP 이론 과 구현까지 (1)

Normalizing Flow 개념 최근 Kubernetes 공부를 시작으로 서버 구성 작업을 하던 중 회사 프로젝트에서 머신러닝 모델의 퍼포먼스 증가를 위해서 normalizing flow를 접목시키게 되었습니다. 단순하게 normalizing flow 모델을 그대로 적용하는 것은 아니지만 이 과정을 위해서 공부하고 기본적인 구현까지 한 내용들을...

Posted by MJ Shin on August 1, 2021

Negative Binomial Distribution (scipy.stats)

Negative Binomial Distribution 다양한 확률분포들이 존재하고 실제 시계열 관련 업무에서 사용하고 있습니다. 그 중에서 최근 공부하고 정리가 필요하게 된 Negative Binomial Distribution에 대해서 정리하는 블로그를 쓰려고 합니다. 확률 분포란 ? 우선 확률분포에 대해서 정확하게 정리하는게 필요한 것...

Posted by MJ Shin on June 9, 2021