depthwise separable convolution 설명

 

Depthwise separable convolution은 CNN(Convolutional Neural Network)에서 많이 사용되는 컨볼루션 연산 방법 중 하나로, 컨볼루션 연산을 좀 더 효율적으로 수행할 수 있도록 개선된 방법입니다.

 

일반적으로 CNN에서는 입력 데이터에 대해 컨볼루션 연산을 수행하는데, 이 때 커널(kernel)이 입력 데이터 전체에 대해 적용됩니다. 하지만 depthwise separable convolution은 커널을 두 가지 단계로 나누어 처리합니다.

 

첫 번째 단계는 Depthwise Convolution입니다. 이 단계에서는 입력 데이터의 각 채널마다 따로따로 필터(kernel)를 적용합니다. 이렇게 하면 입력 데이터가 갖고 있는 채널 수에 비례해 컨볼루션 연산의 수가 줄어들기 때문에, 연산 비용을 줄일 수 있습니다.

 

두 번째 단계는 Pointwise Convolution입니다. 이 단계에서는 Depthwise Convolution을 통해 나온 결과를 다시 1x1 크기의 커널로 필터링하여 최종 출력을 만들어냅니다. 이 단계에서는 각 채널 간의 상호작용을 고려할 수 있어, 입력 데이터의 특징을 더 잘 추출할 수 있습니다.

 

결과적으로 Depthwise separable convolution은 일반적인 컨볼루션에 비해 계산 비용이 적고, 모델 파라미터의 수도 적게 필요하기 때문에, 작은 모델을 만들거나 모델 크기를 줄이는 데 효과적입니다. 또한 모델의 정확도에도 영향을 주지 않는 경우가 많아, 모바일이나 임베디드 환경에서 사용되는 경량화 모델에 많이 적용됩니다.