- GoogLeNet에서 나온 Inception 계통의 Network에서 등장.
Chennel 수 조절
- 행과 열의 크기 변환 없이 Channel의 수를 자유자재로 조절 가능하게됨.
- 만약, (28 x 28 x 192) 의 인풋을 (28x28x32)로 줄인다면?
=> (1x1x192) 필터 32개 사용하여 convolution 연산
계산량 감소
- Bottleneck 구조
비선형성
- Activation을 사용함으로써 비선형성을 더해줄 수 있음.
- 행과 열, channel 수를 변화시키지 않고 단순히 weight 및 비선형성을 추가하는 역할로 사용할 수 있음.
출처
https://hwiyong.tistory.com/45
1x1 convolution이란,
GoogLeNet 즉, 구글에서 발표한 Inception 계통의 Network에서는 1x1 Convolution을 통해 유의미하게 연산량을 줄였습니다. 그리고 이후 Xception, Squeeze, Mobile 등 다양한 모델에서도 연산량 감소를 위해 이 방
hwiyong.tistory.com
https://gaussian37.github.io/dl-dlai-network_in_network/
Network In Network and 1x1 Convolutions
gaussian37's blog
gaussian37.github.io
'AI Engineer' 카테고리의 다른 글
| Optimizer (1) | 2024.05.08 |
|---|---|
| 가중치 초기화 (Weight Initialization) (0) | 2024.05.07 |
| Data Augmentation of Computer Vision (0) | 2023.12.06 |
| model.train() / model.eval() / torch.no_grad() / torch.Tensor.require_grads (0) | 2023.12.04 |
| Pytorch에서 GPU를 사용 (0) | 2023.12.04 |
