- GoogLeNet에서 나온 Inception 계통의 Network에서 등장.
Chennel 수 조절
- 행과 열의 크기 변환 없이 Channel의 수를 자유자재로 조절 가능하게됨.
- 만약, (28 x 28 x 192) 의 인풋을 (28x28x32)로 줄인다면?
=> (1x1x192) 필터 32개 사용하여 convolution 연산
계산량 감소
- Bottleneck 구조
비선형성
- Activation을 사용함으로써 비선형성을 더해줄 수 있음.
- 행과 열, channel 수를 변화시키지 않고 단순히 weight 및 비선형성을 추가하는 역할로 사용할 수 있음.
출처
https://hwiyong.tistory.com/45
https://gaussian37.github.io/dl-dlai-network_in_network/
'DL > Basic' 카테고리의 다른 글
Cross Entropy 맛보기 (0) | 2024.05.09 |
---|---|
Optimizer (1) | 2024.05.08 |
가중치 초기화 (Weight Initialization) (0) | 2024.05.07 |
Plateau Problem (0) | 2023.05.25 |
What is Deeplearning? (1) | 2023.05.14 |