![]()
He, Kaiming, Xiangyu Zhang, Shaoqing Ren, and Jian Sun. "Deep Residual Learning for Image Recognition." IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016. 선행 지식 ) CNN 모델에 대한 기본적인 개념 소개 깊은 네트워크를 학습시키기 위한 방법, 잔여 학습(Residual Learning)을 제안 아래의 그래프는 Train에 대한 Error, OverFitting 의 문제가 아님을 알 수 있다. 더 깊은 레이어가 더 좋은 성능을 보인다는 일반적인 양상을 유지할 수 있도록 보여주었다는 점이 본 논문이 기여하는 바 이다. * 일반적인 양상 Alex..
![]()
출처 : https://fehead.tistory.com/250 리눅스가 절전 모드로 들어가면 나오지 못하는 문제 절전 모드에서 나오지 못하고 강제 리부팅후에 /var/log/syslog 를 보니 아래의 로그가 있었다. pr 30 13:34:49 pc-linux systemd[1]: anacron.service: Succeeded. Apr 30 13:34:49 pc-linux systemd[1]: motd-news.service: Succeeded. Apr fehead.tistory.com usb 또한 절전모드로 들어가기 때문에 그렇다고 한다. nano /etc/defaults/grub grub에서 GRUB_CMDLINE_LINUX_DEFAULT 끝에 "usbcore.autosuspend=-1" 를 추가..
![]()
ubuntu 이미지를 깔아서 그 위에 텐서플로우를 설치하여도 되지만, 텐서플로우 공식 홈페이지에 쥬피터와 텐서플로우가 모두 깔려져 있는 이미지가 이미 존재하길래 해당 이미지를 사용해주었습니다. 출처 : https://www.tensorflow.org/install/docker?hl=ko#download_a_tensorflow_docker_image Docker | TensorFlow Google I/O를 시청해 주셔서 감사합니다. 모든 세션을 주문형으로 시청하세요.주문형 동영상 보기 Docker 컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요. Docker는 www.tensorflow.org 그냥 latest 태그를 깔게 되면 CPU만을 사용하는 텐서플로우를 깔게 됩니다. 저..
![]()
Plateau Phenomenon 정의 학습 과정에서 손실이 더 이상 감소하지 않고, optimizer 알고리즘 성능이 느려지는 현상 위의 Training Loss V.s. Epoch curves와 같이 학습 과정에서 손실이 수렴하는 것 처럼 보이다가 (a), 임의의 epochs에서 다시 손실이 감소하고 (b), 다시 정체 구간을 겪다가 손실이 감소하는 (c) 현상을 Plateau Phenomenon 이라고 합니다. 문제점 epochs에 대한 결정을 복잡하게 만듭니다. Plateau를 횡단하는데 사용되는 불필요한 epochs 수로 인해 수렴을 느리게 만드는 문제가 있습니다. 안장점과 국소 최소라는 최소 두가지 유형의 problematic areas를 갖습니다. 안장점 (Saddle Point) 다음의 l..
