code the world

아래 글에서 이 블로그에서 리뷰한 논문들의 흐름과 분야별 분류를 한 눈에 볼 수 있다.읽은 논문들 정리 읽은 논문들 정리[목차]1. Computer Vision 분야 논문2. Natural Language Processing 분야 논문3. 유명한 딥러닝 논문들 지속적으로 업데이트 중1. Computer Vision1. AlexNet [2012년]대규모 CNN을 GPU로 학습해 ImageNet 성능을 크게 끌어올april2901.tistory.com 이번 논문은 SENet에 대한 논문이다.논문은 여기에서 볼 수 있다. 기존의 inception, ResNet같은 모델은 깊이나 넓이를 늘리는데 초점을 두었다. 우리가 사용했던 convolution연산은 공간정보와 채널정보를 융합한다.예를 들어 3x3필터라면, ..

아래 글에서 이 블로그에서 리뷰한 논문들의 흐름과 분야별 분류를 한 눈에 볼 수 있다.읽은 논문들 정리 이 논문은 ResNet에 대한 설명을 담고있다.전체논문1. Introduction이전 논문들에서 깊이를 키우는 것이 복잡한 특징 추출을 더 잘해서 성능을 높이는데 큰 도움이 되었다고 얘기를 했다.깊은 모델의 문제인 vanishing gradient같은 문제는 여러가지 방법을 통해 개선이 되었다.하지만 추가적인 문제가 있었다.Degradation라고 부르는 더 깊은 모델이 에러율이 더 높게 나오는 현상이 발생했다.저자들은 "20층짜리 모델이 풀 수 있는 문제는 55층짜리 모델도 당연히 풀어야 하는 것 아닌가?"라고 생각했지만 실험결과는 그렇지 않았다.여기서 20층 이후의 층들은 단순히 들어오는 입력만 그..