기본 콘텐츠로 건너뛰기

Life of Gamer691

이 블로그 검색

Pytorch Custom Data loader, pinned memory 등 참고 자료

날짜: 3월 25, 2019

공유 링크 만들기
Facebook
X
Pinterest
이메일
기타 앱

Pytorch data loader에서 pin_memory란?

Pytorch custom data loader 작성해보기(pure implementation)

Pin memory와 page-locked memory에 대해..

공유 링크 만들기
Facebook
X
Pinterest
이메일
기타 앱

댓글

댓글 쓰기

가장 많이 본 글

[Paper Review] Residual Dense Network for Image Super-Resolution

Abstract 이전의 CNN based SR 모델들은 LR image로 부터 나오는 Hierarchical features 를 충분히 이용하지 않았다. 이에 따라 성능이 낮았다. 본 논문에서는 Residual Dense Network(RDN)를 통해 이 문제를 해결하고자 한다. RDN은 모든 convolutional layer로 부터 나오는 hierarchical feature를 아래와 같이 충분히 이용한다. 1. Residual Dense Block(RDB)를 사용하여 Dense connected convolutional layer로 부터 나오는 local feature를 추출하고자 한다. 2. RDB는 이전의 RDB output이 현재 RDB의 모든 layer의 input으로 들어가게 설계 하였다. 3. Local Feature Fusion을 통해 이전의 RDB output과 local features를 충분히 이용하여 학습할 수 있도록 하였다. 4. 위와 같은 dense local features를 학습 한 후에, Global feature fusion을 통해 global hierarchical feature를 학습하게 된다. Introduction Network의 뒷단에 갈 수록 각각의 convolutional layer는 계층적으로 다른 receptive field를 갖게 된다. SRCNN, VDSR, DRCN과 같은 기존의 SR Methods는 각각의 convolutional layer의 receptive field를 충분히 이용하지 않았다. 매우 깊은 네트워크에서의 Hierarchical feature는 reconstruction할 때 유용한 정보를 많이 줄 수 있으나, 기존 SR methods는 이를 충분히 이용하지 않았다. 이러한 결점을 해결하기 위하여, RDN을 제안한다. 이를 통해 input으로부터 나온 hierar...

[Paper Review] Re-ranking Person Re-identification with k-reciprocal Encoding

Abstract Person re-identification에 있어서 re-ranking은 accuracy를 향상시키는 데 중요한 역할을 한다. 본 논문에서는 K-reciprocal encoding method를 통해 re-ID results를 re-ranking 하는 것을 제안한다. Introduction RE-Ranking이란 person re-ID initial result를 re-ranking하여 query(probe)와 관련된 이미지들이 더 좋은 rank를 받아 재정렬 될 수 있도록 한다. 이는 추가적인 training samples를 필요로 하지 않다는 이점을 가지고 있고 어떠한 initial ranking result에도 적용할 수 있다는 이점을 가지고 있다. Re-Ranking의 결과는 initial ranking list에 대해 의존성이 크다. 이전의 논문들이 re-ranking을 하는데 있어서 주로 K-neareast neighbors를 이용하였다. 구체적으로, K-nearest neighbors안에 존재하는 이미지들은 true-match일 가능성이 크다는 사실에 기반하였다. 하지만 위 그림에서도 볼 수 있듯이 P1,P2,P3,P4는 true-match임에도 불구하고 top rank 4에 들지 못하였고 오히려 N1, N2가 top rank 4에 들어있는 것을 확인할 수 있다. 이를 통해서 K-nearest neighbor의 결과를 re-ranking에 바로 사용하는 것은 적절하지 않다는 것을 알 수 있다. 이러한 문제점을 해결하기 위해 K-reciprocal nearest neighbor를 사용하고자 한다. 어떤 두 이미지(A, B)가 k-reciprocal nearest neighbor 관계에 있으려면, A가 probe가 되었을 때 K nearest neighbor 결과 안에 B 가 속해있어야 하고 마찬가지로 B가 probe가 되었을 때 ...

[naver ai 해커톤.. 좌절과 실패 ㅠ]

네이버에서 열렸던 ai 해커톤! 길고 짧았던 2달동안의 해커톤이 끝이났다. 2달동안 image retrieval 관련 논문 읽어보면서 tripletNet, triplet loss, embedding 등 여러 가지 용어에 대해서 배울 수 있었다. 사실 예선 1차 처음에는 image classification 문제인줄알고 나는 resnet50을 backbone으로해서 softmax classification을 했는데, 잘 안됬다. 내 생각으로는 query image와 똑같은 클래스라고 예측된 gallery image를 찾아주면 되는거 아닌가 싶었는데, 나중에 생각해보니 잘 안된이유가 query image에 대한 class를 정확히 예측하지 않으면 완전 꽝이게된다! 그러니 클러스터링이 아예 안된다고 볼 수 있을듯하다. 그래서 나는 image retrieval의 기본적인 모델인 tripletNet을 이용했다. 구체적으로 anchor 이미지에 대해서 positive는 최대한 가깝게 embedding되도록 하고 negative는 최대한 멀리 embedding되도록 triplet loss로 학습을 시켰었다. 그렇게 예선 1차는 통과할 수 있었다. 문제는, 예선 2차를 거치면서 모델도 학습을 하지만 경쟁팀들도 clever해지고 있었다. 리더보드에 올라오는 경쟁팀들의 점수가 점점 무서울정도로 높아졌다. 승부욕이 발동해서 나는 여러 논문들을 뒤져보다가 ABE, Delf, BFE와 같은 image retrieval model을 공부해서 BFE가 sota인걸 보고 구현에 들어갔다. Re ranking, query expansion과 같은 post processing없이 굉장히 높은 점수를 얻을 수 있었고, 2등에 들어왔다. 이때부터, 나는 새로운 모델을 뒤져보기보단 네이버 데이터셋에 대한 최적의 hyper parameter를 찾는데 주력했다. hyperparameter를 이리저리 바꿔보면서 분석하고, 정리했다. 결선(온라인...

Powered by Blogger