Camera classification Project (4) 썸네일형 리스트형 [211207] Pytorch: comparator model 수정 #문제 기존 classifier model을 수정해봐도 output이 제대로 나오지 않는다. ResNet으로 아예 모델을 바꿔 진행해보자. #참고 1. ResNet Pytorch implementation https://velog.io/@gibonki77/ResNetwithPyTorch Pytorch로 ResNet 구현, torch summary 살펴보기 ResNet은 우측의 그림처럼 skip-connection을 주어 residual을 학습할 수 있기 때문에 ResNet이라는 이름이 붙었습니다.(ResNet34의 layer)(ResNet34, ResNet50)의 구조ResNet50, ResNet101, ResNet15 velog.io #해결 1. ResNet18 기존 모델이 convolution이 다섯.. [211206] Pytorch: classification model 수정 #문제 기존 모델에서는 3x128x128 이미지를 input으로 받아서 7x7x128 feature map을 뽑았다. 그 결과 무슨 input이 들어가든지 output이 0에 가까운 값으로 나오는 문제가 생겼다. #참고 #해결 원래 모델 1. 기존 모델에 max pool 없애고 skip connection만 추가 너무 오래걸려서 채널수를 조정해야겠다 2. 1에서 filter 개수 조정 3 (input) > 96 > 64> 32> 16 flattened 28,800 여전히 output이 0으로 몰리는 현상이 나타났다 3. max pooling 제거 전 vs 후 gradient 분포 전과 후 분포가 별로 차이가 나지 않고, 둘 다 gradient vanishing 문제가 해결되지 않은 상태였다.. ResNe.. [211130] Pytorch: gradient vanishing problem #문제 기존 classifier의 output이 다 0으로 나온다. FC단에서 값이 너무 작아져 그런 것 같다. #참고 1. 매번 까먹는 conda pip 경로 /home/rmc1010/anaconda3/envs/mislgan/bin/pip install ... 2. Visualizing gradient using tensorboard https://deeplizard.com/learn/video/pSexXMdruFM TensorBoard with PyTorch - Visualize Deep Learning Metrics Welcome to this neural network programming series. In this episode, we will learn how to use TensorBoar.. [211122] Pytorch: data sampling #문제 Data imbalance 문제 때문에 훈련 결과가 좋지 않다. #참고 1. Stratified sampling https://discuss.pytorch.org/t/how-to-enable-the-dataloader-to-sample-from-each-class-with-equal-probability/911 How to enable the dataloader to sample from each class with equal probability The dataloader utility in torch (courtesy of Soumith Chintala) allowed one to sample from each class with equal probability. I was wondering,.. 이전 1 다음
