RESNET1 [DeepLearning] Dive into Deep Learning 필사 7. Convolutional Neural Networks (CNN) (8.6. Residual Networks (ResNet) and ResNeXt) 8.6. Residual Networks (ResNet) and ResNeXt신경망의 성능을 높이기 위해 네트워크를 깊게 만드려는 시도가 많았지만, 네트워크가 너무 깊어지면 오히려 성능이 떨어지는 기울기 소실 또는 기울기 폭발 문제가 발생. 이를 해결하기 위해 residual learning을 도입한 ResNet 등장 * ResNet (Residual Networks)목표: 매우 깊은 신경망에서 발생하는 기울기 소실(vanishing gradient) 문제를 해결하는 것핵심 개념: 잔차 블록 (Residual Block)ResNet의 잔차 블록은 입력을 변화하는 대신, 입력과 변환값을 더하는 방식 사용. 이 때문에 네트워크가 더 깊어지더라도 성능 저하 없이 학습 가능 import torchfrom tor.. 2024. 10. 11. 이전 1 다음
