머신러닝2 공부한거 정리2 - CNN CNN 1. convolution filter cnn 알고리즘을 통해 학습을 하면서 계수값을 정함 (backpropagation 알고리즘에 따라) -> 따라서 같은 기능이더라도 처리하는 데이터나 하이퍼파라미터에 따라서 달라질 수 있음 1-1. filter 개수 각 단에서의 연산시간(연산량)을 비교적 일정하게 유지해 시스템의 균형 맞춤 -> 각 layer에서 feature map의 개수와 pixel 수의 곱을 어느정도 일정하게 유지시킴 (각 layer에서 연산시간 = (출력픽셀 수)x(전체 특징맵 수)x(각 filter당 연산시간) 1-2. filter의 형태 (일반적으로 작은 크기의 입력 영상(32x32, 28x28..)에 대해선 5x5를 주로 사용) 여러개의 작은 크기의 필터를 중첩해서 사용하는 것이 .. 2023. 7. 4. 머신러닝 공부한거 정리 NN (Neural Networks) 1. overfitting 학습데이터에 과도하게 학습되어 오히려 성능이 떨어지는 문제 1-1. 해결방법-1: regularization (정규화, 일반화) 가중치가 작아지는 방향으로 학습한다는 것 -> local noise(outlier)가 전체 학습에 큰 영향을 끼치지 않음 L2 regularization : w값에 어떠한 값을 곱함 L1 regularization : w값에 상수값을 뺌 --> 차이점: L1의 경우 작은 가중치들은 0에 수렴하게 되어 몇개의 의미있는 값들만 남게 됨. (하지만 얘는 더이상 미분 불가) 1-2. 해결방법-2 : 지능적 훈련데이터 (효율적으로 훈련데이터 양 늘리기) affine transform: 뒤틀기, 회전 등등 elastic di.. 2023. 7. 4. 이전 1 다음