일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
- MAC OS
- BPTT
- 부스트캠프 AI Tech
- 정보처리기사
- 운영체제연습문제
- 판교퇴근길밋업
- java
- Python
- 2020정보처리기사
- 운영체제
- 리눅스연습문제
- 우분투리눅스
- AIStages
- Swing
- ann
- repository 복구
- 파이썬
- RNN
- CNN
- 쉽게배우는운영체제
- 딥러닝
- Django
- 자바
- 리눅스7장
- GitHub
- Git
- homebrew설치
- ai개발밋업
- github branch
- backpropagation
- Today
- Total
목록backpropagation (2)
코딩하는 애옹😸
계산 과정 순전파 과정을 통해 예측값과 실제값의 오차 구하기 오차를 구한 후, 역전파를 이용하여 가중치($w_n$)업데이트 업데이트된 가중치를 이용하며 다시 순전파 계산 업데이트된 오차 확인 주어진 조건 $x_1$ = 0.1, $x_2$ = 0.2 {$w_1, w_2, ... , w_8$} = {0.3, 0.25, 0.4, 0.35, 0.45, 0.4, 0.7, 0.6} 실제 값 : 0.4 , 0.6 활성화 함수 $\sigma$ : $sigmoid$함수 $$sigmoid(x) = \frac{1}{1+e^{-x}}$$ 1. 순전파 $z_1 = x_1\cdot w_1 + x_2\cdot w_2$ $z_2 = x_1\cdot w_3 + x_2\cdot w_4$ 이때, $h_1$과 $h_2$는 $z_1$과 $z..
CNN 커널 V를 입력벡터 x 상에서 움직여가며 선형모델과 합성함수 적용 $$ h_i = \sigma\left( \sum_{j=1}^{k}V_jx_{i+j-1} \right) $$ $\sigma$ : 활성함수 $V_j$ : 가중치 행렬 = 커널(은 변하지 않음) $k$ : 커널 사이즈 Convolution 연산 커널을 이용해 신호(signal)를 국소적으로 증폭 또는 감소시켜서 정보를 추출 또는 필터링하는 것 (신호 g, 커널 f, 엄밀히 말하면 x-z 대신 x+z -> cross-correlation) 연속 $$ [f*g](x) = \int_{\mathbb{R}^d}f(z)g(x-z)\, dz = \int_{\mathbb{R}^d}f(x-z)g(z)\, dz = [g*f](x) $$ 이산 $$ [f*g..