코딩하는 애옹😸

데일리 회고 Week 1 Day 1 Week 1 Day 2 Week 1 Day 3 Week 1 Day 4 Week 1 Day 5 추가적으로 공부한 것 [예제] Backpropagation 마무리

계산 과정 순전파 과정을 통해 예측값과 실제값의 오차 구하기 오차를 구한 후, 역전파를 이용하여 가중치($w_n$)업데이트 업데이트된 가중치를 이용하며 다시 순전파 계산 업데이트된 오차 확인 주어진 조건 $x_1$ = 0.1, $x_2$ = 0.2 {$w_1, w_2, ... , w_8$} = {0.3, 0.25, 0.4, 0.35, 0.45, 0.4, 0.7, 0.6} 실제 값 : 0.4 , 0.6 활성화 함수 $\sigma$ : $sigmoid$함수 $$sigmoid(x) = \frac{1}{1+e^{-x}}$$ 1. 순전파 $z_1 = x_1\cdot w_1 + x_2\cdot w_2$ $z_2 = x_1\cdot w_3 + x_2\cdot w_4$ 이때, $h_1$과 $h_2$는 $z_1$과 $z..

학습 계획 심화 과제 [심화과제 3] Maximum Likelihood Estimate 피어세션 및 행사 10:00 데일리 스크럼 15:00 스페셜 피어세션 16:00 피어세션 17:00 오피스아워 회고 이번 주는 정신없이 지나갔지만, 복습의 필요성도 느꼈다. 다음 주가 오기 전에 이번주 과제와 그냥 훑고 지나갔던 Python에 대해서 복습해야겠다. github도 재정비하고.. notion도 재밌어보이던데.. 다음주도 재미있을듯 ㅎㅎ

RNN 시퀀스(sequence) 데이터 : 소리, 문자열 주가 등 시점별로 나타나는 것, 순서를 바꾸거나 과거 정보에 손실이 발생하면 데이터의 확률분포도 바뀜 시퀀스 데이터를 다루는 방법 : 조건부 확률 이용 $X_1 ... X_{t-1}$ 까지의 정보가 조건부로 주어진 상황에서 $X_t$를 모델링하는 조건부 확률 분포 $X_t \sim P(X_t|X_{t-1},...,X_1)$ 모든 과거 정보가 필요한 것은 아니다 조건부의 들어가는 데이터는 가변적 AR($\tau$) 모델 자기회귀모델(Autoregressive Model) : 고정된 길이 $\tau$만큼의 시퀀스만 사용 잠재 AR 모델 직전 정보 $X_{t-1}$와 직전이 아닌 정보들인 잠재변수 $H_t$로 인코딩 가변적인 데이터를 고정된 길이의 문제..

CNN 커널 V를 입력벡터 x 상에서 움직여가며 선형모델과 합성함수 적용 $$ h_i = \sigma\left( \sum_{j=1}^{k}V_jx_{i+j-1} \right) $$ $\sigma$ : 활성함수 $V_j$ : 가중치 행렬 = 커널(은 변하지 않음) $k$ : 커널 사이즈 Convolution 연산 커널을 이용해 신호(signal)를 국소적으로 증폭 또는 감소시켜서 정보를 추출 또는 필터링하는 것 (신호 g, 커널 f, 엄밀히 말하면 x-z 대신 x+z -> cross-correlation) 연속 $$ [f*g](x) = \int_{\mathbb{R}^d}f(z)g(x-z)\, dz = \int_{\mathbb{R}^d}f(x-z)g(z)\, dz = [g*f](x) $$ 이산 $$ [f*g..

학습 계획 AI Math 9강 CNN 첫걸음 10강 RNN 첫걸음 기본 퀴즈 AI Math 8강 퀴즈 AI Math 9강 퀴즈 AI Math 10강 퀴즈 심화 과제 [심화 과제 2] Backpropagation 피어세션 및 행사 10:00 데일리 스크럼 16:00 ~ 17:00 피어세션 17:00 ~ 18:00 마스터클래스 회고 Backpropagation 과제 하느라 시간이 오래 걸렸다. 강의에서도 구체적으로 증명하지 않길래 가볍게 넘어갔었는데, 과제하려고 보니까 처음부터 증명하는게 나았을 듯. 심화 과제한 것들도 문서로 정리하고 싶은데 그건 다음에.. 오늘 마스터클래스에서 꽤 유용한 내용들을 얘기해주셨다. 그 내용도 다음에 정리하는 걸로.. 내일은 지금까지 공부한 것들 복습 + python 강의 클리..