[ML] Lab 6

Lab 6의 주제는 Neural Network이다.

그 중에서 Fully connected layer를 구현해본다.

이전에 배운 Neural network 에 대해서 잠깐 살펴보고 간다.

 

Forward  Pass

bias는 생략하였고, z와 a 사이에는 sigmoid Activation function이 있다.

마지막 결과a 와 Ground Truth 인 y를 통해 error J를 계산한다.

 

이후 back propagation을 통해서 parameter를 업데이트 한다.

 

 

 

Fully Connected Layer 구현

Class : FC Layer 

Class : Acticvation Layer