[TIL] 210415 - Deep LearniNg (~C1W5L01)

더 많은 층의 심층 신경망

깊은 신경망이란 은닉층이 여러층 있는 신경망을 의미한다. 정확한 경계 수치가 있는 것은 아니고 상대적인 의미인 듯하다. 로지스틱 회귀는 1층짜리 신경망이다.

이에 비해 3층짜리 신경망은 1층짜리보다 '깊다'고 할 수 있다.

반대로 3층짜리 신경망은 아래 그림과 같은 5층 짜리 신경망보다는 얕은 모델(shallow model)이라고 말할 수 있다.

앞으로 깊은 신경망 네트워크를 살펴볼 때 사용할 표기법을 정리하였다.

• $L$: 네트워크 층 수
• $n^{[l]}$: $l$층에 있는 유닛 수
• $a^{[l]}$: $l$층의 활성값
• $a^{[0]}$: 입력 특성 ($=X$)
• $a^{[L]}$: 출력된 예상 값 ($=\hat{y}$)