[TIL] 210324 - Deep LearniNg (~C1W1L04)

이 글은...

Andrew Ng 교수의 Deep Learning 강좌 C1W1L04 까지의 내용을 정리한 것이다.

내용 요약

신경망

• X(입력)와 Y(출력)를 연결지어주는 함수를 찾는 과정

• 데이터가 많으면 많을수록 성능이 좋은 함수를 찾을 수 있음
• 해당 뉴런에 관련 없는 입력값이라도 입력해야 함
  • 그 입력의 관계 여부, 가중치는 학습하면서 조절됨

신경망 종류

• NN: 데이터베이스화된 데이터에 적합
• CNN: 이미지에 적함
• RNN: 오디오, 텍스트에 적합
• Custom, Hybrid

데이터 종류

• Structured Data
  • 데이터베이스로 표현된 데이터
  • 정보의 특성이 잘 드러남
• Unstructured Data
  • 오디오, 텍스트, 이미지
  • 특징값을 추출하기 어려움
  • 딥러닝 기술 발전으로 특징을 잘 찾아낼 수 있게 됨

최근 딥러닝이 크게 발전할 수 있게 된 계기

• 많은 양의 데이터가 만들어짐
  • 디지털 디바이스가 만들어내는 정보량이 증가함
• 컴퓨터 성능이 향상됨
• 알고리즘이 개선됨
  • Sigmoid --> ReLU로 activation function을 바꾸어 학습 속도가 향상된 예시
• 위와 같은 변화에 의해 학습 주기, 실험 주기가 점점 짧아지면서 많은 실험이 가능해짐