Neural Network

형태별 정리

Reference: https://www.asimovinstitute.org/neural-network-zoo/

• Deep Feedforward Network (DFN)의 구성: 입력층, 은닉층, 출력층
• 암기법: DFN 입은줄
  • 입: 입력층
  • 은: 은닉층
  • 줄: 출력층

DFN 구조

 

• Recurrent Neural Network ( RNN )의 특징: 은닉층을 재활용한다.
• 암기법: Replay Hidden stage

 

 

• Long Short Term Memory (LSTM)의 특징: Input gate, Forget gate, Output gate가 RNN에 추가된 듯한 구조이다.
• 암기법: I Forget Our Relationship.
  • I: Input gate
  • Forgot: Forget gate
  • Our: Output gate
  • Relationshipt: RNN

 

• Autoencoder의 특징: 입력데이터를 그대로 출력하고 은닉층의 출력은 잠재공간으로 활용한다.
• 암기법: 오 똑똑한 인간의 잠재력은 대단해

 

• Variational Atuoencode (VAE, 변분 자동 인코더)의 특징: 확률분포를 Gaussian으로 근사하는 것이 목적이다.
• 암기법: 바에 간 이유는 근사한 화류계 가까이서 보려고
  • 바에: VAE
  • 근사한 화류계: 확률분포 근사
  • 가까이: Gaussian

 

• Convolutional Neural Network (CNN) 모형의 형태: 오징어 모양
• 암기법: 오징어 콩불
  • 콩불: Convolutional

 

• Boltzman Machine (BM)의 형태적 특징: 볼 모양
• 암기법: Balls man

 

• Generative Adversarial Network (GAN)의 구성: Discriminator, Generator
• 암기법: 뒤지게 깐다
  • 뒤: Discriminator
  • 지게: Generator
  • 깐다: GAN

 

• Deep Residual Network (DRN)의 특징: skip connection을 이용한다.
• 암기법: Rest and skip it.
  • Rest: Residual
  • Skip: Skip connection