0. Deep Learning 개요

1) Deep Learning 의 중요한 요소

1. data

2. model

3. loss

4. algorithm(optimizer)

 

2) Deep Learning 의 굵직한 사건들

Alexnet - 2012

DQN - 2013

 

Adam - Optimizer - 2014

 

Generative Adversal Network - 2015

 

Residual Networks - 2015

• 깊게 층을 쌓아도 성능이 좋게 나올 수 있게 만들어 준 논문

 

Transformer - 2017

 

BERT(fine tuned NLP model) - 2018

 

BIG Language models - 2019

 

Self Supervised Learning - 2020