11. Deep Neural Nets

 초기의 인공지능은 XOR 문제를 풀 방법이 없어서 불가능하다고 생각되었다.

 

 

그렇게 시간이 지나고 Paul Werbos이라는 분에 의해서 에러를 결과에서 도출해서 반대로 W, b를 구하는 방식의  Backpropagation이라는 알고리즘이 해결책으로 제시되었다.

 

또한, 그것을 토대로 Convolutional Neural Networks라는 것이 개발되었다.

 

그러나 Backpropagation 알고리즘이 많은 층이 있을 때 학습을 제대로 시키지 못하는 문제가 발생한다.

 

이후에 그런 문제를 해결하기 위해 연구를 진행하다가 각각의 weight 값을 초기값을 주는 과정에서 초기값을 잘 주어주면 문제가 해결되어 학습이 된다는 것을 확인하였고 Deep Learning이라는 명칭이 생겼다.

 

이미지를 판별해내는 IMAGENET 챌린지 등을 통해 인공지능에 대한 관심이 커졌고 그 이후에는 많은 발전을 통해 자연어 처리, 게임 인공지능, 알파고 등 많은 인공지능이 개발된다.

 

현재에는 TensorFlow와 같은 쉬운 툴, Python과 같은 언어가 발전함에 따라 Deep Learning을 공부하기 좋은 환경을 갖추고 있다.