NLP_StudyNote

0. 개요 RNN이란 풀어쓰면 Recurrent Neural Network 입니다. 여기서 recurrent 는 반복된다는 의미를 갖고 있습니다. recursive neural network 라는 유사한 모델이 있지만 차이점이 있습니다. RNN에서 반복된다는 말은 과거의 정보를 가지고 있다는 의미로 해석할 수도 있습니다. 사람은 생각을 할 때 혹은 말을 할 때 과거의 정보들을 기반으로 다음 정보들을 뱉어낸다는 사실에서 아이디어를 얻었으며, FFNN(Feed Forward Neural Network)와 같이 현재의 정보들만 보는 신경망과 달리 RNN은 현재 정보와 과거의 정보를 동시에 고려한다고 이해하면 됩니다. 1. RNN 사용 예 RNN은 input 과 output 사이즈가 고정되어 있지 않은 음성이나..

0. 개요 최근 자연어처리에는 딥러닝 기술을 많이 사용한다. 이 중 퍼셉트론은 인공지능(AI) 중 가장 오래된 알고리즘 중 하나이다. 결과적으로 보면 퍼셉트론은 '단순한 선형분류기'라는 한계 때문에 사람들의 기대를 모은 만큼의 결과를 보여주지 못하고 사그라들었으며 인공신경망 연구는 다시금 얼어버리게 된다. 1. 퍼셉트론 사전적 의미(위키피디아) 퍼셉트론(perceptron)은 인공신경망의 한 종류로서, 1957년에 코넬 항공 연구소(Cornell Aeronautical Lab)의 프랑크 로젠블라트 (Frank Rosenblatt)에 의해 고안되었다. 이것은 가장 간단한 형태의 피드포워드(Feedforward) 네트워크 - 선형분류기- 으로도 볼 수 있다. 2. 퍼셉트론 2-1. 퍼셉트론과 뉴런 퍼셉트론은..