NLP_StudyNote

0. 개요 사람들은 사진이나, 텍스트를 볼 때 특정 부위를 고해상도(high resolution)로 인식할 수 있습니다. '고해상도로 인식한다' 라는 의미는 우리가 이미지를 볼 때 어떤곳을 좀더 선명하게 중점적으로 보고, 나머지 부분은 저해상도, 즉 흐리게 볼 수 있다고 해석할 수 있습니다. 예시로 위의 이미지를 보고 사람들은 빨간색 네모칸 안의 뾰족한 귀, 눈, 몽글몽글한 손을 보고 고양이라고 알 수 있습니다. 이와 반대로 회색 칸의 정보로는 고양이라고 예측하기가 어렵습니다. 여기에서 빨간색 네모칸을 고해상도로 인식한다고 볼 수 있는 것입니다. 마찬가지로, 우리는 하나의 문장 안에서, 가까운 문맥에서 단어 사이의 관계를 설명할 수 있고, 다음 단어를 예측하는데 단어 사이의 상관관계를 분석하여 집중! 하..

0. 개요 RNN이란 풀어쓰면 Recurrent Neural Network 입니다. 여기서 recurrent 는 반복된다는 의미를 갖고 있습니다. recursive neural network 라는 유사한 모델이 있지만 차이점이 있습니다. RNN에서 반복된다는 말은 과거의 정보를 가지고 있다는 의미로 해석할 수도 있습니다. 사람은 생각을 할 때 혹은 말을 할 때 과거의 정보들을 기반으로 다음 정보들을 뱉어낸다는 사실에서 아이디어를 얻었으며, FFNN(Feed Forward Neural Network)와 같이 현재의 정보들만 보는 신경망과 달리 RNN은 현재 정보와 과거의 정보를 동시에 고려한다고 이해하면 됩니다. 1. RNN 사용 예 RNN은 input 과 output 사이즈가 고정되어 있지 않은 음성이나..

0. 개요 최근 자연어처리에는 딥러닝 기술을 많이 사용한다. 이 중 퍼셉트론은 인공지능(AI) 중 가장 오래된 알고리즘 중 하나이다. 결과적으로 보면 퍼셉트론은 '단순한 선형분류기'라는 한계 때문에 사람들의 기대를 모은 만큼의 결과를 보여주지 못하고 사그라들었으며 인공신경망 연구는 다시금 얼어버리게 된다. 1. 퍼셉트론 사전적 의미(위키피디아) 퍼셉트론(perceptron)은 인공신경망의 한 종류로서, 1957년에 코넬 항공 연구소(Cornell Aeronautical Lab)의 프랑크 로젠블라트 (Frank Rosenblatt)에 의해 고안되었다. 이것은 가장 간단한 형태의 피드포워드(Feedforward) 네트워크 - 선형분류기- 으로도 볼 수 있다. 2. 퍼셉트론 2-1. 퍼셉트론과 뉴런 퍼셉트론은..