본문 바로가기
IT 와 Social 이야기/NLP 자연어처리

[D2] 어떻게 해야 기계에게 글을 잘 읽고 말할 수 있게 할까? - 이현구님

by manga0713 2021. 3. 16.

 

어떻게 해야 기계에게 글을 잘 읽고 말할 수 있게 할까?

SQuAD가 공개되고 널리 알려지면서 기계독해(Machine Reading Comprehension)가 각광받기 시작했습니다. SQuAD란 스탠포드대에서 만든, 기계가 주어진 문서를 읽고 그와 관련된 질문을 할 경우 정답을 찾아

www.slideshare.net

 

 

 

 

○ 모델들의 공통적인 구조

 

- Encoder : 질의와 문맥을 벡터로 표현

- Co-attention : 상호 Attention을 통해 문맥과 질의 간의 관계 파악

- Output : 질문에 해당하는 정답 단어의 시작과 끝 위치 출력

 

○ 학습 방법

 

- Negative Log Probability

- REINFORCE Algorithm

 

○ 어디까지 왔나?

 

- 사람과 유사, 혹은 더욱 잘하게 됨

 

○ 말은 어떻게 할까?