본문 바로가기

NLP107

[edwith] 딥러닝을 이용한 자연어 처리 : Q n A - Neural Machine Translation - 조경현교수 [LECTURE] Questions : edwith 학습목표 이번 강의 주제인 "Neural Machine Translation" 에 관련된 질문입니다. 같이 생각하는 시간을 가지면서 배운 지식을 공고히 다집니다. 질문 1. 기계번... - 커넥트재단 www.edwith.org 질문 1. 기계번역의 평가는 어떻게 하나요? 사람들이 RNN을 안쓰고 어떤 다른 방법으로 가고 있습니까? 훈련데이터를 필터링해서 크기를 줄일 수 있는 방법은 어떤 것이 있나요? 2. Vocabulary 크기는 문제마다 다르게 설정해야하나요? -출처: [edwith] 딥러닝을 이용한 자연어 처리 : Q n A - Neural Machine Translation - 조경현교수 2021. 3. 19.
[edwith] 딥러닝을 이용한 자연어 처리 : RNN Neural Machine Translation - 조경현교수 [LECTURE] RNN Neural Machine Translation : edwith 학습목표 RNN을 활용한 기계번역의 과정을 공부합니다. 핵심키워드 기계번역(Machine Translation) 소스 언어(Source Language) 타겟 언어(Target ... - 커넥트재단 www.edwith.org 학습내용 구조 소스 문장의 표현(Source sentence representation) 은 양방향 RNN(bidirectional RNN) 을 활용합니다. 타겟 토큰의 표현은 단일 방향 RNN(unidirectional RNN) 입니다. Attention mechanism: 다음 토큰을 예측하기 전에 소스 문장에서 어느 토큰이 제일 연관성이 높은가를 살펴보게 됩니다. 연관성을 나타내는 벡터와 .. 2021. 3. 19.
[edwith] 딥러닝을 이용한 자연어 처리 : Encoder & Decoder - 조경현교수 [LECTURE] Encoder & Decoder : edwith 학습목표 기계번역의 모델구조와 과정을 살펴봅니다. 핵심키워드 기계번역(Machine Translation) 소스 언어(Source Language) 타겟 언어(Target Lan... - 커넥트재단 www.edwith.org 학습내용 소스 언어와 타겟 언어의 유니크한 단어장을 구축합니다. 토크나이즈(tokenize): 단어 및 쉼표, 마침표 등을 분리하고, 부호를 표준화(통일) 시킵니다. 하위 단어의 세분화(subword segmentation): BPE 인코딩을 통해 하위 단어의 세분화를 진행합니다. 모든 하위 단어를 통합하여 빈도수 내림차순으로 정렬한 뒤 인덱스를 부여합니다. 인코더(Encoder): 소스 문장의 토큰들을 문장을 표현하.. 2021. 3. 19.
[edwith] 딥러닝을 이용한 자연어 처리 : Overview - Neural Machine Translation - 조경현교수 [LECTURE] Overview: a bit of history remark : edwith 학습목표 자연어 처리에서 기계번역 문제를 다뤄보기 전에, 우선 기계번역의 역사를 들어봅니다. 핵심키워드 기계번역(Machine Translation) 룰 기반 기계번역(Rule-b... - 커넥트재단 www.edwith.org 학습내용 신경망 기반 기계번역(Neural Machine Translation): Input: 소스 언어(Source Language), 번역의 원천이 되는 언어 Output: 타겟 언어(Target Language), 번역을 하고자 하는 언어 문제정의: Input 문장이 주어졌을 때, 번역된 문장을 출력하기 때문에 지도학습입니다. Input 문장이 주어졌을때 번역될 문장의 조건부 확률분.. 2021. 3. 19.

티스토리툴바