본문 바로가기

IT 와 Social 이야기/NLP 자연어처리168

[딥러닝을이용한 자연어 처리 입문] 1203 1D CNN으로 IMDB 리뷰 분류하기 1. 데이터 전처리 2. 1D CNN으로 IMDB 리뷰 분류하기 - 출처 : [딥러닝을이용한 자연어 처리 입문] 1203 1D CNN으로 IMDB 리뷰 분류하기 2021. 5. 26.
[딥러닝을이용한 자연어 처리 입문] 1202 자연어 처리를 위한 1D CNN(1D Convolution Neural Network) 2. 1D 합성곱(1D Convolution) - 자연어 처리에 사용되는 1D CNN도 입력이 되는 것은 각 단어가 벡터로 변환된 문장 행렬로 LSTM과 입력을 받는 형태는 동일 - 1D CNN에서 커널의 너비는 문장 행렬에서의 임베딩 벡터의 차원과 동일하게 설정됨. 그렇기 때문에 1D CNN에서는 높이 사이즈만을 명명하여 해당 커널의 사이즈라고 간주함. 가령, 커널의 사이즈가 2인 경우에는 아래의 그림과 같이 높이가 2, 너비가 임베딩 벡터의 차원인 커널이 사용됨(커널 사이즈는 마음대로 변경할 수 있음) - 1D CNN에서는 커널이 문장 행렬의 높이 방향(아래쪽으로만)으로만 움직이게 되어있음 - 1D CNN과 자연어 처리 관점에서는 커널의 사이즈에 따라서 참고하는 단어의 묶음의 크기가 달라짐. 이는 참.. 2021. 5. 26.
[딥러닝을이용한 자연어 처리 입문] 1201 합성곱 신경망(Convolution Neural Network) 위의 그림에서 CONV는 합성곱 연산을 의미하고, 합성곱 연산의 결과가 활성화 함수 ReLU를 지남. 이 두 과정을 합성곱층(Convolution layer)이라고 함. 그 후에 POOL이라는 구간을 지나는데 이는 풀링 연산을 의미하며 풀링층(Pooling layer)이라고 함. 1. 합성곱 신경망의 대두 - 이미지를 다층 퍼셉트론을 이용하여 분류 시 이미지를 1차원 텐서인 벡터로 변환하여 다층 퍼셉트론의 입력층으로 사용하는데 이 1차원으로 변환된 결과는 변환 전에 가지고 있던 이미지의 공간적인 구조(spatial structure) 정보가 유실된 상태임 - 여기서 공간적인 구조 정보라는 것은 거리가 가까운 어떤 픽셀들끼리는 어떤 연관이 있고, 어떤 픽셀들끼리는 값이 비슷하거나 등을 포함하고 있음. 결국.. 2021. 5. 26.
[온라인새벽기도] 하나님 손에 붙들리라 본문말씀 : 민수기 10장 1-6절 1 여호와께서 모세에게 말씀하여 이르시되 2 은 나팔 둘을 만들되 두들겨 만들어서 그것으로 회중을 소집하며 진영을 출발하게 할 것이라 3 나팔 두 개를 불 때에는 온 회중이 회막 문 앞에 모여서 네게로 나아올 것이요 4 하나만 불 때에는 이스라엘의 천부장 된 지휘관들이 모여서 네게로 나아올 것이며 5 너희가 그것을 크게 불 때에는 동쪽 진영들이 행진할 것이며 6 두 번째로 크게 불 때에는 남쪽 진영들이 행진할 것이라 떠나려 할 때에는 나팔 소리를 크게 불 것이며 하나님은 모세에게 은 나팔 둘을 두들겨 만들어서 그것으로 회중을 소집하며 진영을 출발하게 하라고 하셨다(1-2절). 은 나팔은 희년 때 사용된 곡선형 뿔 나팔(레 25:9)과는 달.. 2021. 5. 26.