파이썬406 [딥러닝을이용한 자연어 처리 입문] 0802 인공 신경망(Artificial Neural Network) 훑어보기 1. 피드 포워드 신경망(Feed-Forward Neural Network, FFNN) - 입력층에서 출력층 방향으로 연산이 전개되는 신경망 2. 전결합층(Fully-connected layer, FC, Dense layer) - 위 이미지와 같이 어떤 층의 모든 뉴런이 이전 층의 모든 뉴런과 연결돼 있는 층 3. 활성화 함수(Activation Function) - 은닉층과 출력층의 뉴런에서 출력값을 결정하는 함수 - 활성화 함수의 특징 - 비선형 함수(Nonlinear function: 직선 1개로는 그릴 수 없는 함수) 만약 활성화 함수로 선형 함수를 사용하게 되면 은닉층을 쌓을 수가 없음(선형 함수로는 은닉층을 여러번 추가하더라도 1회 추가한 것과 차이를 줄 수 없음) - 계단 함수(Step fu.. 2021. 5. 18. [딥러닝을이용한 자연어 처리 입문] 0801 퍼셉트론(Perceptron) 1. 퍼셉트론(Perceptron) - 프랑크 로젠블라트(Frank Rosenblatt)가 1957년에 제안한 초기 형태의 인공 신경망으로 다수의 입력으로부터 하나의 결과를 내보내는 알고리즘 2. 단층 퍼셉트론(Single-Layer Perceptron) - 값을 보내는 단계와 값을 받아서 출력하는 두 단계로만 이루어 짐 - 이 각 단계를 보통 층(layer)라고 부르며, 이 두 개의 층을 입력층(input layer)과 출력층(output layer)이라고 함 - AND, NAND, OR 게이트를 쉽게 구현할 수 있음(두 개의 입력값과 하나의 출력값이 쓰임) - 단층 퍼셉트론은 직선 하나로 두 영역을 나눌 수 있는 문제에 대해서만 구현이 가능하기 때문에 입력값 두 개가 서로 다른 값을 갖고 있을때에만 .. 2021. 5. 18. [딥러닝을이용한 자연어 처리 입문] 0709 소프트맥스 회귀(Softmax Regression) - 다중 클래스 분류 1. 다중 클래스 분류(Multi-class Classification) - 세 개 이상의 선택지 중 하나를 고르는 문제를 다중 클래스 분류라고 함 - iris(붓꽃)의 품종 분류는 꽃받침 길이, 꽃받침 넓이, 꽃잎 길이, 꽃잎 넓이로부터 setosa, versicolor, virginica라는 3개의 품종 중 어떤 품종인지를 예측하는 문제로 전형적인 다중 클래스 분류 문제 임 2. 소프트맥스 함수(Softmax function) - 분류해야하는 정답지(클래스)의 총 개수를 k라고 할 때, k차원의 벡터를 입력받아 각 클래스에 대한 확률을 추정 함 - 분류하고자 하는 클래스가 k개일 때, k차원의 벡터를 입력받아서 모든 벡터 원소의 값을 0과 1사이의 값으로 값을 변경하여 다시 k차원의 벡터를 리턴 3... 2021. 5. 18. [딥러닝을이용한 자연어 처리 입문] 0708 벡터와 행렬 연산 1. 벡터와 행렬과 텐서 - 벡터 : 크기와 방향을 가진 양 - 행렬 : 행과 열을 가지는 2차원 형상을 가진 구조 - 텐서 : 3차원부터는 주로 텐서라고 부름 2. 텐서(Tensor) - 0차원 텐서 : 하나의 실수값으로 이루어진 스칼라값 - 1차원 텐서 : 숫자를 특성 순서대로 배열한 벡터 벡터의 차원 : 하나의 축에 자원들이 존재하는 것 텐서의 차원 : 축의 개수 - 2차원 텐서 : 행과 열이 존재하는 벡터의 배열. 즉, 행렬(matrix) - 3차원 텐서 : 행렬 또는 2차원 텐서를 단위로 한 번 더 배열한 것 - 텐서 확장 : 3차원 텐서를 배열로 합치면 4차원 텐서, 4차원 텐서를 배열로 합치면 5차원 텐서 ○ 시퀀스 데이터(Sequence Data) - 주로 단어의 시퀀스를 의미, 주로 문장.. 2021. 5. 18. 이전 1 ··· 18 19 20 21 22 23 24 ··· 102 다음
