본문 바로가기

deep learning115

[edwith] 딥러닝을 이용한 자연어 처리 : Backpropagation(역전파 알고리즘) - 조경현 교수 www.edwith.org/deepnlp/lecture/29203/?isDesc=false [LECTURE] Backpropagation : edwith 학습목표 역전파 알고리즘과 자동 미분법에 대해 학습합니다. 핵심키워드 역전파(Backpropagation) 자동 미분법(Automatic differentiation) 연쇄법칙(C... - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Backpropagation(역전파 알고리즘) - 조경현 교수 학습내용 자동 미분법(Automatic differentiation): 모델을 연결하는 비순환 그래프(DAG)는 미분 가능한 함수들로 구성되어 있습니다. 따라서 미분의 연쇄법칙을 사용하여 자동으로 미분합니다. .. 2021. 3. 16.
[edwith] 딥러닝을 이용한 자연어 처리 : Optimization methods(최적화 방법) - 조경현 교수 [LECTURE] Optimization methods : edwith 학습목표 비용함수를 최적화 시키는 방법을 학습합니다. 핵심키워드 최적화(Optimization) - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Optimization methods(최적화 방법) - 조경현 교수 학습내용 Loss 는 비순환그래프(DAG)를 거쳐 계산됩니다. 가설이 무수히 많기 때문에 모든 것을 다 시도해보고 최적인 것을 고를 수가 없습니다. 따라서, 일단 아무 곳을 선택한 후에 Loss 를 낮추는 방향으로 최적화를 진행합니다. 방법: Local, Iterative Optimization: Random Guided Search 장점: 어떤 비용함수를 사용해도 무관합니.. 2021. 3. 16.
[edwith] 딥러닝을 이용한 자연어 처리 : Loss Function(비용함수) - 조경현 교수 [LECTURE] Loss Function : edwith 학습목표 지도학습에서 비용함수의 정의를 학습합니다. 핵심키워드 지도학습(Supervised Learning) 비용함수(Loss Function) 최대 우도 추정(Maximum Li... - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Loss Function(비용함수) - 조경현 교수 학습내용 지도학습은 Input(x) 값을 넣었을 때 Output(y) 값을 산출 하는 것입니다. 하지만 조금만 다르게 생각해서, Input(x) 값이 주어졌을 때 의 Output(y) 값이 y’ 일 확률을 구하는 것으로 생각할 수 있습니다. f​θ​​(x)= ?→p(y=y​′​​∣x)= ? 어떤 확률 분포들이 있을.. 2021. 3. 16.
[edwith] 딥러닝을 이용한 자연어 처리 : Probability in 5 Minutes - 조경현 교수 [LECTURE] Probability in 5 minutes : edwith 학습목표 확률이론을 다시 한번 복습해봅니다. 핵심키워드 확률(Probability) 사건 집합(Event Set) 확률변수(Random Variable) 결합확률(Joint pro... - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Probability in 5 Minutes - 조경현 교수 학습내용 사건집합(Event Set) : 모든 가능한 사건의 집합 Ω={e​1​​,e​2​​,⋯,e​D​​} 이벤트 갯수가 유한일때 : 이산(Descrete) 이벤트 갯수가 무한일때 : 연속(Continuous) 확률변수(Random Variable): 사건집합 안에 속하지만 정의되지 .. 2021. 3. 16.

티스토리툴바