본문 바로가기

비용함수3

[edwith] 딥러닝을 이용한 자연어 처리 : Optimization methods(최적화 방법) - 조경현 교수 [LECTURE] Optimization methods : edwith 학습목표 비용함수를 최적화 시키는 방법을 학습합니다. 핵심키워드 최적화(Optimization) - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Optimization methods(최적화 방법) - 조경현 교수 학습내용 Loss 는 비순환그래프(DAG)를 거쳐 계산됩니다. 가설이 무수히 많기 때문에 모든 것을 다 시도해보고 최적인 것을 고를 수가 없습니다. 따라서, 일단 아무 곳을 선택한 후에 Loss 를 낮추는 방향으로 최적화를 진행합니다. 방법: Local, Iterative Optimization: Random Guided Search 장점: 어떤 비용함수를 사용해도 무관합니.. 2021. 3. 16.
[edwith] 딥러닝을 이용한 자연어 처리 : Loss Function(비용함수) - 조경현 교수 [LECTURE] Loss Function : edwith 학습목표 지도학습에서 비용함수의 정의를 학습합니다. 핵심키워드 지도학습(Supervised Learning) 비용함수(Loss Function) 최대 우도 추정(Maximum Li... - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Loss Function(비용함수) - 조경현 교수 학습내용 지도학습은 Input(x) 값을 넣었을 때 Output(y) 값을 산출 하는 것입니다. 하지만 조금만 다르게 생각해서, Input(x) 값이 주어졌을 때 의 Output(y) 값이 y’ 일 확률을 구하는 것으로 생각할 수 있습니다. f​θ​​(x)= ?→p(y=y​′​​∣x)= ? 어떤 확률 분포들이 있을.. 2021. 3. 16.
[edwith] 딥러닝을 이용한 자연어 처리 : Loss Function - Preview(비용함수) - 조경현 교수 [LECTURE] Loss Function - Preview : edwith 학습목표 비용함수를 어떻게 정할지 고민해봅니다. 핵심키워드 비용함수(Loss Function) 확률 분포 기반(distribution-based) - 커넥트재단 www.edwith.org - 출처: [edwith] 딥러닝을 이용한 자연어 처리 : Loss Function - Preview(비용함수) - 조경현 교수 학습내용 다양한 비용함수는 어떻게 정의되고, 어떤 상황에서 어떤 비용함수를 사용해야 할까요? 이 수업에서는 확률 분포에 따라서 자연스럽게 비용함수를 정의 하는 방법을 배웁니다. 2021. 3. 16.