최적화5 [데이터 사이언스 스쿨] math 5.3 선형계획법 문제와 이차계획법 문제 ● 선형계획법 문제 방정식이나 부등식 제한 조건을 가지는 선형 모형(linear model)의 값을 최소화하는 문제를 선형계획법(Linear Programming) 문제라고 한다. LP 문제라고도 한다. ● 이차계획법 문제 방정식이나 부등식 제한 조건을 가지는 일반화된 이차형식(quadratic form)의 값을 최소화하는 문제를 이차계획법(Quadratic Programming) 문제라고 한다. QP 문제라고도 한다. - 출처 : [데이터 사이언스 스쿨] math 5.3 선형계획법 문제와 이차계획법 문제 2021. 5. 3. [데이터 사이언스 스쿨] math 5.2 제한조건이 있는 최적화 문제 제한조건은 연립방정식 또는 연립부등식이다. 연립방정식 제한조건이 있는 경우에는 라그랑주 승수법을 사용하여 새로운 최적화 문제를 풀어야 한다. 연립부등식 제한조건의 경우에는 KKT 조건이라는 것을 만족하도록 하는 복잡한 과정을 거쳐야 한다. - 출처 : [데이터 사이언스 스쿨] math 5.2 제한조건이 있는 최적화 문제 2021. 5. 3. [데이터 사이언스 스쿨] math 5.1 최적화 기초 ● 최적화 문제 최적화 문제는 함수 f의 값을 최대화 혹은 최소화하는 변수 x의 값 x* 를 찾는 것 이 값 x*를 최적화 문제의 해(solution)라고 한다. 이때 최소화하려는 함수 f(x)를 목적함수(objective function), 비용함수(cost function), 손실함수(loss function) 오차함수(error function) 등으로 부른다. 기호로는 각각 J,C,L,E로 표기하는 경우가 많다. ● 그리드 서치(grid search)와 수치적 최적화(numerical optimization) - 그리드 서치 : 목적함수의 값을 가장 작게 하는 x의 위치를 찾기 위하여 가능한 x의 값을 여러개 넣어 보고 그중 가장 작은 값을 선택하는 것 - 수치적 최적화 : 반복적 시행 착오(tr.. 2021. 5. 3. [K-ICT 빅데이터센터] 파이썬 텐서플로우(v1.x) 딥러닝 Ch12. 깊은 신경망을 위한 딥러닝 학습-최권택교수 1. 기울기 소실 문제 2. 기울기 소실을 위한 활성화 함수 3. 효과적인 가중치 초기화 4. 학습 수렴 속도 최적화 5. TensorFlow를 이용한 실습 ★ 강의자료, 소스코드 다운받기 : https://kbig.kr/portal/kbig/datacube/... - 출처: [K-ICT 빅데이터센터] 파이썬 텐서플로우(v1.x) 딥러닝 Ch12. 깊은 신경망을 위한 딥러닝 학습-최권택교수 2021. 4. 24. 이전 1 2 다음
