본문 바로가기

Python409

[데이터 사이언스 스쿨] math 5.2 제한조건이 있는 최적화 문제 제한조건은 연립방정식 또는 연립부등식이다. 연립방정식 제한조건이 있는 경우에는 라그랑주 승수법을 사용하여 새로운 최적화 문제를 풀어야 한다. 연립부등식 제한조건의 경우에는 KKT 조건이라는 것을 만족하도록 하는 복잡한 과정을 거쳐야 한다. - 출처 : [데이터 사이언스 스쿨] math 5.2 제한조건이 있는 최적화 문제 2021. 5. 3.
[데이터 사이언스 스쿨] math 5.1 최적화 기초 ● 최적화 문제 최적화 문제는 함수 f의 값을 최대화 혹은 최소화하는 변수 x의 값 x* 를 찾는 것 이 값 x*를 최적화 문제의 해(solution)라고 한다. 이때 최소화하려는 함수 f(x)를 목적함수(objective function), 비용함수(cost function), 손실함수(loss function) 오차함수(error function) 등으로 부른다. 기호로는 각각 J,C,L,E로 표기하는 경우가 많다. ● 그리드 서치(grid search)와 수치적 최적화(numerical optimization) - 그리드 서치 : 목적함수의 값을 가장 작게 하는 x의 위치를 찾기 위하여 가능한 x의 값을 여러개 넣어 보고 그중 가장 작은 값을 선택하는 것 - 수치적 최적화 : 반복적 시행 착오(tr.. 2021. 5. 3.
[데이터 사이언스 스쿨] math 4.1 함수 ● 함수(function) 함수(function)는 입력 값을 출력 값으로 바꾸어 출력하는 관계(relationship)를 말한다. 맵(map), 매핑(mapping), 또는 딕셔너리(dictionary)이라는 용어를 사용하기도 한다. 어떤 입력 값과 출력 값이 함수 관계를 이루기 위해서는 같은 입력 값에 대해서 항상 같은 출력 값이 나와야 한다. 함수에서 입력변수가 가질 수 있는 값의 집합을 정의역(domain), 출력변수가 가질 수 있는 값의 집합을 공역(range)이라고 한다. ● 연속과 불연속 함수의 값이 중간에 갑자기 변하는 것을 불연속(discontinuous)이라고 하고 그렇지 않으면 연속(continuous)이라고 한다. ● 지시 함수(indicator function) 함수 이름에 아래 .. 2021. 5. 3.
[데이터 사이언스 스쿨] math 3.4 특잇값 분해 N×M 크기의 행렬 A를 3개의 행렬의 곱으로 나타내는 것 여기에서 U,Σ,V는 다음 조건을 만족해야 한다. 대각성분이 양수인 대각행렬이어야 한다. 큰 수부터 작은 수 순서로 배열한다. U는 N차원 정방행렬로 모든 열벡터가 단위벡터이고 서로 직교해야 한다. V는 M차원 정방행렬로 모든 열벡터가 단위벡터이고 서로 직교해야 한다. 위 조건을 만족하는 행렬 Σ의 대각성분들을 특잇값(singular value), 행렬 U의 열벡터들을 왼쪽 특이벡터(left singular vector), 행렬 V의 행벡터들을 오른쪽 특이벡터(right singular vector)라고 부른다. - 출처: [데이터 사이언스 스쿨] math 3.4 특잇값 분해 2021. 4. 30.