[IITP] 인공지능 공정성 기준 연구 동향

[ 인공지능 대표 학회 NeurIPS의 논문들 중 공정성 및 편향 관련 논문 개수 ]

 

 

- 출처 : [IITP] 인공지능 공정성 기준 연구 동향 - 고기혁-한국과학기술원 팀장

 

 

I. 서론

 

- 인공지능 기술이 우리 삶에서 뗄 수 없는 필수불가결한 요소로 자리 잡고 성별, 나이 등의 민감 속성을 포함한 사회경제학적 데이터가 인공지능 서비스와 적극적으로 융합되어 활용되고 있는 만큼 인공지능 공정성 확보의 중요성은 점차 증대되고 있다.

 

II. 인공지능 공정성 기준과 분류

 

○ 인공지능 공정성 기준의 구성 요소

 

 

○ 인공지능이 이해할 수 있는 공정성은 수학적으로 명확히 정의되어 정량적인 평가가 가능해야 한다. 이에 따라 공정성 관련 연구들은 공정한 인공지능 모델이 지녀야 할 공정성 원칙을 먼저 수학적인 기준으로서 정의하고, 이러한 기준에 어긋나지 않는 모델을 공정한 인공지능으로써 규정한다. 공정성을 정의하는 다양한 공정성 원칙에 따라 지금까지 총 20개가 넘는 인공지능 공정성 기준이 제안되어 왔다.

 

○ 인공지능의 공정성 기준은 크게 두 가지 분류로 나뉜다. 바로 성별, 인종이나 나이 등 서로 다른 집단 구성원들 간의 공정성을 논하는 그룹 공정성(Group Fairness)과 개인마다의 공정성을 정의하는 개별 공정성(Individual Fairness)이다.

 

1. 통계적 정의로서의 공정성

 

- 공정한 인공지능은 성별, 인종 등의 민감 속성으로 구분된 서로 다른 집단을 동등하게 (혹은 유사하게) 취급하며, 그 결과로서 인공지능이 내리는 판단은 각 집단에서 (통계적으로) 크게 차이 나지 않을 것이다. 이러한 통찰에서 파생된 통계적 공정성은 서로 다른 집단에서 인공지능 판단에 대한 통계 수치가 같거나 비슷해야 한다는 기준을 내세운다.

 

- 통계적 공정성은 성별, 인종 등의 민감 속성으로 분리된 집단 간의 공정성을 규정하므로 민감 속성 이외의 비민감 속성은 일절 고려하지 않는다. 이에 따라 통계적 공정성 기준을 만족시키기 위해 실제로 사회경제적으로 보다 더 능력 있는 구성원이 부당한 처우를 받게 되는 결과를 초래할 수 있다.

 

2. 유사성 기반 공정성

 

- 개인간 유사성 기반의 인공지능 공정성은 개인의 민감 속성과 관계없이 비민감 속성이 동일하거나 유사하다면 인공지능의 판단 역시 동일하거나 유사해야 한다고 규정한다.

 

3. 인과적 정의로서의 공정성

 

- 인공지능 입출력만을 살펴보는 것이 아니라 인공지능 모델이 판단을 내리는 과정에 민감 속성이 어떤 인과적 역할을 하였는지를 분석함으로써 공정성을 판단한다.

 

○ 인공지능 공정성 기준

 

 

III. 인공지능 공정성 기준 연구의 한계점

 

1. 상충하는 공정성 기준

2. 공정성 기준 만족의 어려움

3. 절차적, 상호작용 공정성과 형평성

- 본래 공정성을 사회과학 분야에서 연구하고 있는 연구자들에 따르면 공정성은 크게 분배적, 절차적 그리고 상호작용 공정성의 세 가지 종류로 나뉜다. 분배적 공정성은 자원이 올바로 분배되었는지, 절차적 공정성은 의사결정의 절차가 공정하였는지 그리고 상호작용 공정성은 의사결정 단계에서 구성원들 간 태도에 따라 공정한 대우를 받았는지를 각각 규정한다. 인공지능 공정성의 경우 대부분 수학적으로 정의할 수 있는 분배적 공정성에 국한되어 있어 절차적 및 상호작용 공정성에 관한 후속 연구가 필요하다.

4. 편향 이슈