[KISDI: 이원태] EU의 알고리즘 규제 이슈와 정책적 시사점

[이미지 출처: show-Me Institute]

 

최근 인공지능 기술ㆍ서비스가 크게 확산되면서 정보의 생산과 유통 주체가 사람이 아닌 인공지능 알고리즘에 의해 가능해지기 시작했다. 그런데 인공지능의 산업적 편익 못지 않게 그것에 대한 반작용으로 인공지능의 기술적ㆍ사회적 부작용이나 역기능에 대한 규범적 대응, 예컨대 ‘알고리즘 책무성(algorithmic accountability)’ 또는 ‘알고리즘 투명성(algorithmic transparency)'을 규범화하려는 논의도 활발하게 전개되고 있다.

논의의 출발점은 인공지능 알고리즘이 공정하고 중립적인 것이 아니라 특정한 알고리즘의 선택이나 알고리즘 기반의 의사결정이 차별적 ㆍ배제적인 결과를 초래한다는 데 있다.

알고리즘규제 (algorithmic regulation)와 관련한 본격적 논의는 최근 유럽연합 (EU)의 ‘개인정보보호규정(GDPR: General Data Protection Regulation)’이 알고리즘 투명성(algorithmic transparency)과 관련해서 프로파일링 (profiling) 등 자동화된 개인적 의사결정에 대해 ‘설명을 요구할 권리 (right to explanation)’를 적극 포함한 데서 비롯되었다.

 

 

 

○ GDPR에서 나타난 알고리즘 규제의 주요 내용

1. 프로파일링(profiling) 등 자동화된 개인 의사결정(제22조)

-GDPR의 제22조는 ‘프로파일링을 포함한 자동화된 개인 의사결정(automated individual decision-making, including profiling)’에 관한 규제로 어떻게 데이터를 수집, 저장할 것인지를 다룸

-이 규제는 추천 시스템, 신용ㆍ보험 손해자산, 컴퓨터 기반 광고, SNS 등에서 광범위하게 쓰이는 알고리즘의 범위를 금지하는 내용을 포함하고 있어 알고리즘 규제의 핵심 이슈로 급부상

 

2. 설명을 요구할 권리(제13~15조)

-GDPR의 ‘설명을 요구할 권리’는 유럽인들에게 어떻게 특정 서비스가 특정 알고리즘 결정을 만드는지에 대한 개인(정보제공자)의 선택권을 부여한다는 것임

-이를 구체화하면, 데이터 프로세서들이 정보주체들에게 언제 그리고 왜 데이터를 모으고 처리하는지를 알려야 한다고 규정(제13조)

-또한 정보주체로부터 취득하지 않을 때 제공되어야 할 정보를 규정 하는데, 이는 정보주체의 권리행사를 위해 투명한 정보와 더불어 ‘견고하고 지능적이며 쉬운 형식’의 의사소통을 요구하는 것이라고 볼 수 있음(제14조)

 

○ 정책적 시사점 및 전망

1. EU 회원국의 정책에 미치는 영향

-GDPR은 유럽 전체에 적용되는 단일법(One Continent, One Law)이므로 28개 회원국의 기업들 역시 이의 적용을 받을 것이며, 그에 따른 경제적 이익은 약 230억 유로에 달할 것으로 추정

 

○ 알고리즘 투명성 제고를 위한 대안의 모색

-알고리즘 자체는 인간의 창조물이기 때문에 그 설계에 영향을 미친 주체와 목적(책임성)을 반드시 고려해야 하고 그런 점에서 투명성은 그 대안으로 제시될 수 있음(Diakopoulos, 2015)

-‘알고리즘 투명성’을 제고하는 데는 ‘인간 에디터(human editor)’와 같이 사람이 직접 관여(감시)하는 방식, 다수의 사람들이 ‘집단지성(collective intelligence)’으로 규제하는 방식, 알고리즘 및 기계학습을 통한 기술적 해결 등이 있음(Woolf, 2016)

 

** 문서원본

EU의 알고리즘 규제 이슈와 정책적 시사점.pdf