[KISDI] 인공지능(AI)과 프라이버시의 역설 - AI 음성비서를 중심으로

 

 

 

 

*** 출처 : [KISDI] 인공지능(AI)과 프라이버시의 역설 - AI 음성비서를 중심으로 - 심홍진 연구위원

*** 문서 :

인공지능(AI)과 프라이버시의 역설_ AI 음성비서를 중심으로.pdf

 

 

 

 

2. 프라이버시, 인공지능의 딜레마

 

 

■ 인공지능에 기인한 경제, 사회적 풍요 이면에 존재하는 프라이버시 이슈

 

- 머신러닝 등 인공지능의 이점에도 불구, 머신러닝 기술이 수집하는 대량의 데이터로 인해 최종 이용자의 프라이버시 침해 가능성 증대

 

- 디바이스에 탑재된 인공지능을 통해 제조사가 디바이스 이용자의 데이터에 기술적 접근이 가능해지면서 프라이버시 영역의 잠재적 붕괴 시사

 

- 인공지능 디바이스 이용자가 보다 향상된 이용경험과 니즈를 요구할수록 이용자의 요구를 충족시키기 위한 제조사의 미필적 개인정보 이용 가능

 

- 최근 AI 음성비서(assistant 또는 speaker)의 대중화와 이용자와의 상호작용을 위해 상시 대기 상태인 음성비서의 특성상 이용자의 프라이버시도 상시 침해 받을 수 있는“프라이버시 로깅(privacy logging)” 환경 생성

 

*** 프라이버시 로깅은 이용자와 디바이스 간 상호작용 과정에서 이용자가 자신의 프라이버시를 무의식적으로(Unconsciously) 끊김없이(Seamless) 지속적으로 (Continuously) 디바이스에 기록(logging) 및 저장하는 현상

 

- 인공지능 디바이스로부터 획득한 민감한 개인정보의 활용, 수집된 정보에 대한 접근성의 정도, 허용 범위 등의 모호한 기준으로 프라이버시의 경계가 모호해지면서 프라이버시 침해와 보안위협 가중

 

- 실재로 AI 음성비서 이용자의 사적대화나 검색 내용을 도용한 광고 서비스가 출현하고, ‘음성 무단 점거’(voice squatting) 가능성이 증대하며, AI 음성비서와 연결되어 있는 금융, 쇼핑 등 생활 편의시스템이 확대됨에 따라 AI 음성비서 관련 시스템의 보안 등 유관 법제도 및 정책 마련 시급

 

*** 음성 무단 점거: AI 스피커를 호출할 때와 비슷한 단어를 명령어로 심어 악의적인 행동을 하도록 만드는 것으로 음성 무단 점거를 통해 은행 서비스를 가장한 피싱공격이나 뉴스채널로 위장해 가짜뉴스 방송 가능(남도영, 2018)

 

- 그러나 이러한 유형의 정보 프라이버시 보호 및 보완 관련 법적규제와 정책은 여전히 미흡할 뿐 아니라, 제조사의 데이터 수집 및 사용에 대한 지침도 불명확

 

 

 

■ AI 음성비서의 프라이버시(Waddel, 2018) 및 보안 이슈

 

- 2017년 이전 출시된 아마존 에코는 AI 음성비서를 해커가 직접 통제할 수 있을 만큼 보안에 취약하다는 지적을 받음

 

- 구글 홈 미니(Preview version)는 이용자 명령 없이 활성화되고, 이용자로부터 받은 명령 및 상호작용 내용을 구글에 보고 및 전송

 

- AI 음성비서는 인터넷과 상시 연결되어 있다는 측면에서 해킹에 구조적으로 취약하고, 이는 보안의 어려움을 시사

 

- 구글 서비스(검색, Gmail, 지도, 캘린더 등)를 개인정보 설정으로 정기적으로 사용하는 경우, 구글은 사용자의 위치, 근무지, 검색 내용 등을 취합, 해당 정보를 해석 및 활용 가능

 

- 에코나 미니의 어시스턴트 서비스는 AI 음성비서의 편의성을 높일 수 있으나 이용자 관점에서 이용자의 편의성 증대는 곧 거래된 개인정보의 양적 증가를 의미

 

- 또한 AI 음성비서는 심각한 보안노출취약점(Common Vulnerabilities and Exposures)이 개선되지 않은 채 유통

 

*** 아마존 에코에서 발견된 CVE 취약점은 324개, 구글 홈 454개, 두 제품 모두 심각한 보안 취약점으로 분류된 블루본(BlueBorne)과 크랙(KRACK) 등이 존재, 블루본 취약점은 악성코드를 감염시키고 중요 데이터를 빼돌릴 수 있음(김인순, 2018)

 

- AI 음성비서의 기능을 지속적으로 추가, 개발하면서 요구되는 디바이스의 작동방식이나 이용약관 마련 또한 제조사의 일방적 주도

 

 

 

■ AI의 그늘, 프라이버시 로깅(Privacy-logging)

 

- AI의 기술발전은 개인에게 다양한 편익을 제공하는 반면, 개인의 프라이버시가 디바이스에 의식하지 못한 순간(Unconsciously) 끊김없이(Seamless) 지속적으로(Continuously) 기록(logging), 저장될 수 있음

 

- AI 음성비서 이용자는 음성비서를 이용하면서 디바이스가 제공하는 단순한 편익을 위해 자신의 은밀하고 사적인 개인 정보를 부지불식간에 디바이스에 제공할 가능성이 큼

 

- AI 음성비서가 인간화(humanization)될수록 개인정보 제공에 대한 이용자의 저항감이 감소할 수 있으므로 이용자는 자신의 개인정보 공개를 의식하지 못한 채 지속할 수 있음

 

- AI 음성비서가 스마트홈 기기 등 다른 디바이스를 연결하는 인터페이스 역할을 하면서 디바이스 구분 없이 개인정보를 다양한 디바이스로부터 끊김없이 수집하는 프라이버시 플랫폼 환경 등장 가능

 

- AI 음성비서와 이용자 간 인터랙션은 상기한 여러 특징을 반영하여 개인의 프라이버시를 음성비서에 제공함으로써 디바이스 제조업체가 인터랙션을 통해 발생하는 개인정보를 기록, 검색하는 등 Privacy-logging의 반대급부를 누릴 수 있음

 

 

 

■ 상충관계(trade-off relationship)의 기울어진 운동장

 

- 음악을 재생하고 교통정보를 확인하고 물건을 구입하고 알람을 설정하고 농담을 하는 등 AI 음성비서 사용을 위해 이용자는 자신의 미디어 이용행태, 상품 구매 방식, 라이프 스타일 등 주요 개인정보를 과도하게 지불해야하는 상충관계의 불균형이 야기될 수 있음

 

- AI에 대한 이용자의 니즈(Needs)와 AI의 인간화(Humanization) 정도, 즉 휴머노이드 로봇화(humanoid Robot)가 본격화할수록 비대칭적 상충관계(Asymmetric trade-off relationship)의 강도 증가

 

 

***

ATR = NFAI * DOH

- 비대칭 상충관계의 강도(ATR): Asymmetric trade-off relationship
- 이용자의 AI 니즈(NFAI): Needs for AI
- 인간화 정도(DOH): Degree of humanization

***

 

 

 

■ IoT 환경과 프라이버시 로깅 확대 및 신규 위협요소

 

- 음성비서와 사물인터넷 기기가 정보를 주고받음으로써 인간과 AI개체의 대응이 인간과 AI 군집간 대응으로 확장되며, 디바이스 구분 없는 다차원적 프라이버시 로깅으로 전환할 수 있음

 

- AI 음성비서와 사물인터넷 기기의 정보 교환 과정에 개인정보 자기결정권을 이행하기 위한 이용자의 개입이 어려워 이용자의 통제권 저하

 

- 여기에 이용자의 미디어 이용행태까지 파악할 수 있는 행태정보를 AI가 군집단위로 수집할 수 있어 이용자의 습관, 성격, 행위 패턴을 분석하고 프로파일링(네이버, 20142))할 수 있는 신유형 프라이버시 로깅 등장 우려

 

- 따라서 AI 디바이스와 사물인터넷 기기간의 무차별적 연결보다는 연결로 인해 발생할 상충관계의 비대칭을 고려한 이용자, 디바이스 제조업자, 규제기관의 긴밀한 협업에 바탕을 둔 제도적 정비 필요