[iitp] 설명 가능한 AI 기술을 포함한 인공지능의 IP-R&D 전략

 

[설명 가능한 AI의 개념]

 

 

 

 

*** 출처: [iitp] 설명 가능한 AI 기술을 포함한 인공지능의 IP-R&D 전략 - 윤태승 한국특허전략개발원 전문위원

 

*** 문서:

file5661722389696809565-186501.pdf

 

 

 

 

 

■ XAI 개요

 

- 설명 가능한 인공지능(XAI)는 사용자가 인공지능 시스템의 동작과 최종 결과를 이해하고 올바르게 해석하여 결과물이 생성되는 과정을 설명 가능하도록 해주는 기술을 의미한다.

 

- XAI는 최근 우려되고 있는 강한 인공지능 및 인공지능이 인간을 넘어서는 시기에 대한 우려와는 별개로 인공지능의 투명성과 설명 가능성을 높여 인간에게 설득력 있는 데이터를 제공하기 위한 근본적인 접근 방식이다.

 

- 특히, 암진단과 같은 인간의 생명을 다루는 응용 분야에서 인공지능의 블랙박스 형태 결과만으로 판단한다는 것은 많은 리스크와 문제를 수반하기 때문에, XAI 기술은 사람에게 더욱 절실하고 중요한 이슈일 수 있다.

 

 

 

■ XAI 기반 기술 분류

 

 

 

 

- XAI 기술은 아직 기술적으로 충분히 성숙된 단계가 아니므로, XAI 기술을 구성할 것으로 예상되는 기술 요소들을 포함하여 XAI 기반 기술을 조사 대상으로 선정 함

 

 

 

○ XAI 기술 특허 동향

 

 

- XAI 기술의 분야별 및 국가별 특허 동향

 

 

 

 

 

 

 

- XAI 기술의 출원인별 출원 현황