[iitp] 무인 자율운전차량의 핵심 쟁점 트롤리 문제, 동서양의 답은 다르다

 

[자율운전 모드에서 발생한 사고의 충돌 유형]

 

 

 

 

*** 출처: [iitp] 무인 자율운전차량의 핵심 쟁점 트롤리 문제, 동서양의 답은 다르다

*** 문서:

file6134524522630917445-187303.pdf

 

 

 

 

■ 자율운전차량 사고 건수는 2017년의 두 배 가량

 

- 2014~2018 캘리포니아주에서 발생한 자율운전차량 연루 사고 건수 추이

 

 

 

 

 

 

- 자율운전차량 연루 사고의 기업별 보고 건수

 

 

 

 

 

 

- 보고된 사고에는 "자율운전 모드(autonomous Mode)"에서 일어난 것(36건, 61%/전체)과 "수동운전 모드(Conventional Mode)"에서 일어난 것(23건, 39%/전체)이 모두 포함

 

- 자율운전 모드에서 일어난 사고는 모두 '받힌' 것이며 자율운전차량에 오류가 있어 사고가 발생한 건수는 보고되지 않았음

 

- 실제 보고서 내용을 토대로 자율운전 모드에서 일어난 사고의 내용을 분류해 보면 ‘추돌’이 20건(56%)으로 가장 많았고, 그 다음으로 “추월 접촉”이 7건(19%)이었는데, 이는 자율운전 AI가 인간 드라이버와 다른 행동을 했기 때문에 사고가 유발되었을 가능성을 시사함

 

- 그러나 현재로서는 자율운전차량이 연루된 사고의 근본 원인이 정확히 무엇인지 단정하기 어려운 상태이므로 사고 건수와 자율운전의 기술 수준의 상관관계는 신중히 접근할 필요가 있음

 

 

 

■ 웨이모의 사고 사례

 

- 지난 2018년 6월 웨이모는 현재 자율운전 기술의 한계를 보여주는 사고를 일으켰는데, 웨이모 차량이 원인이 된 이 사고는 실은 AI의 운전을 감시하는 “안전 드라이버(back-up driver)”가 고속도로 주행 중에 졸면서 실수로 액셀을 밟았기 때문에 발생하였음

 

- 드라이버가 액셀을 밟자 AI는 이를 운전 권한을 넘겨달라는 것으로 인식했고, 자율운전 모드가 긴급 해제된 자동차는 컨트롤을 잃고 중앙 분리대를 들이받게 된 것임

 

- 이 사고는 사람이 운전에 관여하는 것이 오히려 더 사람을 위험에 빠뜨릴 수 있음을 보여준 것으로, 자동차 사고를 없애기 위해서는 사람을 운전대에 앉게 해서는 안 된다는 자율운전차 개발의 최초 아이디어를 되돌아보게 만드는 계기가 되었음

 

 

 

■ 트롤리 문제(Trolley Problem)

 

- 자율운전차량이 사고를 피할 수 없는 상황에 빠졌을 때 누구를 구하고 누구를 희생할 것인가의 문제

 

 

 

■ MIT 미디어 랩에서는 이 트롤리 문제를 일반화하여 전세계적인 여론 조사를 실시함으로써 각 나라의 사람들 사이에 공통된 의견과 차이가 보이는 부분을 연구

 

- 도덕적인 기계 실험은 개방형 크라우드소싱 방식으로 진행되었으며, 4년 동안 세계 233개국에서 100만 명 이상으로부터 답을 얻어 세계 최대 규모의 트롤리 문제 여론조사 도구가 되었음

 

- 전세계 사람 누구나 도덕적인 기계 사이트(http://moralmachine.mit.edu/)에 접속하여 13가지의 경우 각각에 대해 자율운전차량이 어떤 조치를 취해야 할 것으로 생각하는지를 투표할 수 있었음

 

- 도덕적인 기계실험에서 제시되는 13가지 상황의 예(실험자마다 각기 다른 13가지 상황 제시)

 

 

 

 

 

- 도덕적인 기계실험의 결과 나타난 선택의 우선 순위

 

 

 

 

 

■ 흥미로운 결과는 자율운전차량에 요구하는 윤리적 행동은 국가마다 특성이 있다는 것

 

- MIT 미디어 랩은 국가별 특성을 분류하여 전세계를 크게 Western(미국과 유럽), Eastern(아시아), Southern(남미 등) 등 세 그룹으로 나누었음

 

- 권역별로 다르게 나타난 도덕적인 기계 실험의 결과

 

 

 

 

 

 

■ MIT 미디어 랩의 연구는 국가별로 윤리적 행동에 대한 공감대 조성 노력이 필요함을 시사

 

 

▸ 도덕적인 기계 실험의 결과를 자율운전차량 기술에 구현하기까지는 해결해야 할 과제가 적지않은데, 가령 컴퓨터 비전이 보행자의 성별이나 연령 및 복장 등을 판정할 수는 있지만 자율운전차량의 센서가 이를 즉시 100%의 정확도로 판정하는 것은 아직 어려움

▸ 또한, 교통사고는 물리적 현상들이 복잡하게 얽혀 누가 사망할 것인가라는 예측에는 한계가 있을 수밖에 없고 부상의 정도도 간단히 생각할 수 없는 부분임

▸ 따라서 기술 구현의 첫 번째 단계는 간단한 모델에서 고찰을 시작하는 것인데, 현재는 애완동물이 아니라 사람을 먼저 구하게 하는 기술 정도가 개발에 들어가 있는 상태임

▸ 트롤리 문제는 아직은 좀 먼 이야기로 들릴 수도 있지만, 안전 운전자가 탑승하지 않는 무인자율운전차량이 이미 주행을 시작했고 이는 자동차의 알고리즘이 특정 사람의 생명을 구하는 판단을 내리게 되었음을 의미함

▸ 어차피 지금의 교통사고에도 우연의 요소가 많으니 자율운전차량이 어떻게 선택하든 그냥 복불복으로 받아들이자는 사람들도 있으나, 인간의 생사를 알고리즘이 결정하는 것에 생리적 거부감을 가지고 자율운전차량에 위화감을 느끼는 사람들도 많이 있음

▸ 이런 불안이나 위화감을 해소하기 위해서는 우선 자율운전차량의 기술 안전성이나 사고를 선제적으로 방지하는 방법들을 명확히 설명해야 할 것이며, 궁극적으로는 어떤 기준 하에 알고리즘이 선택한 것인지에 대해 공개하라는 사회적 압력에 직면할 가능성도 있음

▸ 그러나 알고리즘 로직 공개는 현실적으로 사고 발생 시 책임 소재와 직결되는 민감한 사항이어서 제조업체, 소프트웨어 개발업체, 보험회사 등이 절대 공개하지 않을 것이므로 이를 둘러싼 논쟁들이 아마도 치열하게 전개될 것임

▸ 새로운 기술을 서비스로 정착시키기 위해선 이런 산통을 반드시 겪게 될 것이며, 특히 국가마다 무엇이 윤리적 행동인지에 대한 기준이 다르다는 MIT 미디어 랩의 연구 결과는 윤리적인 측면에서 자율운전차에 대한 사회적 논의가 조속히 개시될 필요가 있음을 시사하고 있음