Avoiding Negative Side Effects1 [NIA] 인공지능 Kill Switch 관련 해외 동향 ■ 로봇과 Kill Switch 1. 로봇 활동 중단을 위한 Kill Switch □ Kill Switch - 스마트 머신이 스스로 자신을 통제하는 경우를 대비해 인간에게 이를 통제할 다른 방법이 필요하다는 개념 - 기기/장비가 오류, 작동권한의 변동, 기타 내/외부적인 변화를 불문 ①소유자/관리자 등에 대하여 손해를 야기할 우려가 있거나 ②다른 권한이 없는 자에 의하여 통제되는 경우 ③단순히 초기화하여야할 필요가 있는 경우 물리적으로 그 기기/장비를 파괴, 초기화 등을 하기 위한 시스템 도구 또는 그러한 기능 - Big Red Button, Safely Interruptible Agents 등으로 표현 □ 로봇과 AI의 실제적 문제들 - 최근 구글Brain, 오픈AI, 스탠포드/버클리대 등의 연구진은 .. 2017. 4. 20. 이전 1 다음
