인공지능(AI)은 어떻게 산업의 미래를 바꾸는가: 지능형 조직으로 나아가기 위한 새로운 과제

[ AI는 보다 연결된 조직을 요한다 ]

*** 출처: MIT SMR CONNECTIONS "인공지능(AI)은 어떻게 산업의 미래를 바꾸는가: 지능형 조직으로 나아가기 위한 새로운 과제" - SAS

1. 지능형 조직 구축

"AI는 장기적인 철학이 필요합니다...AI 구현으로 성공을 꿈꾸는 조직이라면 장기적인 안목을 가져야 하고, AI 구현으로 상당한 경쟁 우위를 점할 수 있다는 것과 장기적인 투자가 필요하다는 것을 이해해야 합니다. 그 밖의 모든 것은 무용지물입니다." - Ray Wang, Constellation Research

■ AI 추진에서 CEO의 역할

- AI의 추진에는 상부의 의지가 핵심

- 리더십은 행동하는 동시에 모범을 보여야 함

- 리더들은 비즈니스의 방향과 AI가 문제 해결에 어떻게 도움이 될지를 고민해봐야 함

"나는 공급망을 개선할 것이고, 그러기 위해 AI를 활용할 거야"에 초점을 맞추는 겁니다. - Guerra, Accenture

■ 상향식 AI 이니셔티브 지원

- AI를 채택해서 장기적으로 긍정적인 영향을 미치기 위한 가장 좋은 시나리오는 리더십 지원과 실무진의 열정이 균형을 이루어야 - Ray Wang

■ AI는 데이터 중심 리더십을 원한다

- AI를 활용하려면 데이터를 주요 자산으로 관리하려는 경영진의 의지가 필요

"데이터를 기업 자산으로 여긴다는 것은 데이터가 어디에 있으며, 기업의 사명 또는 목표를 이루기 위해 그 데이터를 어떻게 사용해야 할지 아는 전담 직원이 있다는 의미입니다." - Melvin Greer, Intel의 아메리카 담당 수석 데이터 과학자

"전략적으로 우리 회사의 목표는 무엇인가? 어떤 문제를 해결하고 싶은가? 등의 질문으로 이끌어 가는 것이 중요했습니다. 데이터 수집부터 시작하자라고 말하는 건 최선이 아닐 수 있습니다." - Rob Stillwell, SEACOAST Bank

■ AI는 어떻게 조직의 변화를 주도하는가

- AI는 보다 연결된 조직을 요한다

- AI와 데이터 사이언스의 역량이 중앙에 집중되어야 이점을 얻을 수 있다고 보는 의견도 있다

2. AI 구동을 위한 인력 기술 구축

■ AI 도입이 IT 리더십에 미치는 영향

- AI 애플리케이션의 이점을 실현시키는 데 핵심인 기술 역량은 클라우드/데이터 센터 인프라, 사이버 보안, 데이터 관리 및 개발 프로세스, 워크플로우 등

- CIO와 임원급 기술 리더들은 이러한 역량을 향상하기 위한 계획을 가지고 있어야 함

- AI는 소프트웨어 개발 및 배포 방식을 바꾼다

- AI와 머신 러닝 모델을 끊임없이 재평가해야 함

"이것은 일반적인 소프트웨어 프로젝트와는 약간 다릅니다. 심지어 배포 후에 인간과 소프트웨어의 상호작용이 변할 수 있기 때문이죠. 그리고 그 경우에, 원래 갖고 있던 모델이 구식이 되는 겁니다. - Linda Zeger, Auriral LLC

■ 데이터는 어떻게 소프트웨어 개발 관행에 영향을 미치는가

- AI 프로젝트를 논의 할 때 기술 전문가들이 비즈니스에 관해 더 잘 알아야 하는 것처럼, 비즈니스 전문가들은 기술이 작용하는 방식을 이해해야 함

- IT 분야 리더들이 비즈니스 동료들의 질문, 즉 기술 기능과 데이터, 그리고 그것들을 지원하는 컴퓨팅 아키텍처에까지 이르는 질문에 세부적으로 답할 수 있어야 함

■ 조직의 데이터 관리 책임 공유

- 데이터 거버넌스

3. AI는 어떻게 신뢰와 리스크에 관여하는가

■ 새로운 위험은 새로운 위험 관리 구조를 요한다

- 특히 모델이 어떻게 기능하고, 어떻게 편향을 완화하며, 어떻게 의도치 않은 결과를 예측하는지 이해하고 검증해야 함

"우리는 규제 기관 담당자 앞에서 우리의 모델과 우리가 내린 결정을 방어할 수 있어야 합니다. 그런 일은 실제로 자주 일어나거든요. 그래서 이렇게까지 하지 않을 수가 없습니다." - Eric Monteiro, SUN LIFE

- 모델의 범위, 한계, 적절하거나 부적절한 사용 및 정확성, 그리고 모델과 사용자 간 상호작용에 관한 참고 사항 등이 포함된 AI 프로젝트에 관한 문서 유지는 리스크를 완화하는 중요한 방법

■ 설명 가능성의 탐구

- 설명 가능성은 불법적인 편견 없이 결정을 내려야 하는 고용이나 신용보증 같은 활용케이스에서 규제 준수를 위해 중요

"누군가 보험을 신청했는데 승인을 받지 못했다면, 우리는 그 이유를 규제 기관에 설명할 수 있어야 합니다."

- 설명 가능성은 모델이 기능하는 방법과 왜 그것이 비즈니스 이해 관계자들에게 특정한 것을 권장하는 지 볼 수 있게 함으로써 AI에 대한 신뢰를 내부적으로 구축하는 데 일정 역할을 함

■ AI가 윤리 문제를 화두에 올리다

■ 편향 완화를 위한 노력