AI 책임 격차를 다룬 보고서 (사진=NTT DATA)
[뉴스토마토 임삼진 객원기자] 글로벌 디지털 비즈니스 혁신기업인 NTT DATA가 지난 주 발간한 보고서 'AI 책임 격차: 리더십이 관건인 이유(The AI Responsibility Gap: Why Leadership is the Missing Link)'는 기업들이 AI를 도입하기 위해 경쟁하고 있지만 책임의 격차로 인해 발전이 저해될 위험에 처해 있다는 우려를 표명했습니다. 세계 기업 경영진의 80% 이상이 리더십, 거버넌스, 인력 준비도가 AI의 발전 속도를 따라가지 못하고 있어서, 투자, 보안, 대중의 신뢰가 위험에 처하고 있다고 인식하고 있습니다.
이 보고서는 NTT DATA의 의뢰를 받아 직소 리서치(Jigsaw Research)가 북미, 유럽, 아시아 태평양, 라틴 아메리카, 중동 및 아프리카 34개국 2300여명의 최고 경영진과 의사결정권자를 대상으로 실시한 설문조사를 분석한 결과를 담고 있습니다. 응답자의 98%는 생성형 AI 구매 결정에 직접적인 권한이나 영향력을 가지고 있다고 이 보고서는 밝히고 있습니다. 주요 분석결과는 다음과 같습니다.
▲혁신인가 책임인가에 대한 인식: 책임 격차는 AI 혁신의 엄청난 속도와 이를 책임감 있게 관리하는 데 필요한 시스템 및 프레임워크 사이의 격차입니다. 최고 경영진은 이 균형이 어디에 있어야 하는지에 대해 서로 의견이 나뉘어있습니다. 최고 경영진 중 3명 중 1명 이상이 혁신보다 책임이 더 중요하다고 말합니다. 3명 중 1명은 혁신이 더 중요하다고 말하고, 나머지는 혁신과 책임이 똑같이 중요하다고 말합니다. 최고 경영진 중 60%가 혁신과 책임 사이의 격차가 크다고 말합니다. 조직의 80%가 생성형 AI 혁신과 윤리적, 도덕적 책임의 균형을 맞추는 리더십 지침이 매우 중요하다고 답했으며, 투자 규모가 증가할수록 이 지침을 중시하는 조직의 수가 증가합니다.
▲정부 규제의 불확실성에 대한 불만: 전체 응답자의 10명 중 8명 이상이 정부 규제가 명확하지 않다고 답했으며, 이는 혁신을 저해하고 투자를 방해한다고 답했습니다. 대부분은 생성형 AI 관련 규제 준수에 대한 지출이 증가할 것으로 예상했습니다.
▲잠재적 보언 위험에 대한 우려: 최고 경영진의 89%가 생성형 AI 배포와 관련된 잠재적 보안 위험에 대해 매우 우려하고 있으며, CISO 중 24%만이 조직이 위험과 가치 창출 간의 균형을 맞추기 위해 강력한 프레임워크를 따르고 있다는 데 강하게 동의합니다.
▲지속가능성 목표와 충돌: 응답자의 4분의 3은 생성형 AI의 야망이 지속가능성 목표와 충돌하거나 부정적인 영향을 미치고 있으며, 많은 조직이 생성형 AI 투자로 인해 저에너지 솔루션에 더 집중하게 되었다고 응답했습니다.
▲준비되지 않은 인력: 응답자의 67%는 직원들이 AI를 효과적으로 활용하는 기술이 부족하다고 답했고, 72%는 책임감 있는 사용을 안내하는 AI 정책이 마련돼 있지 않음을 인정했습니다.
NTT DATA의 보고서는 이들 조사 결과를 토대로 책임을 고려한 설계(Responsible by Design) 원칙, 거버넌스 요구 충족, 인력 준비. AI 정책에 대한 글로벌 협업 등 네가지를 대안으로 제시했습니다. 생성형 AI를 포함한 AI는 처음부터 끝까지 모든 부분에서 책임감 있게 구축돼야 하며, 개발 첫날부터 보안, 규정 준수 및 투명성을 통합해야 합니다. 기업 리더들은 법적 요건을 넘어서 체계적인 접근 방식을 통해 AI 윤리 및 사회적 기준을 충족하는 거버넌스 요구를 충족해야 합니다. 조직은 AI와 함께 일할 수 있도록 직원의 직무 능력을 향상하고, 팀이 AI의 위험과 기회를 이해하고 있도록 해야 지원해야 합니다. AI 정책에 대한 글로벌 협업을 위하여 기업, 규제 기관, 업계 리더가 함께 모여 보다 명확하고 실행 가능한 AI 거버넌스 프레임워크를 만들고 글로벌 AI 표준을 수립해야 합니다.
AI가 일상생활의 일부가 됨에 따라 책임과 혁신의 균형을 맞추는 것은 리더, 조직, 사회 전체에 있어 도덕적 의무이자 전략적 필요성이 되고 있습니다. 이 보고서에 따르면 현재 최고 경영진의 40%가 빠른 기술 발전을 달성해야 한다는 압박을 받고 있습니다. AI의 미래는 기술이 무엇을 할 수 있는지에 관한 것뿐만 아니라 누가, 어떻게 그것을 사용하는지에 관한 것입니다. 명확한 리더십이 없다면, 책임의 격차가 책임감 있는 AI와 생성형 AI 개발을 방해할 수 있습니다. 이로 인해 이 분야에 대한 투자가 낭비되고 실험에서 실행에 이르는 과정이 지연될 수 있습니다. 전 세계적으로, 이 격차는 보안, 평등, 지속 가능성, 기후 문제와 관련된 부수적 피해를 야기할 위험이 있습니다.
NTT DATA CEO인 아비지트 두베이(Abhijit Dubey)는 “AI는 기술, 문제 해결, 창의성 분야에서 전례 없는 기회를 창출하면서 세상을 혁신하고 있다. 그러나 이처럼 빠른 혁신 속도는 다음과 같은 중요한 질문을 제기한다. AI의 막대한 잠재력을 어떻게 책임감 있게 활용할 것인가? AI에 대한 열정은 부인할 수 없지만, 이번 연구 결과는 책임감 없는 혁신은 위험 승수가 된다는 사실을 보여준다. 조직은 발전이 정체되고 신뢰가 약화되기 전에 이러한 격차를 줄이기 위해 리더십이 주도하는 AI 거버넌스 전략을 세워야 한다”라고 말했습니다.
AI의 막강한 영향력이 커지고 있습니다. 적절한 리더십으로 대처해서 혁신과 책임의 균형을 확보하여 AI가 사회 전체에 골고루 이익을 줄 수 있도록 해야 할 것입니다.
임삼진 객원기자 isj2020@kosns.com