Sumsub 조사에 따르면 94% 홍콩 기업이 AI 에이전트를 도입했으나, 단 36%만이 의사결정 증거를 제공할 수 있는 것으로 나타났습니다.

Sumsub 최근 발표한 《Sumsub 아시아 태평양 지역 디지털 신뢰 현황: AI 거버넌스 기준 보고서》에 따르면, 94%의 홍콩 기업이 이미 다단계 AI 시스템을 적용하거나 시험 운영 중입니다. 그러나 단지 36%의 기업만이 AI의 의사 결정 과정을 설명할 수 있는 신뢰할 수 있고 변경 불가능한 기록을 제공할 수 있어, 기업들이 AI 거버넌스 측면에서 여전히 중대한 도전에 직면해 있음을 보여줍니다.

AI 응용의 현황과 도전

보고서는 AI 에이전트의 능력이 지속적으로 향상됨에 따라, 기업들이 인간의 직접적인 감독 없이 AI 의사 결정의 적용을 가속화하고 있다고 지적합니다. 그러나 이는 의사 결정 과정의 추적 가능성이 부족해져 규정 준수, 운영 및 고객 신뢰 측면에서의 위험을 증가시키고 있습니다. 연구에서 언급된 '책임 비대칭 문제'는 기업이 AI 의사 결정에서 책임을 지는 능력이 부족하여 규제 기관이나 고객에게 AI가 어떻게 결정을 내리는지 명확히 설명할 수 없음을 반영합니다.

보고서의 주요 발견

조사에 따르면, 홍콩 기업의 AI 거버넌스 성과는 아시아 태평양 지역의 다른 국가들과 비교할 때 몇 가지 두드러진 특징이 있습니다:

• AI 응용 범위 확대: 95%의 홍콩 기업이 지난 1년 동안 AI 응용 규모를 확대하거나 자율성을 높였다고 응답했으며, 이는 아시아 태평양 지역의 평균 수준(92%)보다 약간 높은 수치입니다.
• 공동 책임 모델: 40%의 홍콩 기업이 AI 행동에 대한 책임이 여러 사업 부서에 공동으로 부여된다고 응답했으며, 이는 아시아 태평양 지역의 평균 수준(27%)보다 높은 수치입니다.
• 고위험 작업 흐름의 신중한 적용: 89%의 홍콩 기업이 저위험 작업을 AI에 처리하도록 맡길 의향이 있지만, 재무 결정과 관련해서는 여전히 신중합니다.
• 거버넌스 성숙도 향상 필요: 홍콩 기업의 전체 AI 거버넌스 점수는 66.7점으로, 아시아 태평양 지역의 평균 점수(67.1)보다 약간 낮습니다.

Sumsub 아시아 태평양 지역 부사장 Penny Chai는 홍콩 기업이 AI 응용을 추진하는 전략에 있어 방향성이 부족하지 않지만, 응용을 확장할 때 의사 결정의 추적 메커니즘을 신중히 고려해야 잠재적인 운영 위험을 줄일 수 있다고 말했습니다.

미래 전망 및 제안

기업들이 AI 응용에 대한 의존도가 증가함에 따라, 견고한 추적 및 안전 프레임워크를 구축하는 것이 고위험 의사 결정에서 AI를 안전하게 사용하는 선결 조건이 되고 있습니다. 보고서는 기업이 구조적 전환을 추진하고 통합된 신뢰 기반 구조를 적용하여 모든 자동화 행동이 승인된 AI 에이전트 및 감독 책임자에게 추적 가능하도록 해야 한다고 제안합니다.

자세한 내용 및 《Sumsub 아시아 태평양 지역 디지털 신뢰 현황: AI 거버넌스 기준 보고서》를 다운로드하려면 Sumsub 공식 웹사이트를 방문하시기 바랍니다.