Sumsub: 94% de las empresas en Hong Kong ya utilizan agentes de IA, pero solo el 36% puede ofrecer evidencia de decisiones.

Sumsub recientemente publicó el informe “Estado de la confianza digital en la región de Asia-Pacífico: Informe de referencia sobre la gobernanza de la IA”, que muestra que el 94% de las empresas en Hong Kong ya han implementado o están probando sistemas de IA de múltiples pasos. Sin embargo, solo el 36% de las empresas pueden proporcionar registros fiables e inalterables para explicar el proceso de toma de decisiones de la IA, lo que indica que las empresas aún enfrentan desafíos significativos en la gobernanza de la IA.

Estado y desafíos de la aplicación de la IA

El informe señala que, a medida que las capacidades de los agentes de IA continúan mejorando, las empresas han acelerado la aplicación de decisiones de IA en ausencia de supervisión humana directa. Sin embargo, esto también ha llevado a una falta de trazabilidad en el proceso de toma de decisiones, aumentando los riesgos en términos de cumplimiento, operaciones y confianza del cliente. El “problema de asimetría de responsabilidad” mencionado en el estudio refleja la incapacidad de las empresas para asumir la responsabilidad en las decisiones de IA y para explicar claramente a los reguladores o clientes cómo se toman estas decisiones.

Principales hallazgos del informe

Según la encuesta, el desempeño de las empresas de Hong Kong en gobernanza de IA presenta algunas características notables en comparación con otros países de la región de Asia-Pacífico:

• Ampliación del ámbito de aplicación de la IA: El 95% de las empresas de Hong Kong informaron que en el último año han ampliado el uso de la IA o han aumentado su grado de autonomía, ligeramente por encima del promedio de la región de Asia-Pacífico (92%).
• Modelo de responsabilidad compartida: El 40% de las empresas de Hong Kong indicaron que la responsabilidad por el comportamiento de la IA es compartida por múltiples departamentos de negocio, superior al promedio de la región de Asia-Pacífico (27%).
• Aplicación prudente en flujos de trabajo de alto riesgo: El 89% de las empresas de Hong Kong están dispuestas a delegar tareas de bajo riesgo a la IA, pero siguen siendo cautelosas en decisiones financieras.
• Necesidad de mejorar la madurez en gobernanza: La puntuación general de gobernanza de IA de las empresas de Hong Kong es de 66.7, ligeramente inferior al promedio de la región de Asia-Pacífico (67.1).

Penny Chai, vicepresidenta de Sumsub para la región de Asia-Pacífico, afirmó que las empresas de Hong Kong no carecen de dirección en sus estrategias para impulsar la aplicación de la IA, pero deben considerar cuidadosamente los mecanismos de trazabilidad de las decisiones al expandir su uso, para reducir los riesgos operativos potenciales.

Perspectivas futuras y recomendaciones

A medida que las empresas dependen más de la aplicación de la IA, establecer un marco de trazabilidad y seguridad robusto se convierte en un requisito previo para el uso seguro de la IA en decisiones de alto riesgo. El informe sugiere que las empresas deben impulsar una transformación estructural, aplicando una infraestructura de confianza unificada que asegure que cada acción automatizada sea rastreable hasta un agente de IA autorizado y las personas responsables de la supervisión.

Para más detalles y para descargar el “Estado de la confianza digital en la región de Asia-Pacífico: Informe de referencia sobre la gobernanza de la IA”, visite el sitio web oficial de Sumsub.