Sumsub recientemente publicó el informe “Estado de la Confianza Digital en la Región de Asia-Pacífico: Informe de Referencia sobre Gobernanza de IA”, que muestra que el 94% de las empresas en Hong Kong ya han implementado o están probando sistemas de IA de múltiples pasos. Sin embargo, solo el 36% de las empresas pueden proporcionar registros confiables e inalterables para explicar el proceso de toma de decisiones de la IA, lo que indica que las empresas aún enfrentan desafíos significativos en la gobernanza de la IA.
Estado y desafíos de la aplicación de IA
El informe señala que, a medida que las capacidades de los agentes de IA continúan mejorando, las empresas han acelerado la aplicación de decisiones de IA en ausencia de supervisión humana directa. Sin embargo, esto también ha llevado a una falta de trazabilidad en el proceso de toma de decisiones, aumentando los riesgos en términos de cumplimiento, operaciones y confianza del cliente. El “problema de asimetría de responsabilidad” mencionado en el estudio refleja la incapacidad de las empresas para asumir la responsabilidad en las decisiones de IA y para explicar claramente a los reguladores o clientes cómo se toman esas decisiones.
Principales hallazgos del informe
Según la encuesta, el desempeño de las empresas de Hong Kong en gobernanza de IA presenta algunas características notables en comparación con otros países de la región de Asia-Pacífico:
- Ampliación del alcance de la aplicación de IA: El 95% de las empresas de Hong Kong afirmaron haber ampliado el uso de IA o aumentado su grado de autonomía en el último año, ligeramente por encima del promedio de la región de Asia-Pacífico (92%).
- Modelo de responsabilidad compartida: El 40% de las empresas de Hong Kong indicaron que la responsabilidad por el comportamiento de la IA es compartida por múltiples departamentos comerciales, superior al promedio de la región de Asia-Pacífico (27%).
- Aplicación cautelosa en flujos de trabajo de alto riesgo: El 89% de las empresas de Hong Kong están dispuestas a dejar que la IA maneje tareas de bajo riesgo, pero son más cautelosas cuando se trata de decisiones financieras.
- Madurez de la gobernanza que necesita mejorar: La puntuación general de gobernanza de IA de las empresas de Hong Kong es de 66.7 puntos, ligeramente inferior al promedio de la región de Asia-Pacífico (67.1).
Penny Chai, vicepresidenta de Sumsub para la región de Asia-Pacífico, afirmó que las empresas de Hong Kong no carecen de dirección en sus estrategias para impulsar la aplicación de IA, pero deben considerar cuidadosamente los mecanismos de trazabilidad en la toma de decisiones al expandir su uso para reducir los riesgos operativos potenciales.
Perspectivas futuras y recomendaciones
A medida que las empresas dependen más de la aplicación de IA, establecer un marco sólido de trazabilidad y seguridad se convierte en un requisito previo para el uso seguro de la IA en decisiones de alto riesgo. El informe recomienda que las empresas impulsen transformaciones estructurales, aplicando una infraestructura de confianza unificada que asegure que cada acción automatizada sea trazable hasta los agentes de IA autorizados y las personas responsables de la supervisión.
Para obtener más detalles y descargar el “Estado de la Confianza Digital en la Región de Asia-Pacífico: Informe de Referencia sobre Gobernanza de IA”, visite el sitio web oficial de Sumsub.