Por: CP Iván Rodríguez. Colaborador de Auditool
La integración acelerada de la inteligencia artificial (IA) en los sistemas de gobierno corporativo está redefiniendo profundamente la función o área de cumplimiento normativo. Si bien la IA promete una capacidad sin precedentes para detectar fraudes, monitorear riesgos en tiempo real y optimizar decisiones, también introduce desafíos menos visibles pero potencialmente más peligrosos: el distanciamiento moral y la consolidación de silos de información opacos. Es una situación paradójica que plantea una cuestión crítica para los profesionales de cumplimiento: ¿cómo garantizar que la eficiencia tecnológica no erosione o debilite la responsabilidad ética? Es un reto que trasciende lo técnico y pasa a ser profundamente humano: mantener la conexión entre decisiones automatizadas y sus consecuencias reales.
¿Cómo garantizar que la eficiencia tecnológica no erosione o debilite la responsabilidad ética? Es un reto que trasciende lo técnico y pasa a ser profundamente humano.
El concepto de distanciamiento moral describe un fenómeno psicológico en el cual las personas son más propensas a comportarse de forma poco ética cuando no perciben directamente el impacto de sus decisiones. Algunos marcos legales tienen en cuenta este tema, por ejemplo[1]:
🇺🇸 FCPA (Foreign Corrupt Practices Act)
Prohibe sobornos y busca impedir que empresas o individuos ofrezcan pagos o beneficios a funcionarios públicos extranjeros para obtener ventajas comerciales. También exige mantener registros contables precisos y sistemas de control interno adecuados.
🇬🇧 UK Bribery Act (2010)
Una empresa puede ser sancionada aunque no haya participado directamente, si no demuestra que tenía "procedimientos adecuados" para prevenir la corrupción.
El uso de la IA amplifica este fenómeno toda vez que, por una parte elimina el contacto humano directo y por otra, convierte decisiones complejas en simples outputs algorítmicos.
La IA como silo definitivo de información
Por otra parte, grandes escándalos corporativos no se presentaron por falta de datos, sino por la incapacidad de integrarlos y comprenderlos de manera holística. La IA introduce un riesgo mayor y convertirse en el silo o depósito definitivo de información. Esto ocurre por:
• Su naturaleza de "caja negra" dificulta la trazabilidad.
• Existe una brecha entre la optimización matemática y el juicio humano.
• Los responsables de cumplimiento pueden perder la capacidad de identificar errores, interpretar decisiones y corregir desviaciones
Esto genera un entorno donde los riesgos no desaparecen, sino que se vuelven más sofisticados y menos visibles. Por ello, las áreas de auditoría y control deben, en sus trabajos, asegurarse que las organizaciones cuenten con una supervisión humana efectiva, una alineación ética de los algoritmos y un uso activo de datos para prevenir malas conductas. No hay que olvidar que en los marcos normativos de diferentes jurisdicciones el que la IA cometa equivocaciones no justifica que haya incumplimiento.
El modelo tradicional de cumplimiento - basado principalmente en estructuras jerárquicas, controles estáticos, políticas documentadas y comités de revisión - está demostrando ser cada vez más insuficiente ante los riesgos dinámicos y de alta velocidad que genera la inteligencia artificial. Estos riesgos no son estáticos: evolucionan en tiempo real con cada nuevo modelo, comando (prompt), integración o caso de uso. La IA introduce complejidades como sesgos algorítmicos emergentes, alucinaciones impredecibles, fugas de datos no anticipadas, autonomía en la toma de decisiones o impactos éticos y regulatorios que cambian rápidamente. Un comité que se reúne mensualmente para evaluar temas de cumplimiento o un conjunto de controles fijos no puede seguir el ritmo de estos cambios. El enfoque tradicional se centra en "cumplir con la norma" de forma reactiva y documental, lo que genera una falsa sensación de seguridad mientras los riesgos reales fluyen por los procesos operativos diarios. Frente a este panorama surge el cumplimiento generativo (o generative compliance) como un paradigma más adecuado para la era de la IA. Se trata de un enfoque dinámico, adaptativo y basado en procesos que evoluciona continuamente junto con los riesgos emergentes, en lugar de oponerse a ellos. Las características principales del cumplimiento generativo son:
Ahora bien, una de las maneras de lograr un cumplimiento efectivo es implementar mecanismos prácticos que acompañen el modelo IA, como los siguientes:
🔍 Preguntas estandarizadas de investigación
• Integrar revisión humana constante sobre alertas generadas por IA
• Identificar patrones de riesgo y tendencias éticas
• Evitar dependencia ciega en outputs automatizados
📊 Encuestas de materialidad organizacional
• Evaluar percepciones internas sobre el uso de IA
• Detectar incentivos perversos (ej. presión por resultados a cualquier costo)
• Identificar zonas donde la ética está siendo desplazada
🔗 Principios de agregación de datos
• Integrar información de múltiples sistemas de IA
• Detectar fallos sistémicos (no solo incidentes aislados)
• Evitar fragmentación informativa
Este enfoque responde a una lección que se aprende al solucionar dificultades: Los problemas críticos suelen estar ocultos en la falta de integración de información, no en su ausencia.
La IA no reemplaza la responsabilidad humana, la intensifica
Hay que tener presente que la IA no reemplaza la responsabilidad humana, la intensifica. Por ello, los programas de cumplimiento deben auditar no solo decisiones, sino objetivos asignados a la IA, mantener el carácter humano detrás de cada decisión y diseñar procesos que reduzcan el distanciamiento moral. Las organizaciones deben preguntarse frente al uso de la IA en temas de cumplimiento si funciona en la práctica desde una perspectiva ética y legal. La adopción de inteligencia artificial en cumplimiento normativo no es una solución inmediata, no funciona como un dispositivo electrónico que se conecta y resuelve. Es un proceso continuo que exige supervisión activa, integración de información y diseño de procesos éticos
El futuro del cumplimiento no será definido por la tecnología, sino por la capacidad de las organizaciones para gestionar sus implicaciones humanas.
Se aprecia entonces que el futuro del cumplimiento no será definido por la tecnología, sino (entre otras cosas) por la capacidad de las organizaciones para gestionar sus implicaciones humanas. Aquellas que logren cerrar la brecha entre automatización y responsabilidad, además de cumplir la ley, fortalecerán su integridad institucional y por ello es necesario que los auditores y quienes se relacionan con temas de cumplimento, comprendan este nuevo entorno y actúen con profesionalismo para lograr los mejores resultados.
[1] Adaptado de: https://www.corporatecomplianceinsights.com/compliance-classroom-emerging-perspectives-ai/
CP Iván Rodríguez - CIE AF
Colaborador de Auditool
Auditor y consultor, diplomado en Alta Gerencia de Seguros y Derecho de Seguros. Especialista en Dirección Financiera y Desarrollo Organizacional, diplomado en Gerencia de la Calidad. Contador público (CP) de la Pontificia Universidad Javeriana con 20 años de experiencia en diversas empresas. Tiene amplia experiencia en la elaboración y ejecución de auditorías y revisorías fiscales. Dirección y ejecución de asesorías, consultorías y capacitaciones. Colaborador de Auditool.
Y luego Agregar a la pantalla de inicio.
Escribir un comentario