Por: CP Iván Rodríguez. Colaborador de Auditool
En los últimos años, la inteligencia artificial (IA) se ha convertido en un componente central de la estrategia empresarial y en medio del entusiasmo por los modelos avanzados y los algoritmos sofisticados, muchas organizaciones están pasando por alto un elemento fundamental: la calidad e integridad de los datos. Y es que, contrario a la creencia generalizada, el éxito de la IA no comienza con el algoritmo, sino con los datos. Sin información fiable, incluso los modelos más avanzados pueden generar resultados erróneos, lo que se traduce en riesgos operativos, financieros y reputacionales significativos.
El éxito de la IA no comienza con el algoritmo, sino con los datos. Ya no basta con evaluar modelos, se hace imprescindible auditar la calidad de los datos que los alimentan.
Existe una tendencia en las organizaciones a centrarse en seleccionar el mejor modelo de IA disponible. Sin embargo, este enfoque puede ser incompleto. La IA aprende de los datos; por tanto, si los datos son incorrectos, incompletos o sesgados, los resultados también lo serán. Este fenómeno, conocido como "alucinación" en modelos de IA, puede generar decisiones equivocadas que impactan directamente en el negocio. De hecho, el riesgo asociado a la IA ya se posiciona como uno de los principales riesgos globales, solo por detrás de los ciberincidentes. Para los gestores de riesgos, esto implica un cambio de paradigma: ya no basta con evaluar modelos, se hace imprescindible auditar la calidad de los datos que los alimentan.
Ahora bien, uno de los principales desafíos en la implementación de IA es la existencia de datos fragmentados, desactualizados o inconsistentes dentro de las organizaciones. Las principales causas para que esto suceda son:
Incluso, en entornos modernos basados en la nube, los datos defectuosos pueden generar errores sistémicos, especialmente cuando se integran en procesos automatizados. Un ejemplo puede ilustrar esta situación: En el sector asegurador, un modelo de IA que evalúa riesgos puede basarse en datos incompletos sobre propiedades o pérdidas históricas, generando errores en la fijación de precios o evaluaciones inconsistentes que podrían no advertirse durante meses.
Gestión de datos sensibles y riesgos regulatorios
Puesto que el uso de IA implica también la gestión de datos sensibles, especialmente información personal identificable (PII). En sectores como salud, seguros o servicios financieros, esto introduce riesgos adicionales. De ahí que las organizaciones deben cumplir con normativas tales como RGPD (Reglamento General de Protección de Datos de la Unión Europea) o CCPA (California Consumer Privacy Act) por citar un par de ejemplos. Su incumplimiento puede derivar en sanciones económicas, pérdida de reputación y litigios.
Además, el uso de herramientas externas de IA (como plataformas generativas) introduce el concepto de subprocesadores de datos (entidades externas que manejan y procesan datos personales en nombre de un responsable. Deben cumplir con las obligaciones de confidencialidad y protección de datos establecidas por la legislación aplicable), lo que implica nuevas responsabilidades legales y de control.
Para mitigar los riesgos asociados a la IA, los gestores y los auditores deben adoptar un enfoque estructurado basado en preguntas estratégicas[1]:
📋 ¿Se están conservando los datos correctamente?
El enfoque tradicional de ETL (extraer, transformar y cargar) puede ser contraproducente en IA, ya que elimina contexto, estandariza en exceso la información, reduce la capacidad del modelo para aprender patrones complejos. Una mejor práctica es conservar los datos en bruto, limpiar y procesar según el caso de uso, mantener trazabilidad y contexto.
🔗 ¿Están integradas las herramientas de extracción de datos?
El uso de tecnologías como OCR permite estructurar datos, pero no garantiza calidad ni contexto. Algunos riesgos del uso aislado son persistencia de sesgos históricos, interpretaciones incorrectas y decisiones erróneas. Por ello es importante la integración con sistemas centrales, el uso de herramientas que también limpien y enriquezcan datos así como arquitecturas tecnológicas modernas (preferiblemente en la nube).
🔒 ¿Cómo se gestionan los datos sensibles?
Se debe tener claridad sobre dónde se almacenan los datos, quién tiene acceso, cuánto tiempo se conservan y qué sucede ante incidentes. Cuando los datos se comparten con terceros, la organización mantiene la responsabilidad, se debe garantizar cumplimiento normativo y se debe evaluar riesgos de seguridad y privacidad.
👤 ¿Cuándo debe intervenir el juicio humano?
A medida que evolucionamos hacia sistemas de IA autónomos (IA agente), el riesgo aumenta. Son buenas prácticas mantener personas en el trabajo (human-in-the-loop), establecer controles de validación y definir umbrales de intervención especialmente en procesos críticos tales como suscripción de seguros, evaluación de reclamaciones y toma de decisiones financieras.
Rol proactivo del gestor de riesgos y del auditor
El gestor de riesgos debe asumir un rol proactivo en la gobernanza de la IA y el auditor debe estar atento a evaluar lo pertinente. Esto implica:
• Evaluar la calidad de los datos
• Comprender los flujos de información
• Colaborar con áreas tecnológicas
• Establecer marcos de control y supervisión
Más que expertos en tecnología, los gestores deben convertirse en garantes de la confiabilidad de la información y los auditores conceptuarán desde la órbita de su competencia.
Se aprecia entonces que, mientras muchas organizaciones compiten por adoptar los modelos más avanzados, aquellas verdaderamente exitosas serán las que inviertan en la calidad de sus datos. Los auditores deben tener presente que la integridad de los datos no solo reduce riesgos, sino que contribuye a los modelos de IA y tienen beneficios:
En un entorno donde la IA seguramente seguirá su rápida evolución, la clave no está exclusivamente en la tecnología en sí, sino en la base sobre la que se construye: los datos.
Tanto las organizaciones como los auditores deben ser conscientes que en un entorno donde la IA seguramente seguirá su rápida evolución, la clave no está exclusivamente en la tecnología en sí, sino en la base sobre la que se construye, los datos. De ahí la preocupación por su calidad.
[1] Basado en: What Risk Managers Should Know About Data Integrity to Reduce AI Risks
CP Iván Rodríguez - CIE AF
Colaborador de Auditool
Auditor y consultor, diplomado en Alta Gerencia de Seguros y Derecho de Seguros. Especialista en Dirección Financiera y Desarrollo Organizacional, diplomado en Gerencia de la Calidad. Contador público (CP) de la Pontificia Universidad Javeriana con 20 años de experiencia en diversas empresas. Tiene amplia experiencia en la elaboración y ejecución de auditorías y revisorías fiscales. Dirección y ejecución de asesorías, consultorías y capacitaciones. Colaborador de Auditool.
Y luego Agregar a la pantalla de inicio.
Escribir un comentario