Auditoría de TI

Por: CP Iván Rodríguez. Colaborador de Auditool.

Una de las herramientas informáticas que actualmente está en auge, especialmente en el mundo académico y laboral en el que se encuentra la auditoría, es ChatGPT. Por lo tanto, este artículo dará a conocer algunas características de dicha herramienta para facilitar su entendimiento y posterior uso en labores de auditoría.

Esta herramienta se define como un modelo de lenguaje de inteligencia artificial (IA) presentado a los usuarios como un chatbot, lo que significa que permite mantener conversaciones de forma automatizada. De hecho, su función principal es entender y generar texto humano de manera coherente y relevante. Además, está basado en una arquitectura llamada GPT (Generative Pretrained Transformer) y fue desarrollado por OpenAI, una organización de investigación en IA fundada en 2015^[1].

Ahora, su uso es sencillo: el usuario solo tiene que hacerle preguntas de manera convencional y la aplicación las entenderá. Esto debido a que cuenta con más de 175 millones de parámetros y se ha entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje, desde la traducción hasta la generación de texto.

Al ser un modelo de lenguaje de IA, puede tener una amplia variedad de usos en diferentes campos. Entre ellos se cuentan los siguientes:

• Generación de contenido: ChatGPT se puede utilizar para generar contenido escrito, como artículos, blogs, descripciones de productos, guiones, historias y más. Los usuarios dan las instrucciones sobre un tema con un estilo deseado y el modelo generará un texto coherente y relevante.

• Asistencia al cliente: la herramienta también puede usarse para brindar soporte y asistencia al cliente de manera automatizada. Puede responder preguntas frecuentes, proporcionar información sobre productos o servicios, ayudar a resolver problemas comunes y dirigir a los clientes a los recursos adecuados. Esto puede ser útil en el soporte que puedan brindar firmas de auditoría a sus clientes.

• Tutoría y educación: es muy útil para buscar orientación en diversos temas académicos, pues ChatGPT responde preguntas, explica conceptos y proporcionar ejemplos. En ese sentido, puede emplearse en la enseñanza de conceptos del sector de la auditoría.

• Creación de chatbots: esta herramienta se puede utilizar como componente principal en el desarrollo de chatbots. Gracias a esto, se puede interactuar con los usuarios de manera natural, responder preguntas, recopilar información y realizar tareas específicas dentro de un contexto definido. De este modo, es posible facilitar la recopilación de datos en el trabajo de campo de auditoría.

• Diseño de productos y experiencias de usuario: ChatGPT puede participar en el proceso de diseño de productos y servicios, ayudando a generar ideas, recopilar comentarios de los usuarios y ofrecer recomendaciones para mejorar sus experiencias.

A pesar de las reacciones que genera ChatGPT (así como otras aplicaciones de IA), que van desde el asombro por lo que puede llegar a hacer hasta el temor por su aparente capacidad de reemplazarnos, la realidad es menos dramática de lo que parece. Algunos hechos que respaldan esta posición son los siguientes:

• Capacidad de ChatGPT

Pese a la popularidad de ChatGPT, hay que recordar que es una entre muchas herramientas de IA, existen otros proyectos de IA similares y con capacidades incluso superiores. Algunas compañías tecnológicas, emprendimientos y departamentos universitarios han desarrollado herramientas generativas de IA bastante potentes, pero sus versiones son limitadas o se mantienen en el ámbito privado.

Por ejemplo, en 2016 se lanzó Tay Chatbot que tuvo fallas por expresiones de racismo originadas en su entrenamiento en redes sociales^[2]. LaMDA, un modelo de lenguaje para aplicaciones de diálogo (Language Model for Dialogue Applications), también fue otro chatbot lanzado hace algún tiempo. De hecho, el primer chatbot conocido se llamaba Eliza y fue creado en 1966 por el ingeniero del MIT Joseph Weizenbaum^[3]. Un análisis de diferentes chatbots mostraría que ChatGPT no es excepcionalmente poderoso, es más que es único entre los poderosos sistemas de IA por su audacia y disponibilidad.

• Las críticas a ChatGPT y la ética de los usuarios

Algunas de las mayores preocupaciones sobre ChatGPT son la posibilidad de permitirle a los usuarios hacer trampa, que sea utilizado con fines poco éticos como plagio e ingeniería social, y la información falsa o imprecisa que pueda entregar. Esto es un aspecto que debe ser considerado por los auditores al evaluar información generada por ChatGPT.

Hay que entender que ChatGPT es una herramienta como cualquier otra, por lo que con ella se puede hacer un uso debido o indebido. Tal como ocurre con los cuchillos de cocina. El usuario podría emplearlos como una herramienta en la preparación de sus alimentos, o podría usarlo para lesionar a alguien. En cualquier caso, las fallas morales de los humanos no son culpa de las herramientas de IA.

Respecto a la crítica de suministrar información falsa o imprecisa, ocurre que ChatGPT y otros chatbots emplean conjuntos de datos de entrenamiento que pueden contener información falsa o imprecisa que no ha sido detectada. Indudablemente, luego de algún extenso proceso de investigación, haya correcciones. En el futuro, muy seguramente, las empresas utilizarán la IA generativa, ya sea con sus propios datos o con datos examinados a fondo, para evitar estas dificultades.

• ChatGPT está hecho por personas

Es tentador percibir el uso de la IA basada en texto como una interacción con los pensamientos de una computadora en lugar de los de un humano, pero no es así, pues esta no cuenta con conciencia, emociones ni pensamientos. De hecho, proyectos como ChatGPT utilizan programación humana para recolectar contenido hecho por humanos, que luego es examinado y priorizado por humanos. Por lo tanto, contiene errores, conclusiones y sesgos humanos. De ahí la importancia del escepticismo del auditor al trabajar con información generada por esta herramienta.

• ChatGPT aprovecha la habilidad del usuario para desarrollar todo su potencial

Todas las herramientas generativas de IA de entrada de texto necesitan instrucciones correctas y con contexto para potenciar sus respuestas. La nueva habilidad de la "ingeniería rápida", el arte y la ciencia de saber cómo hablar con cada herramienta de IA impulsará la optimización para motores de búsqueda (Search Engine Optimization – SEO). Surgirá una industria artesanal de herramientas y consultores para desarrollar y usar el conocimiento sobre qué palabras producen qué resultado. Ahora, si los auditores enfocan apropiadamente sus solicitudes e inquietudes a ChatGPT, u otra herramienta de IA, pueden obtener interesantes resultados.

• Algunas industrias ya utilizan sistemáticamente ChatGPT (u otras IA generativas)

Algunos tipos de escritura profesional son robóticos, automáticos y formulistas, ya sea que la IA lo haga o no. Algunos profesionales han descubierto que la IA hace las tareas aburridas y repetitivas más rápido y barato, por lo que determinadas industrias ya usan con frecuencia ChatGPT (o herramientas equivalentes).

Es el caso, por ejemplo, de la industria de bienes raíces. Al listar una propiedad, hay ciertos parámetros que uno puede usar para describir una casa en venta, principalmente datos numéricos (pies cuadrados, superficie total, número de dormitorios y baños, precio, etc.) y términos descriptivos como "renovado", "concepto abierto", "comedor formal", etc. Los agentes inmobiliarios ahora solo conectan todos esos datos a ChatGPT y dejan que la IA escriba la descripción general de los sitios web.

En definitiva, ChatGPT está llamando la atención de todos, pese a que solo hemos conocido las primeras versiones de la IA generativa. De ahí la importancia de comprender la realidad de lo que está sucediendo con esta tecnología para aprovechar su mejor uso.

Los auditores, entonces, navegan por un panorama constantemente cambiante, lo que los enfrenta a múltiples escenarios que requieren soluciones innovadoras. La implementación de ChatGPT ofrece una oportunidad única para generar información, realizar análisis exhaustivos y evaluar los resultados producidos por terceros al usar estas potentes herramientas de IA. Sin embargo, el primer paso crítico en este camino es comprender profundamente la naturaleza de estas herramientas, su origen, funcionamiento y las posibilidades que brindan. A partir de este entendimiento, los auditores pueden profundizar su conocimiento y emplear ChatGPT de manera eficaz, optimizando su potencial para elevar la calidad y eficiencia de la auditoría a nuevos horizontes.

^[1] Información tomada de: https://www.computerworld.com/article/3686616/6-surprising-facts-about-chatgpt-nobody-told-you.html

^[2] Basado en: https://www.theguardian.com/world/2016/mar/29/microsoft-tay-tweets-antisemitic-racism

^[3] Información tomada de: https://www.historyofinformation.com/detail.php?id=4137

CP Iván Rodríguez - CIE AF

Auditor y consultor, diplomado en Alta Gerencia de Seguros y Derecho de Seguros. Especialista en Dirección Financiera y Desarrollo Organizacional, diplomado en Gerencia de la Calidad. Contador público (CP) de la Pontificia Universidad Javeriana con 20 años de experiencia en diversas empresas. Tiene amplia experiencia en la elaboración y ejecución de auditorías y revisorías fiscales. Dirección y ejecución de asesorías, consultorías y capacitaciones. Colaborador de Auditool.

Bogotá D.C., Colombia.