Desempeño corporativo y ESG octubre 28, 2026

Análisis de los riesgos de la IA generativa y las opciones para mitigarlos

Autor: TeamMate

La inteligencia artificial generativa (GenAI) está impregnando todos los aspectos de nuestras vidas. Desde chatbots y generadores de código hasta herramientas de creación de contenido y modelos predictivos, las tecnologías de IA generativa están cambiando la forma en que trabajan las personas y cómo operan las organizaciones. Desde el punto de vista del riesgo y el control, debemos ser conscientes del impacto que esta tecnología está teniendo en nuestras organizaciones. La GenAI introduce una nueva clase de riesgos estratégicos, operativos, de cumplimiento y de reputación que muchos equipos de gestión de riesgos empresariales (ERM) y de auditoría interna apenas están empezando a comprender. Los consejos de administración están cada vez más preocupados por verse sorprendidos por amenazas relacionadas con la IA que podrían socavar la consecución de los objetivos empresariales. Los equipos de ERM y de auditoría interna deben actuar ahora para integrar los riesgos y la mitigación de la IA generativa en los marcos empresariales, mejorar la comprensión de las partes interesadas y garantizar que se disponga de controles y mecanismos de aseguramiento sólidos antes de que se materialicen consecuencias no deseadas. En este artículo, exploraremos los nuevos tipos de riesgos que introduce la IA generativa, ofreceremos orientación sobre la integración de la gestión de riesgos de la IA en el marco general de riesgos empresariales y describiremos cómo los equipos de ERM pueden colaborar con las partes interesadas clave para establecer un programa de gobernanza eficaz para esta nueva tecnología. 

Comprender el impacto de la IA generativa en la gestión de riesgos

A estas alturas, la mayoría de nosotros hemos experimentado tanto el poder como la imprevisibilidad de la IA generativa. Sistemas como ChatGPT pueden producir contenido original, incluyendo texto, imágenes, código y vídeo, aprendiendo patrones a partir de la información que se encuentra en Internet. Naturalmente, esta tecnología se ha introducido rápidamente en el lugar de trabajo. En algunos casos, la IA generativa se introdujo de forma meditada con un propósito específico en mente, o mediante actualizaciones de software que incorporaban capacidades de IA generativa. A medida que aumenta la práctica de incluir la IA generativa en nuestros flujos de trabajo y en el software que utilizamos a diario, debemos ser conscientes de los riesgos inherentes que conlleva. Exploremos las principales categorías de riesgo, como los riesgos estratégicos, operativos, tecnológicos, de cumplimiento y de reputación, que debemos abordar antes de adoptar la IA generativa en nuestro lugar de trabajo. 

Riesgo estratégico

Si bien la capacidad de la IA generativa aporta un valor inmenso, también conlleva un riesgo significativo. Desde el punto de vista estratégico, las organizaciones pueden encontrarse en una situación de dependencia excesiva de los resultados generados por la IA sin comprender plenamente sus limitaciones. Las decisiones influenciadas por modelos de IA defectuosos o resultados inexactos pueden desalinearse con los objetivos a largo plazo, lo que da lugar a costosos errores. Además, la suposición de que la IA generativa creará automáticamente eficiencias o nuevas oportunidades puede dar lugar a una inversión excesiva en herramientas que carecen de una gobernanza o una alineación empresarial suficientes.

Riesgo operativo

Las herramientas de IA generativa pueden introducir vulnerabilidades ocultas. Una de las preocupaciones más acuciantes es la fuga de datos. Los empleados pueden compartir involuntariamente información confidencial o e mente privada con herramientas de IA disponibles públicamente que pueden conservar y utilizar esos datos para entrenar futuros modelos. Además, estos modelos son propensos a lo que los expertos denominan «alucinaciones», en las que la IA genera contenidos que parecen plausibles pero que son totalmente incorrectos. En sectores altamente regulados, como el jurídico, el financiero o el médico, esto puede dar lugar a errores importantes, causar daños a las personas o dar lugar a incumplimientos normativos. 

Riesgo tecnológico

También debemos comprender los riesgos asociados con la IA en la sombra. En algunos casos, la IA generativa se introduce silenciosamente a través de actualizaciones de software existentes sin el conocimiento de la organización. En otros casos, los empleados pueden comprar y utilizar sus cuentas personales de GenAI en el trabajo. En cualquiera de los dos casos, el ritmo de implementación podría eludir las prácticas tradicionales de verificación de software y gestión del cambio, lo que significa que estas herramientas se integran en los flujos de trabajo sin la supervisión o las pruebas adecuadas.

Riesgo de cumplimiento normativo

Los gobiernos y los organismos reguladores están promulgando marcos que regulan la IA. La Ley de IA de la Unión Europea, las órdenes ejecutivas de EE. UU. y las nuevas directrices de organismos como la FTC y la SEC están imponiendo nuevas obligaciones a las organizaciones para garantizar la transparencia, la responsabilidad y la equidad en el uso de la IA. Esto se debe, al menos en parte, a que muchos modelos generativos se entrenan con conjuntos de datos que pueden incluir material protegido por derechos de autor, información de identificación personal (PII) o contenido sesgado, lo que suscita preocupaciones en torno a los derechos de propiedad intelectual, la protección de datos y los resultados discriminatorios. Las organizaciones que utilizan plataformas de IA de terceros también deben hacer frente a un mayor riesgo de terceros, especialmente cuando los proveedores no revelan sus datos de entrenamiento o la arquitectura de sus modelos.

Riesgo reputacional

Quizás la categoría de riesgo de la IA más difícil de cuantificar sea la reputacional. Un solo uso indebido de la IA generativa puede convertirse rápidamente en una crisis de relaciones públicas, especialmente si se trata de contenido dirigido a los clientes, propiedad intelectual o un abuso de confianza mediante la divulgación de información confidencial. La confianza es difícil de recuperar una vez perdida. El contenido inapropiado, sesgado o engañoso generado por la IA puede dañar la lealtad de los clientes, la confianza de los inversores y la moral de los empleados. A nivel interno, una comunicación deficiente sobre las políticas y los controles de IA puede generar miedo, confusión o resentimiento entre el personal, especialmente si los empleados ven la IA como una amenaza para sus puestos de trabajo.

Ver una demo

El papel de la gestión de riesgos en la mitigación de los riesgos de la IA

La IA generativa ya se está utilizando para mejorar los flujos de trabajo existentes. Como resultado, los equipos tendrán que evaluar el uso de la IA dentro de estos flujos de trabajo existentes y asegurarse de que los riesgos y los controles se diseñan y funcionan de forma eficaz. En lugar de tratar la IA como una cuestión discreta o aislada, debe considerarse un riesgo horizontal que afecta a todos los aspectos del negocio. El proceso comienza con la actualización formal del registro de riesgos para incluir riesgos específicos relacionados con la IA, como la fiabilidad del contenido generativo, el sesgo de los datos, el uso indebido de los modelos, la exposición a terceros y el incumplimiento de la normativa. Estos riesgos deben evaluarse mediante evaluaciones de riesgos interfuncionales que incluyan aportaciones de los responsables de TI, jurídico, cumplimiento normativo, RR. HH. y unidades de negocio.

Igualmente importante es alinear los riesgos de la IA con los objetivos estratégicos y la propensión al riesgo de la organización. Los consejos de administración deben evaluar si sus declaraciones de propensión al riesgo reflejan con precisión su tolerancia a los riesgos derivados de la toma de decisiones automatizada, el uso de datos y las tecnologías no probadas. En muchos casos, será necesario replantear o ampliar las estructuras de gobernanza existentes para adaptarlas a la velocidad y la escala a la que se está desplegando la IA generativa. La gestión del riesgo empresarial (ERM) debe garantizar que la IA se tenga en cuenta explícitamente a la hora de tomar decisiones de planificación estratégica.

Durante las conversaciones sobre el riesgo de la IA con la alta dirección, la ERM puede ayudar simplificando el riesgo de la IA en términos comprensibles para las partes interesadas que pueden no tener conocimientos técnicos. Esto significa ir más allá de las advertencias generales y proporcionar ejemplos concretos de cómo la IA generativa podría fallar, resultar contraproducente o infringir la ley. Por ejemplo, presentar casos prácticos en los que las herramientas de IA expusieron inadvertidamente datos sensibles o crearon resultados sesgados puede ser mucho más convincente que las matrices de riesgo teóricas. Los equipos de riesgo deben considerar la posibilidad de facilitar talleres sobre riesgos específicos de la IA, crear informes de gestión para el consejo de administración y organizar sesiones de formación para los líderes empresariales con el fin de desmitificar las tecnologías de IA y generar apoyo para una gobernanza más sólida.

Aseguramiento combinado para la mitigación de riesgos de la IA

Los equipos de gestión de riesgos también pueden colaborar con la primera línea, que participa directamente en la implementación o la interacción con las herramientas de IA. A menudo, estos equipos están deseosos de implementar y utilizar nuevas herramientas de IA que se promocionan como un gran ahorro de tiempo, pero es posible que no sean plenamente conscientes de los riesgos inherentes asociados a la IA. La gestión de riesgos empresariales (ERM) debe involucrarse en el proceso de implementación desde el principio, participando en comités de gobernanza o juntas de revisión de modelos que supervisen la adopción de la IA. Esto permite a los profesionales del riesgo asesorar sobre casos de uso adecuados, restricciones en la introducción de datos y procedimientos de revisión antes de implementar las herramientas de IA.

Los equipos de primera línea también necesitan orientación para crear un inventario de los lugares en los que se ha implementado la IA, que sirva como registro exhaustivo de todos los modelos de IA en uso en la organización. Estos inventarios deben incluir información sobre la finalidad, la fuente, las entradas de datos, la clasificación de riesgos y el propietario de cada modelo. La transparencia en el uso de la IA es fundamental no solo para la supervisión, sino también para futuras auditorías, parches del sistema, consultas normativas o respuestas a crisis. La ERM debe ayudar a elaborar políticas que definan quién puede utilizar la IA, con qué fines y bajo qué salvaguardias, garantizando el cumplimiento de las leyes de protección de datos y las normas éticas.

La gestión de riesgos también debe coordinarse con la auditoría interna como tercera línea. Mientras que el ERM evalúa y asesora sobre los riesgos, la auditoría interna proporciona un aseguramiento independiente de que los controles funcionan según lo previsto para la mitigación de los riesgos de la IA. En el caso de la IA generativa, esto requiere un plan de auditoría matizado y en constante evolución. El ERM puede apoyar a la auditoría interna compartiendo los resultados de las evaluaciones de riesgos de la IA, ayudando a priorizar las áreas de alto riesgo y ofreciendo una perspectiva sobre los criterios de auditoría que reflejan tanto consideraciones técnicas como éticas. Una evaluación de auditoría interna puede incluir la verificación de si se obtuvieron las aprobaciones adecuadas para la adopción de la IA, si se están aplicando eficazmente las políticas de privacidad de datos y si existen mecanismos para detectar un uso inapropiado de la IA. La auditoría interna puede compartir sus conclusiones con la ERM, creando un ciclo de retroalimentación para la mejora continua relacionada con la postura de gestión de riesgos de la IA de la organización.

Establecimiento de un entorno de control eficaz para la gestión de riesgos de IA

La mitigación de los riesgos de la IA generativa requiere una combinación de gobernanza, tecnología y cultura, así como personas que tengan los conocimientos y las habilidades para utilizar y evaluar la IA generativa. A nivel de gobernanza, las organizaciones deben establecer una responsabilidad clara para las decisiones y los resultados relacionados con la IA. Esto suele implicar la creación de comités de supervisión de la IA, la definición de vías de escalamiento y la integración del riesgo de la IA en las estructuras de gobernanza de riesgos existentes. Se deben redactar políticas para definir quién es responsable de la adquisición, la supervisión y la respuesta a incidentes de la IA.

Desde el punto de vista tecnológico, deben incorporarse medidas de protección tanto en la fase de desarrollo como en la de implementación del uso de la IA. Esto incluye prohibir la introducción de datos confidenciales en modelos públicos, clasificar los datos para que solo se utilicen fuentes aprobadas para el entrenamiento o la generación de respuestas, y establecer herramientas de supervisión para detectar anomalías en el comportamiento de los modelos. Los modelos deben someterse a rigurosas pruebas de sesgo, alucinación y precisión, y los resultados deben documentarse y revisarse periódicamente. En los casos de uso de alto riesgo, los resultados siempre deben ser objeto de verificación humana antes de actuar.

La supervisión humana también desempeña un papel fundamental. Los empleados deben recibir formación sobre el uso adecuado de las herramientas de IA generativa, los riesgos que plantean y las medidas que deben tomarse cuando algo parece no funcionar correctamente. Esta formación debe adaptarse a las funciones específicas. Lo que es relevante para un desarrollador de software que utiliza la codificación asistida por IA será diferente de lo que es importante para un profesional del marketing que utiliza un generador de contenido de IA. Crear una cultura en la que el uso de la IA sea transparente, intencionado y sujeto a escrutinio es esencial para la resiliencia a largo plazo.

Alineación con marcos establecidos

Las organizaciones que buscan un enfoque más estructurado para la gestión de riesgos de la IA pueden adoptar marcos formales como el Marco de Gestión de Riesgos de IA (AI RMF) del NIST. Este marco se basa en cuatro funciones clave: mapear, medir, gestionar y gobernar. El mapeo implica comprender el contexto y el propósito de los sistemas de IA, incluidos los posibles daños. La medición se centra en evaluar la fiabilidad, la precisión y la equidad de los modelos de IA. La gestión consiste en priorizar los riesgos e implementar estrategias de mitigación. La gobernanza se refiere a la cultura, el liderazgo y las estructuras de responsabilidad de toda la empresa necesarias para garantizar que la IA se utilice de forma responsable. Para los equipos de ERM, este marco puede servir como modelo para crear o mejorar programas de gestión de riesgos de IA que sean escalables y estén alineados con las mejores prácticas del sector.

La IA generativa no es un riesgo futuro ni emergente. Tanto si se da cuenta como si no, la IA generativa ya se está utilizando en su organización. Los consejos de administración son cada vez más conscientes de las implicaciones reputacionales, normativas y estratégicas que tiene una mala gobernanza de la IA. Los equipos de ERM desempeñan un papel fundamental a la hora de garantizar que las organizaciones aprovechen la IA de forma responsable, transparente y en consonancia con sus objetivos empresariales. Al adoptar un enfoque proactivo, colaborativo e informado, los equipos de ERM pueden ayudar a las organizaciones a aprovechar las ventajas de la IA generativa y minimizar al mismo tiempo los riesgos que amenazan con socavar el éxito a largo plazo.

Suscríbase a continuación para recibir mensualmente Perspectivas de expertos en su bandeja de entrada.

¿No puede ver el formulario más adelante?

Es necesario que cambie la configuración de cookies para ver el formulario. Haga clic en el botón a continuación para actualizar sus preferencias y aceptar todas las cookies. Si desea obtener más información, revise nuestra Política de privacidad y cookies.

Para los auditores que se enfrentan al reto de mejorar la productividad de la auditoría a la vez que proporcionan valores estratégicos, TeamMate ofrece soluciones expertas, junto con servicios profesionales de primera calidad, a auditores de todo el mundo y de todos los sectores.
Back To Top