Comprender el impacto de la IA generativa en la gestión de riesgos
A estas alturas, la mayoría de nosotros hemos experimentado tanto el poder como la imprevisibilidad de la IA generativa. Sistemas como ChatGPT pueden producir contenido original, incluyendo texto, imágenes, código y vídeo, aprendiendo patrones a partir de la información que se encuentra en Internet. Naturalmente, esta tecnología se ha introducido rápidamente en el lugar de trabajo. En algunos casos, la IA generativa se introdujo de forma meditada con un propósito específico en mente, o mediante actualizaciones de software que incorporaban capacidades de IA generativa. A medida que aumenta la práctica de incluir la IA generativa en nuestros flujos de trabajo y en el software que utilizamos a diario, debemos ser conscientes de los riesgos inherentes que conlleva. Exploremos las principales categorías de riesgo, como los riesgos estratégicos, operativos, tecnológicos, de cumplimiento y de reputación, que debemos abordar antes de adoptar la IA generativa en nuestro lugar de trabajo.
Riesgo estratégico
Si bien la capacidad de la IA generativa aporta un valor inmenso, también conlleva un riesgo significativo. Desde el punto de vista estratégico, las organizaciones pueden encontrarse en una situación de dependencia excesiva de los resultados generados por la IA sin comprender plenamente sus limitaciones. Las decisiones influenciadas por modelos de IA defectuosos o resultados inexactos pueden desalinearse con los objetivos a largo plazo, lo que da lugar a costosos errores. Además, la suposición de que la IA generativa creará automáticamente eficiencias o nuevas oportunidades puede dar lugar a una inversión excesiva en herramientas que carecen de una gobernanza o una alineación empresarial suficientes.
Riesgo operativo
Las herramientas de IA generativa pueden introducir vulnerabilidades ocultas. Una de las preocupaciones más acuciantes es la fuga de datos. Los empleados pueden compartir involuntariamente información confidencial o e mente privada con herramientas de IA disponibles públicamente que pueden conservar y utilizar esos datos para entrenar futuros modelos. Además, estos modelos son propensos a lo que los expertos denominan «alucinaciones», en las que la IA genera contenidos que parecen plausibles pero que son totalmente incorrectos. En sectores altamente regulados, como el jurídico, el financiero o el médico, esto puede dar lugar a errores importantes, causar daños a las personas o dar lugar a incumplimientos normativos.
Riesgo tecnológico
También debemos comprender los riesgos asociados con la IA en la sombra. En algunos casos, la IA generativa se introduce silenciosamente a través de actualizaciones de software existentes sin el conocimiento de la organización. En otros casos, los empleados pueden comprar y utilizar sus cuentas personales de GenAI en el trabajo. En cualquiera de los dos casos, el ritmo de implementación podría eludir las prácticas tradicionales de verificación de software y gestión del cambio, lo que significa que estas herramientas se integran en los flujos de trabajo sin la supervisión o las pruebas adecuadas.
Riesgo de cumplimiento normativo
Los gobiernos y los organismos reguladores están promulgando marcos que regulan la IA. La Ley de IA de la Unión Europea, las órdenes ejecutivas de EE. UU. y las nuevas directrices de organismos como la FTC y la SEC están imponiendo nuevas obligaciones a las organizaciones para garantizar la transparencia, la responsabilidad y la equidad en el uso de la IA. Esto se debe, al menos en parte, a que muchos modelos generativos se entrenan con conjuntos de datos que pueden incluir material protegido por derechos de autor, información de identificación personal (PII) o contenido sesgado, lo que suscita preocupaciones en torno a los derechos de propiedad intelectual, la protección de datos y los resultados discriminatorios. Las organizaciones que utilizan plataformas de IA de terceros también deben hacer frente a un mayor riesgo de terceros, especialmente cuando los proveedores no revelan sus datos de entrenamiento o la arquitectura de sus modelos.
Riesgo reputacional
Quizás la categoría de riesgo de la IA más difícil de cuantificar sea la reputacional. Un solo uso indebido de la IA generativa puede convertirse rápidamente en una crisis de relaciones públicas, especialmente si se trata de contenido dirigido a los clientes, propiedad intelectual o un abuso de confianza mediante la divulgación de información confidencial. La confianza es difícil de recuperar una vez perdida. El contenido inapropiado, sesgado o engañoso generado por la IA puede dañar la lealtad de los clientes, la confianza de los inversores y la moral de los empleados. A nivel interno, una comunicación deficiente sobre las políticas y los controles de IA puede generar miedo, confusión o resentimiento entre el personal, especialmente si los empleados ven la IA como una amenaza para sus puestos de trabajo.