La IA generativa en despachos de abogados: privacidad, seguridad y confianza

Las alucinaciones de la IA: cuando la tecnología se inventa la realidad

Otra cuestión crítica son las “alucinaciones”, esto es, la tendencia de los sistemas de IA a generar información falsa presentada como si fuera cierta. En el caso Mata contra Avianca, un abogado citó precedentes inexistentes generados por ChatGPT, y el bufete Morgan & Morgan citó casos falsos. Este fenómeno, por supuesto, también ha llegado a Italia, donde el Tribunal Administrativo Regional de Lombardía ha iniciado un procedimiento contra un abogado que utilizó abundante material jurisprudencial totalmente irrelevante para el caso.

Las causas de estas alucinaciones son técnicas y estructurales. Los modelos de lenguaje se basan en arquitecturas probabilísticas que predicen la siguiente palabra más probable sin tener una comprensión semántica de la realidad. Si los datos de entrenamiento contienen errores o sesgos, el modelo los propagará. Además, los sistemas están diseñados para ofrecer siempre un resultado coherente: si carecen de cierta información, en lugar de admitir su ignorancia, se inclinan por adivinar.

Protección de datos: el RGPD y la Ley de IA

La primera cuestión crítica tiene que ver con la protección de los datos personales. Cuando un abogado introduce información sobre un caso en un chatbot público como ChatGPT, ¿qué ocurre con esos datos? Muchos proveedores utilizan las interacciones de los usuarios para entrenar sus modelos, lo que significa que determinada información confidencial podría ser aprendida por el sistema y resurgir en respuesta a las consultas de otros usuarios, violando tanto el secreto profesional como el RGPD.

El marco normativo se basa en tres pilares que deben funcionar de forma armónica. El RGPD sigue siendo la base de la protección de datos, con sus principios de legalidad, minimización, transparencia y responsabilidad. La Ley de IA de la UE introduce una clasificación de los sistemas por nivel de riesgo y, desde el 2 de agosto de 2025, exige a los proveedores de modelos generativos que documenten detalladamente la arquitectura, los datos de entrenamiento y los mecanismos para limitar los contenidos ilegales.

Conclusión

El futuro de la abogacía será inevitablemente híbrido: la inteligencia artificial es insuperable a la hora de analizar grandes volúmenes de datos, identificar patrones, generar borradores estandarizados y facilitar la documentación jurídica. Pero el discernimiento profesional, la empatía hacia el cliente, la evaluación del contexto específico, la estrategia del litigio y la responsabilidad última seguirán siendo prerrogativas humanas insustituibles. Como reitera el CCBE en su Guía 2025, la IA es una herramienta poderosa, pero la responsabilidad profesional recae y recaerá siempre, y exclusivamente, en el abogado. Los despachos que gestionen esta transición invirtiendo en formación continua, un sistema de compliance riguroso y un control de calidad sistemático no solo evitarán riesgos jurídicos y reputacionales, sino que se posicionarán como líderes en un sector jurídico cada vez más competitivo y tecnológicamente avanzado. Desgraciadamente, los datos de la American Bar Association muestran que el 52 % de los despachos aún carecen de políticas de IA, el 64 % de los abogados no han recibido formación y sólo una minoría verifica sistemáticamente los resultados.

El reto es más cultural que tecnológico: es necesario un cambio de mentalidad para integrar las competencias jurídicas tradicionales con la alfabetización digital y una comprensión crítica de las tecnologías emergentes. La elección es nuestra: soportar pasivamente el cambio o dirigirlo con conciencia profesional.