Por Mercedes Carbonell Peláez

La inteligencia artificial generativa (IAG) ha transformado de manera significativa diversos ámbitos profesionales, y el derecho no es la excepción. En este blog hemos abordado previamente qué es la inteligencia artificial, su impacto en el ámbito jurídico[1] y sus múltiples aplicaciones: desde el estudio del derecho hasta el razonamiento jurídico[2] hasta la redacción de escritos legales[3].

Hoy, comprender qué es la IAG —y, sobre todo, saber utilizarla estratégicamente— se ha convertido en una habilidad indispensable para diferenciar el perfil profesional. No se trata únicamente de una competencia extra, sino de una herramienta que puede aumentar significativamente la productividad y, en muchos casos, mejorar la calidad del trabajo que realizamos.

Sin embargo, es necesario acompañar este potencial con una comprensión crítica: la inteligencia artificial no es infalible. Por el contrario, puede cometer errores que, en el contexto jurídico en particular, pueden tener consecuencias relevantes. Por ello, resulta fundamental identificar sus principales riesgos y aprender a gestionarlos adecuadamente.

Principales errores

1. Alucinaciones

Uno de los riesgos más conocidos es la llamada alucinación, que consiste en la generación de información falsa, imprecisa o completamente inventada, pero presentada de forma coherente que la vuelve convincente. Esto ocurre porque los modelos de lenguaje funcionan con base en probabilidades lingüísticas, no en una verificación factual directa.

2. Sesgos

La IA puede reproducir sesgos presentes en los datos con los que fue entrenada. Esto puede generar respuestas discriminatorias o sistemáticamente desfavorables para ciertos grupos de personas. En el ámbito jurídico, esto puede traducirse en análisis o recomendaciones que refuercen estereotipos o desigualdades estructurales, vulnerando derechos fundamentales como la igualdad y la no discriminación.

3. Fallas de contexto

Cuando los prompts o instrucciones son incompletos o ambiguos, la IA tiende a “llenar los vacíos” con información que parece lógica, pero no necesariamente es correcta. Esto es especialmente problemático en temas jurídicos que requieren precisión contextual o normativa.

4. Omisiones

En tareas complejas o con múltiples instrucciones, la IA puede dejar fuera elementos relevantes del análisis sin advertirlo explícitamente. Esto ocurre porque prioriza ciertas partes de la solicitud sobre otras, lo que puede derivar en respuestas aparentemente correctas, pero incompletas o insuficientes para sustentar una conclusión jurídica sólida.

5. Opacidad

Los sistemas de IA no siempre explican claramente cómo llegan a una respuesta, lo que dificulta evaluar su confiabilidad, especialmente en contextos jurídicos donde la motivación es esencial. Esta falta de trazabilidad puede complicar la justificación de argumentos y limitar la posibilidad de someterlos a un escrutinio riguroso.

6. Desprotección de datos personales

El uso de IA implica riesgos relevantes en materia de privacidad. Si no se tiene claridad sobre qué información se está compartiendo y cómo puede ser utilizada o almacenada por la plataforma, existe el riesgo de exponer datos confidenciales o sensibles. Esto es particularmente delicado en el ejercicio jurídico, donde el manejo de información protegida no sólo es una obligación ética, sino también legal.

¿Qué hacer frente a estos posibles riesgos?

Ante estos riesgos, surge una pregunta inevitable: ¿deberíamos dejar de usar la inteligencia artificial generativa? La respuesta es no. A pesar de sus limitaciones, la IAG sigue siendo una herramienta con un enorme potencial para fortalecer la práctica jurídica. Puede ayudarnos a optimizar procesos, reducir cargas operativas y mejorar la calidad de ciertos productos; eso sí, siempre que se utilice de manera adecuada.

Entonces, el punto no está en abandonar tajantemente su uso, sino en aprender a utilizarla con criterio e implementando estrategias de mitigación de los riesgos mencionados. Esto implica, en primer lugar, asumir una revisión humana constante. La información generada por la inteligencia artificial no debe darse por válida de forma automática; al contrario, debe ser verificada, contrastada y, en su caso, corregida.

En segundo lugar, es necesario desarrollar la capacidad de construir instrucciones o prompts de calidad.[4] La inteligencia artificial responde en función de la información que recibe, por lo que la claridad, especificidad y suficiencia del contexto que proporcionamos influyen directamente en la calidad de sus respuestas.

Finalmente, es fundamental no sustituir el criterio profesional. La inteligencia artificial no reemplaza el razonamiento jurídico ni la toma de decisiones informadas. Su valor radica en complementar nuestras capacidades, no en sustituirlas. En este sentido, su uso debe enmarcarse siempre como una herramienta sólo de apoyo con supervisión constante.

No es lo mismo saber usar la IAG y usarla bien. Para lograr esto último es necesario hacerlo con sentido crítico, responsabilidad y una comprensión clara de sus alcances y, sobre todo, limitaciones. Esa es la verdadera diferencia.

---

También te recomendamos…

---

[1] Al respecto, puede consultarse: https://centrocarbonell.online/2025/12/03/inteligencia-artificial-y-su-impacto-juridico/ y https://centrocarbonell.online/2024/12/25/una-nota-sobre-el-impacto-de-la-inteligencia-artificial-en-el-trabajo-de-los-abogados/

[2] Para más información, ver: https://centrocarbonell.online/2026/02/06/el-impacto-de-la-inteligencia-artificial-generativa-en-el-razonamiento-juridico-moderno/

[3] Sobre este punto, revisar: https://centrocarbonell.online/2026/02/11/como-redactar-buenas-demandas-en-la-era-de-la-inteligencia-artificial-generativa/

[4] Al respecto, puede consultarse: https://centrocarbonell.online/2025/12/30/arquitectura-de-prompts-que-es-y-como-se-usa/ y https://centrocarbonell.online/2025/12/31/que-es-un-prompt-juridico-y-por-que-es-clave-en-el-uso-de-la-inteligencia-artificial-en-el-derecho/