Por Mercedes Carbonell Peláez

La inteligencia artificial puede generar en segundos una respuesta clara, ordenada y convincente. Sin embargo, no quiere decir que sea correcta. La fluidez lingüística con la cual redacta las respuestas puede hacernos confundir una respuesta correcta en la forma (redacción) con una respuesta correcta de fondo.

Aunque un buen prompt aumenta la probabilidad de obtener un resultado útil y correcto, no lo garantiza. A fin de cuentas, la herramienta puede cometer errores como malinterpretar el contexto, omitir información o presentar datos incorrectos, entre otros. Por ello, la supervisión humana es indispensable y debe acompañar todo el proceso.

Para hacerlo, conviene distinguir tres operaciones que son clave: revisar, verificar y auditar. La intensidad de cada una de estos pasos dependerá de la importancia y del nivel de riesgo de cada tarea.

Revisar la información

Revisar significa evaluar críticamente. Esto aplica tanto para la información que proporcionamos a la herramienta como para el producto o resultado que recibimos.

La revisión comienza con la información de entrada o input. Debemos preguntarnos si la tarea es adecuada para apoyarse en inteligencia artificial y si requiere que le compartamos información específica para responder con base en ella. También hay que identificar si dicha información contiene datos personales, sensibles o confidenciales; si puede anonimizarse; y si los documentos están completos y actualizados. Una respuesta puede ser incorrecta no sólo por una falla de la herramienta, sino porque fue construida con información insuficiente o equivocada.

La instrucción también forma parte del input. El prompt debe expresar con claridad el objetivo, el contexto, la tarea, el destinatario, el formato esperado y los límites relevantes. Si la solicitud es ambigua o incompleta, la respuesta puede alejarse de lo que necesitamos.

Después viene la revisión del resultado o output. Ésta consiste en leer críticamente la respuesta para detectar problemas de claridad, estructura, coherencia, utilidad, tono o suficiencia. Debemos valorar si responde a la solicitud, si desarrolla todos los puntos necesarios, si contiene contradicciones o redundancias y si resulta adecuada para su destinatario. En este proceso conviene compararla con el prompt para identificar instrucciones ignoradas u omisiones.

Revisar no significa únicamente corregir la redacción o confirmar que el texto “suena bien”. Implica determinar si el proceso partió de información e instrucciones adecuadas y si el resultado cumple la función para la que fue solicitado.

Verificar la información

Verificar significa comprobar las afirmaciones generadas por la inteligencia artificial contra fuentes o datos confiables. Aquí ya no basta la lectura crítica: se requiere contrastar.

Si la IA afirma que una norma dispone algo, hay que revisar la norma vigente. Si cita una sentencia, debemos localizar la resolución y confirmar que exista y sostenga la idea atribuida. Si señala un plazo, hay que comprobarlo en la legislación aplicable. Si resume un contrato, es necesario contrastar sus conclusiones con el documento completo.

La verificación debe concentrarse especialmente en la información que nos ayudará a sostener una conclusión o tomar una decisión. En síntesis, revisar permite detectar que algo parece incompleto, confuso o poco útil; verificar permite saber si la información es verdadera, vigente y aplicable al caso concreto.

Auditar el proceso

Auditar significa reconstruir y examinar el proceso mediante el cual se utilizó la inteligencia artificial. Su finalidad no es volver a valorar el input o el output, sino asegurar la trazabilidad: saber cómo se obtuvo el resultado, quién intervino y qué controles se aplicaron.

Una auditoría debe permitir identificar qué herramienta se utilizó y cuáles eran sus permisos o condiciones de uso; para qué tarea fue empleada; quién realizó la interacción; cómo se desarrolló el proceso; y qué mecanismos de revisión, verificación y autorización se aplicaron. También debe dejar claro quién modificó el producto, quién validó la información y quién aprobó la versión final.

La trazabilidad permite asignar responsabilidades, detectar fallas y explicar las decisiones adoptadas. Si posteriormente aparece un problema, podemos reconstruir el proceso y determinar en qué punto fallaron los controles.

La intensidad depende del riesgo

No todas las tareas requieren los mismos controles. La revisión, la verificación y la auditoría deben ser más rigurosas según las posibles consecuencias de un error, la sensibilidad de la información y el uso que se dará al resultado.

En una actividad de bajo riesgo puede bastar una revisión general. En cambio, cuando el producto será entregado a un cliente, presentado ante una autoridad o utilizado para tomar una decisión relevante, será necesario verificar cuidadosamente la información y conservar evidencia del proceso, de las personas que intervinieron y de las autorizaciones otorgadas.

No tendría sentido aplicar el mismo nivel de documentación a una lluvia de ideas que a un escrito presentado ante una autoridad. La proporcionalidad permite concentrar la supervisión donde realmente se necesita.

Conclusión

Usar bien la inteligencia artificial no depende únicamente de saber escribir buenos prompts. También exige revisar lo que ingresamos y recibimos, verificar la información que sostiene el resultado y asegurar la trazabilidad cuando el nivel de riesgo lo justifique.

Es importante que recordemos que la responsabilidad profesional no se transfiere a la herramienta. La IA puede ayudarnos a trabajar más rápido; pero revisar, verificar y auditar es lo que permite que también trabajemos mejor y con mayor responsabilidad.

Nota: Este artículo retoma algunas ideas del libro

Cómo utilizar la inteligencia artificial en el trabajo jurídico,

de Miguel Carbonell. ¿Tú ya lo leíste?

---

También te recomendamos…