IA en la Salud bajo riesgo de error: Es legitimo su uso?

En salud humana, una respuesta equivocada de una Inteligencia Artificial no es simplemente un error tecnológico: puede influir en decisiones que afectan directamente la vida de una persona. Por eso, asumir que la IA puede operar bajo un principio de “error cero” o “incertidumbre cero” resulta insuficiente frente a la complejidad de los escenarios clínicos. Durante SILIA 2026, la investigadora boliviana Luz Jaqueline Farah Bravo del INSTITUTO DE INVESTIGACION EN SALUD Y DESARROLLO - IINSAD. Facultad de Medicina UMSA, presentó el Modelo Retruque, una propuesta que replantea la interacción entre seres humanos e Inteligencia Artificial mediante navegación cognitiva, contextualización, evidencia, legitimidad y pensamiento crítico.

De responder preguntas a construir rutas de pensamiento

El Modelo Retruque, diseñado por Luz Jaqueline Farah Bravo, propone superar la lógica tradicional de los chats basados en una secuencia lineal de pregunta y respuesta.

Su objetivo es crear una interacción con la IA que sea contextualizada, comprensible y segura, especialmente en ámbitos tan sensibles como la medicina y la investigación en salud.

La propuesta parte de una premisa fundamental: la tecnología no puede eliminar completamente la incertidumbre, pero sí es posible diseñar mejores mecanismos para que las personas reconozcan, cuestionen y gestionen sus posibles errores.

En lugar de limitarse a entregar una única respuesta, Retruque construye un entorno de navegación cognitiva. La Inteligencia Artificial identifica el perfil de quien consulta, considera el contexto relevante de la consulta y ajusta la profundidad de la interaccion. Cuando resulta necesario, formula preguntas pertinentes.

De este modo, la IA deja de ser únicamente una herramienta que “contesta” y comienza a funcionar como un sistema que estimula el análisis, amplía perspectivas y fortalece el criterio humano antes de llegar a una decisión.

Modelo Retruque para una IA más ética en salud

1. Reconocer que la incertidumbre forma parte de la medicina

Uno de los principios centrales de la propuesta es aceptar que ni la medicina ni la Inteligencia Artificial pueden garantizar una ausencia absoluta de error.

El desafío, por tanto, no consiste únicamente en crear algoritmos cada vez más sofisticados, sino en desarrollar formas responsables de interactuar con ellos. En contextos clínicos, una respuesta inexacta puede tener consecuencias considerablemente mayores que en otros ámbitos de utilización de IA.

Por eso, el pensamiento crítico, el cotraste de la información y la validación humana adquieren un papel fundamental.

2. Poner la legitimidad humana en el centro de la interacción

La conferencia destaca un aspecto que todavía requiere mayor atención: la legitimidad del ser humano cuando interactúa con sistemas algorítmicos y utiliza sus resultados para tomar decisiones.

Organismos internacionales han avanzado en temas relacionados con gobernanza, derechos de los pacientes y riesgos asociados con la Inteligencia Artificial. Sin embargo, el Modelo Retruque dirige la mirada hacia otra pregunta esencial: ¿cómo garantizar que el usuario mantenga una participación consciente y crítica durante el proceso?

La tecnología puede aportar información, evidencias y nuevas perspectivas, pero el criterio humano continúa siendo indispensable para contextualizarla.

3. Contextualizar la respuesta según quién utiliza la IA

No necesita la misma explicación un estudiante de colegio que un médico clínico o un investigador científico.

Retruque comienza identificando el perfil del usuario y el contexto de la consulta, ajustando el nivel de profundidad técnica de la interacción. Esta contextualización permite construir respuestas más pertinentes y reducir información innecesaria o poco adecuada para quien realiza la consulta.

El sistema puede diferenciar entre perfiles como estudiantes, universitarios, médicos o investigadores y adaptar la profundidas y navegación según las necesidades y el proposito de la consulta.

4. Invertir la conversación: ahora la IA también pregunta

En la interacción convencional, el usuario formula una pregunta y la Inteligencia Artificial genera una respuesta.

Retruque modifica esa dinámica.

La IA puede asumir un papel activo interrogando al usuario para conocer desde qué ámbito quiere explorar el problema, qué contexto resulta relevante o qué dirección desea seguir.

Esta inversión del diálogo permite enriquecer la interacción y evita que una respuesta inicial sea interpretada automáticamente como una conclusión definitiva.

La conversación se convierte así en un proceso progresivo de construcción de conocimiento.

5. Sustituir el camino lineal por rutas multidireccionales

Otra innovación del modelo consiste en presentar diferentes posibilidades para continuar una consulta.

Después de una respuesta, el sistema puede desplegar diversas alternativas o rutas de exploración, permitiendo que el usuario observe el mismo fenómeno desde perspectivas distintas.

Durante la presentación se utilizó como ejemplo una consulta relacionada con la saturación de oxígeno. Además de abordar su dimensión clínica convencional, la IA podría sugerir explorar la saturación de oxígeno en astronautas.

Una ruta aparentemente inesperada puede ampliar la comprensión del fenómeno, abrir nuevas perspectivas y estimular el pensamiento lateral del profesional.

6. Gestionar las alucinaciones en lugar de ignorarlas

Las denominadas alucinaciones de la IA representan un riesgo especialmente relevante cuando se utilizan modelos generativos en escenarios de salud.

Una respuesta convincente desde el punto de vista lingüístico no necesariamente es correcta desde el punto de vista médico.

El Modelo Retruque busca reducir una aceptación pasiva de las respuestas de la máquina mediante mecanismos que fomentan exploración, contraste, contextualización y cuestionamiento.

7. La IA debe ampliar la vision humana, no sustituir el criterio humano

El valor más significativo del modelo aparece en su concepción de la relación entre persona y tecnología.

La Inteligencia Artificial puede ayudar a recorrer nuevas posibilidades, organizar conocimiento y descubrir perspectivas que quizá no estaban inicialmente contempladas. Sin embargo, esas capacidades adquieren verdadero sentido cuando contribuyen a ampliar la vision humana y enreiquecer el espacio de analisis, sin sustituir el criterio de quien toma la decisión.

Retruque propone, en consecuencia, pasar de una IA centrada exclusivamente en producir respuestas a una IA diseñada para acompañar procesos de pensamiento.

Conclusión

El Modelo Retruque plantea una cuestión esencial para el futuro de la Inteligencia Artificial en salud: la innovación no debe medirse únicamente por la capacidad de obtener respuestas más rápidas, sino también por nuestra capacidad para cuestionarlas, contextualizarlas, contrastarlas y gestionar responsablemente sus errores. La inteligencia artificial amplia la vision y el espacio de análisis, el criterio humano contextualiza, valora y decide.