Chatbot IA médico: qué puede hacer y dónde están los límites

Qué no debe responder un chatbot médico es la pregunta que toda consulta debería hacerse antes de automatizar nada, porque la idea suele llegar por el motivo de siempre: la centralita se llena de llamadas para pedir cita, cambiarla o preguntar si ya está el resultado de una prueba, mientras el personal atiende presencialmente.

El riesgo no está en automatizar eso. Está en que, sin quererlo, el mismo canal empiece a responder algo que ya no es logística sino un acto clínico que solo puede hacer un profesional.

Separar las dos cosas desde el diseño es lo que marca la diferencia entre un asistente útil y uno que se mete en terreno que no le corresponde.

Qué no debe responder un chatbot médico bajo ningún concepto

Qué no debe responder un chatbot médico tiene una respuesta clara: nunca debe evaluar síntomas, estimar si algo es grave, sugerir un diagnóstico, interpretar el resultado de una prueba o recomendar un medicamento y su dosis. Eso es acto médico, y automatizarlo traslada la responsabilidad de una decisión clínica a un sistema que no está autorizado a tomarla.

La tentación de "orientar un poco" mientras se deriva es precisamente lo que hay que evitar: no hay una versión suave de evaluar un síntoma que sea segura.

Por qué el límite no es solo de buen criterio, sino normativo

La misma asimetría que rige en cualquier sector con capa sanitaria se aplica aquí con más fuerza, porque el margen de error de una consulta médica humana es menor que el de casi cualquier otro sector.

Hay además un límite regulatorio concreto que rara vez aparece en el material comercial de los proveedores de chatbot: un software cuya finalidad declarada sea diagnosticar, prevenir, controlar o predecir una enfermedad puede entrar en la definición de producto sanitario del Reglamento (UE) 2017/745, con la obligación de marcado CE que eso implica.

Un chatbot de recepción que empieza a valorar síntomas se acerca a esa frontera sin que nadie lo haya decidido así.

A eso se suma que los datos de salud son una categoría especial bajo el RGPD, con condiciones más estrictas para su tratamiento automatizado, tal y como recuerdan las directrices del European Data Protection Board. Guardar la conversación de un paciente que menciona un síntoma no es un dato más de atención al cliente.

Qué sí puede resolver sin pisar el acto médico

La parte administrativa de una consulta o centro médico es amplia, y ahí un chatbot aporta sin asumir ningún riesgo clínico:

• Pedir, cambiar o cancelar una cita.
• Confirmar horarios, especialidades disponibles y ubicación.
• Avisar de que un resultado ya está listo para recoger, sin interpretar su contenido.
• Gestionar la reimpresión de un justificante o volante ya emitido por el profesional.
• Recordatorios de cita y de preparación previa (ayunas, documentación que hay que traer).
• Información de precio y financiación en el caso de consulta privada.

Cada una de estas gestiones es la que hoy ocupa el teléfono de una consulta con poco personal en horario de mañana, sin que el sistema tenga que valorar nada sobre el estado de quien pregunta.

La frontera: protocolo firmado, no diagnóstico

Un chatbot médico puede aplicar una lista cerrada de señales que el propio centro ha redactado y aprobado —por ejemplo, ciertas palabras que disparan siempre "esto lo atiende ya una persona"— sin que eso sea diagnosticar.

Es enrutamiento contra un protocolo firmado por el centro, no una valoración clínica: la diferencia importa porque confundir una cosa con la otra es justo lo que un chatbot médico no puede permitirse.

Las señales que deberían sacar cualquier conversación del flujo automático son, en un contexto médico, más estrictas que en cualquier otro sector: basta la mención de un síntoma, un dolor o una duda sobre medicación para que el sistema escale sin opinar.

Lo que vemos en producción: dato propio de Paideia

En Paideia hemos operado agentes de recepción para consultas y centros de fisioterapia, y con esa muestra —limitada a nuestra propia cartera— hemos ido llegando a un patrón.

La mayoría de las conversaciones sobre citas, horarios o resultados se resuelven sin tocar nada clínico, pero basta que aparezca la palabra "duele" o "grave" para que la conversación deba salir del flujo automático de inmediato.

Nuestra experiencia es que ese punto de corte funciona mejor cuando está escrito y aprobado por el propio centro antes de lanzar el agente, no decidido sobre la marcha ante el primer caso dudoso.

Qué hacer esta semana

Si tu consulta ya usa o está evaluando un chatbot, escribe hoy mismo la lista cerrada de palabras y situaciones que deben derivar siempre a una persona —síntoma, dolor, duda sobre medicación, urgencia— y pide que el proveedor confirme por escrito que el sistema no responde nada fuera de esa lista sin escalar.

Esa lista, redactada y firmada por el centro, es lo que separa un asistente de recepción bien diseñado de una promesa de "orientación médica" que ningún chatbot debería hacer.

Fuentes: Reglamento (UE) 2017/745 sobre productos sanitarios, vía EUR-Lex, y directrices del European Data Protection Board sobre tratamiento de datos de salud como categoría especial del RGPD.