La nueva guía de Sanidad sobre IA aclara quién responde ante un error clínico

La inteligencia artificial ha dejado de ser una promesa futura para instalarse en procesos asistenciales reales, desde el análisis de imágenes médicas hasta la predicción de riesgos epidemiológicos. Sin embargo, su integración masiva plantea una interrogante crítica para el ecosistema HealthTech y los sistemas de salud: ¿quién asume la responsabilidad cuando el algoritmo se equivoca?

Ante esta disyuntiva, la Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud de España ha publicado una guía fundamental que establece las reglas del juego para profesionales e instituciones. El documento no solo legitima el uso de estas herramientas, sino que traza líneas rojas claras sobre la supervisión humana y la protección de datos.

¿Por qué importa esta guía ahora?

La publicación de estas orientaciones llega en un momento de aceleración tecnológica sin precedentes. Según datos del sector, la adopción de IA en hospitales avanzados ya supera el 30% en áreas específicas como radiología y patología digital. Pero con esa velocidad llega la incertidumbre jurídica.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El contexto regulatorio europeo está cambiando drásticamente. El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act), recientemente aprobado, clasifica explícitamente a los sistemas de IA utilizados en la atención sanitaria como de alto riesgo. Esto implica que cualquier startup o proveedor tecnológico que quiera operar en este mercado debe cumplir con estándares rigurosos de transparencia, calidad de datos y supervisión humana.

La guía española se alinea directamente con este marco normativo, pero lo traduce a la práctica diaria del profesional sanitario. No se trata solo de cumplir la ley europea; se trata de evitar demandas por negligencia médica derivada del uso de software.

Responsabilidad legal: El mito de la «caja negra»

Uno de los puntos más críticos del documento es la aclaración sobre la personalidad jurídica. La IA actual carece de estatus legal propio; es una herramienta, no un sujeto de derecho. Por lo tanto:

La responsabilidad recae en el humano: Si un sistema de IA sugiere un diagnóstico erróneo y el médico lo acepta sin cuestionarlo, la responsabilidad clínica es del profesional o de la institución sanitaria.
Responsabilidad del fabricante: Solo en casos donde exista un defecto intrínseco del sistema (un bug de software o un error de entrenamiento demostrable), podría activarse la responsabilidad civil del proveedor tecnológico.

Para los fundadores de HealthTech, esto tiene implicaciones directas en el diseño de sus productos. Las soluciones que operan como «cajas negras» —donde ni el usuario ni el fabricante pueden explicar cómo se llegó a una conclusión— son inherentemente incompatibles con el modelo de responsabilidad clínica vigente.

Tres pilares para implementar IA en tu organización

La guía identifica cuatro ejes transversales que deben guiar la selección y uso de tecnología. Para cualquier empresa o institución que esté evaluando incorporar estas herramientas, estos son los criterios no negociables:

1. Supervisión humana obligatoria (Human-in-the-loop)

La IA no puede tomar decisiones autónomas finales. Debe funcionar siempre como un sistema de apoyo a la decisión clínica (CDSS). El profesional debe tener la capacidad técnica y organizativa de revisar, cuestionar y rechazar las recomendaciones del algoritmo.

2. Validez clínica verificada

No basta con que el software funcione técnicamente; debe estar validado clínicamente. Esto significa contar con estudios que demuestren que la herramienta mejora los resultados de salud comparada con la práctica estándar, no solo que es precisa matemáticamente.

3. Gobernanza de datos estricta

La guía enfatiza que no se deben introducir datos personales o clínicos identificables en herramientas no autorizadas. Esto obliga a las instituciones a auditar exhaustivamente qué plataformas utilizan sus médicos, evitando el shadow IT (uso de software no autorizado) que pone en riesgo el cumplimiento del RGPD.

Conclusión

La llegada de la IA a la sanidad pública no elimina la figura del profesional, sino que redefine su rol hacia uno de supervisor crítico y gestor de la tecnología. Para el ecosistema emprendedor, el mensaje es claro: el futuro de la HealthTech en Europa y España no pertenece a las máquinas autónomas, sino a las herramientas transparentes, explicables y seguras que potencian —pero nunca sustituyen— el juicio humano.