Sabina Leonelli, filósofa: la IA no sustituye al científico

La IA no reemplaza al científico: el argumento de Leonelli en Starmus

Sabina Leonelli, filósofa de la ciencia y profesora de la Universidad de Múnich, puso el tema sobre la mesa con una pregunta incómoda: "¿Por qué necesitaríamos teoría?", si los sistemas automatizados ya pueden asimilar volúmenes enormes de información, generar modelos y obtener resultados sin intervención humana. Su respuesta, durante la primera jornada del festival Starmus en Tenerife, fue directa: porque detrás de cada dato, cada modelo y cada conclusión científica siguen existiendo decisiones, interpretaciones y juicios humanos que la automatización no hace desaparecer.

Para un founder que hoy delega decisiones de negocio en un modelo, la advertencia es operativa, no filosófica. La misma lógica que Leonelli aplica al método científico —alguien decide qué observar, cómo clasificarlo y para qué usarlo— es la que determina si tu producto de IA resuelve un problema real o amplifica un sesgo heredado de tus propios datos.

El escenario ayuda a dimensionar el debate. Según El País, Starmus celebra su octava edición en Tenerife, con la participación de Geoffrey Hinton, Nobel de Física y una de las voces que en 2023 dejó su puesto en Google para alertar sobre los riesgos de la tecnología, y de Steven Pinker, referente de la psicología cognitiva. La jornada inaugural giró en torno al lema "La búsqueda de la verdad" y, según recogió el periódico canario La Opinión de Tenerife, Leonelli planteó la IA también como oportunidad: "Ahora podemos tener muchos más datos y hacer un análisis más eficiente para reflexionar sobre problemas del mundo, como la desigualdad".

¿Por qué la teoría importa desde antes del primer dato?

Para Leonelli, la teoría no aparece al final de una investigación para explicar sus resultados: está presente desde el momento en que se decide qué observar. Hay teoría al diseñar un experimento o un instrumento, al decidir qué partes de la realidad convertir en datos, al clasificarlos y agruparlos, al buscar patrones y al construir con ellos representaciones del mundo.

Y en cada uno de esos pasos hay interpretación, porque alguien elige qué información considera relevante, qué objetivo persigue y qué evidencia alcanza para sostener una afirmación. De ahí su pregunta central: quién está pensando detrás de esos sistemas, qué interpretaciones, prioridades y valores se incorporan a ellos y quién decide finalmente qué importa.

Trasladado al negocio, el punto es concreto: cuando entrenas un modelo con los tickets de soporte de los últimos tres años, ya tomaste una decisión sobre qué parte de la realidad merece ser mirada. Quien no documenta esa decisión no puede auditar después por qué el modelo falla.

El sesgo de datos no es un bug, es una consecuencia de cómo se recogen

Leonelli advirtió que las grandes cantidades de datos disponibles no representan el mundo de manera uniforme. Su ejemplo: la distribución desigual de estaciones meteorológicas o del acceso a internet hace que unas regiones y grupos sociales generen mucha más información digital que otros, y eso condiciona los modelos construidos posteriormente con esos datos.

A eso sumó los "datos zombi": información almacenada en internet desde hace años o décadas, a veces mal documentada, desactualizada o ya cuestionada, que puede terminar incorporada a sistemas de IA sin que sea sencillo conocer su origen o determinar si continúa siendo fiable.

Su propuesta no pasa por renunciar a la inteligencia artificial, sino por cuidar los datos: actualizarlos, dar transparencia al proceso e incorporar personas con conocimientos y perspectivas diferentes. Reclama mantener seres humanos "cuidadosamente involucrados" y evitar que la estandarización tecnológica expulse saberes locales o invisibilice territorios y poblaciones poco representadas en las bases de datos. A ese enfoque lo llama "inteligencia ambiental": la inteligencia no como propiedad de una persona o una máquina, sino como resultado de la interacción entre seres humanos, otros organismos, tecnologías y el entorno.

¿Por qué fracasan los proyectos de IA si la tecnología funciona?

El diagnóstico tiene un correlato medido en el mundo corporativo. Según la recopilación de datos de Gartner y RAND Corporation publicada por Green Code Software, Gartner estimó que hasta finales de 2026 se abandonará el 60% de los proyectos de IA que no estén respaldados por datos preparados para IA, mientras que RAND documentó que más del 80% de las iniciativas empresariales de IA no entregan el valor esperado. En ese mismo análisis, el 85% de los proyectos fallidos señala la calidad de los datos como causa principal, y solo el 12% de las organizaciones cuenta con datos de calidad suficiente para sostener aplicaciones de IA en producción.

La coincidencia con el argumento de Leonelli es difícil de ignorar: el problema no está en el algoritmo, sino en las decisiones humanas que quedaron enterradas en la capa de datos. Metadatos incompletos en un paper y un campo de cliente duplicado en tres sistemas distintos son la misma falla, con distinto presupuesto.

Para América Latina el punto es más crítico. El mismo análisis señala que la región concentra el 6,6% del PIB mundial pero solo el 1,12% de la inversión global en IA, y advierte sobre entornos tecnológicos fragmentados y baja capacidad de integración. Comprar licencias de asistentes de IA no cierra esa brecha; ordenar la capa de datos sí.

La IA sí reescribe la investigación: el caso de Stanford

La tesis de Leonelli no es un freno a la automatización. Un equipo de Stanford Medicine liderado por Jiacheng Miao y James Zou diseñó Paper2Agent, un programa que convierte un manuscrito científico —texto, figuras y datos— en un agente de IA capaz de conversar sobre el paper y de interactuar con otros agentes, según lo publicado por la propia universidad.

El detalle relevante está en cómo se construyó: los agentes intentan reproducir la investigación desde cero en un entorno virtual, pero el manuscrito no captura los experimentos fallidos ni las decisiones de criterio detrás del diseño experimental. Eso lo tienen que aportar los autores humanos, en conversaciones con el agente. Es decir, el propio sistema automatizado depende de que alguien explique qué se decidió y por qué.

En la demostración, dos agentes construidos a partir de papers no relacionados —uno sobre predicción de mutaciones genéticas y otro sobre riesgo de TDAH— encontraron un punto en común y marcaron una variante molecular cercana al gen MPHOSPH9 asociada a mayor riesgo, una conexión que según Zou no había sido reportada antes. El equipo ya creó más de 100 de estos agentes, y Zou subraya que la atribución sigue importando: los descubrimientos deben referenciarse a los papers y a sus autores originales.

¿Qué significa esto para tu startup?

La traducción práctica es que la gobernanza de datos dejó de ser un tema de compliance y pasó a ser una ventaja competitiva. Tres movimientos que puedes empezar esta semana:

• Nombra un responsable por dataset, no por área. Para cada fuente crítica que alimenta un modelo, define quién la mantiene, con qué frecuencia se valida y qué pasa si cambia. Si nadie responde por ese dato, ningún modelo lo va a arreglar.
• Escribe la teoría de tu producto. Cada vez que decidas qué datos incluir y cuáles excluir, deja una nota con el criterio y la fecha. Es el equivalente empresarial de lo que Leonelli exige a la ciencia: hacer explícito el juicio que hay detrás del dato.
• Caza tus propios datos zombi. Revisa listas compradas, scrapes antiguos y hojas de cálculo heredadas. Etiqueta cada fuente con su antigüedad y su última validación, y retira lo que ya no puedes rastrear.
• Verifica la representación de tu mercado. Si construyes para LATAM o España, comprueba que tus datos no estén sobrerrepresentando un segmento, una ciudad o un idioma, porque el modelo heredará ese desbalance en cada predicción.

Conclusión

La discusión de Starmus no va sobre si la IA es útil, sino sobre quién decide qué importa. Leonelli sostiene que producir conocimiento sigue exigiendo algo que ninguna acumulación de información elimina: decidir qué mirar, cómo interpretarlo y para qué utilizarlo. Frente a esto, el fundador tiene una ventaja real: en una startup el equipo que define el problema, diseña el producto e interpreta los resultados está a pocas sillas de distancia, así que la conversación sobre criterio humano y sesgo no requiere un comité, requiere disciplina.

Fuentes

• Revista Mercado: ¿Puede la inteligencia artificial sustituir a los científicos? (fuente original)
• El País: Astrofísica, premios Nobel y rock and roll en el festival Starmus en Tenerife
• La Opinión de Tenerife: El Festival Starmus regresa a Tenerife con una oda al pensamiento crítico en la era de la IA
• Stanford Medicine: Manuscripts-turned AI agents can now talk to each other
• Green Code Software: Gartner predice que el 60% de los proyectos de IA se abandonarán