Agricultor pierde 10 hectáreas de sésamo por seguir a una IA

El caso del señor Wu: 10 hectáreas perdidas en una noche

Un agricultor chino de 67 años perdió 10 hectáreas de plántulas de sésamo y US$22.000 después de aplicar al pie de la letra una receta de agroquímicos que le generó una IA. Llevaba casi un año consultándola, los consejos anteriores le habían funcionado, y los buenos resultados fueron lo que le hizo dejar de cuestionarla. Es el escenario clásico que ningún founder debería pasar por alto al automatizar decisiones críticas: la confianza acumulada en una herramienta que falla con la misma seguridad con la que acierta.

¿Qué le pasó exactamente al señor Wu?

El agricultor, conocido como el señor Wu, vive en Chuzhou, China, y cultivaba sésamo en aproximadamente 150 mu de tierra — unas 24,7 acres, casi 10 hectáreas, según reportan Tom's Hardware y TechRepublic. Llevaba casi un año utilizando una aplicación de inteligencia artificial para resolver dudas agrícolas: desde fertilización hasta calendarios de tareas. Al principio era escéptico, pero los aciertos previos le dieron confianza.

El problema empezó cuando le pidió a la IA ayuda para combatir las malas hierbas y las plagas que amenazaban su cosecha. Como cuenta TechSpot, el chatbot le devolvió una receta agresiva: una mezcla de herbicidas —entre ellos flufenacet (un herbicida diseñado para campos de soja) y flupirimetalin— junto con insecticidas como tiametoxam y benzoato de emamectina. Wu cargó la mezcla en su dron y la pulverizó sobre todo el campo, sin verificar con ningún agrónomo. Al día siguiente, según la traducción de la entrevista en vídeo recogida por Tom's Hardware, la escena era devastadora: "La maleza y las plántulas murieron al mismo tiempo, y las plántulas de sésamo murieron aún más rápido".

Cuando Wu volvió a preguntarle a la IA por qué había muerto su cultivo, el sistema reconoció el error: el flufenacet es un herbicida pensado para soja, no para sésamo, y el sésamo, al ser una planta de hoja ancha, es especialmente vulnerable. La IA también admitió, según TechRepublic, que el producto debía aplicarse de forma localizada, no esparcido sobre todo el campo.

La trampa psicológica: confianza repetida ≠ fiabilidad repetida

Lo más revelador del caso no es el error puntual, sino el mecanismo que lo hizo posible. Wu había usado la IA durante meses sin incidentes. Cada respuesta correcta reforzaba su percepción de que "la IA sabe". El fenómeno tiene nombre: sesgo de automatización, y es uno de los riesgos más subestimados cuando se delega criterio a un sistema.

Como sintetiza TechRepublic: "El problema no es que la IA siempre se equivoque; es que un sistema puede dar respuestas útiles repetidamente, construir la confianza del usuario, y luego producir una mala recomendación con el mismo nivel de confianza". Las IAs generativas no dan señales de duda: formulan la respuesta correcta y la incorrecta con el mismo tono, la misma fluidez y la misma aparente autoridad. El disclaimer de "puede cometer errores" que aparece al pie de cada chat está ahí por obligación legal, pero el usuario, como Wu, lo ignora.

No es un caso aislado

El episodio de Wu no es el primero ni será el último. TechRepublic y TechSpot recuerdan un caso similar ocurrido un año antes: un hombre de 60 años sustituyó la sal común por bromuro de sodio después de que ChatGPT se lo recomendara como alternativa más saludable. Acabó desarrollando bromismo, un trastorno psiquiátrico raro que no se veía con frecuencia desde el siglo XIX, causado por intoxicación crónica de bromuro.

El patrón es idéntico al del agricultor: usuario no experto, tema técnico sensible, respuesta plausible del modelo y cero validación externa. Los grandes modelos de lenguaje son brillantes para generar texto coherente y peligrosos cuando ese texto se traduce en decisiones con consecuencias físicas, económicas o sanitarias.

¿Qué significa esto para tu startup?

Si tu producto usa IA para asesorar a usuarios —en agricultura, salud, finanzas, legal, recursos humanos o cualquier dominio con consecuencias reales— este caso es un espejo de lo que puede salir mal. Tres acciones concretas que puedes implementar hoy:

• Circuit breaker humano obligatorio en decisiones de alto impacto. Si el output del modelo va a una acción física (comprar, aplicar, dosificar, recetar, firmar), exige una capa de revisión humana o un experto externo antes de ejecutar. La IA propone, el humano dispone.
• Diseña la UI para que el usuario dude cuando toca dudar. No se trata de esconder el disclaimer, sino de cambiar el diseño: mostrar niveles de certeza explícitos, marcar con旗帜 rojas las recomendaciones sobre temas sensibles, exigir confirmación activa cuando se trate de mezclas, dosis o importos críticos.
• Mide y publica las tasas de error de tu modelo. Si tu herramienta recomienda agroquímicos, fármacos o inversiones, abre una sección pública de "casos límite" o "alucinaciones conocidas". La transparencia no destruye la confianza del usuario —la construye, y te protege legalmente.

En resumen: la IA es una herramienta excelente para acelerar decisiones informadas, pero letal cuando sustituye al criterio informado. El señor Wu no perdió 10 hectáreas por confiar en la tecnología, sino por dejar de verificar después de que la tecnología le dio buenas respuestas. Esa es la línea roja que tu producto no debe cruzar.

Fuentes

• Un agricultor confió en los consejos de la IA para cuidar su cosecha (Xataka)
• A Farmer Trusted AI's Advice. It Cost Him 25 Acres of Crops (TechRepublic)
• Farmer Horrified as AI Gives Bad Advice That Kills 25 Acres of Crops (Futurism)
• Farmer trusted AI after it gave good advice, then it helped wipe out 25 acres of his crops (TechSpot)