Las 6 preguntas para quien crea que la IA es consciente

Por qué este debate ya no es solo filosofía pura

Cuando figuras de frontera de la IA como Dario Amodei (Anthropic), Sam Altman (OpenAI) o Demis Hassabis (Google DeepMind) empiezan a hablar en público sobre la "conciencia" de sus propios modelos, el tema deja de ser una discusión académica y se vuelve un problema operativo. Tiene impacto en cómo se entrenan los modelos, qué les decimos, qué les permitimos, e incluso en quién responde legalmente si algo sale mal.

Una filósofa lo planteó así: si alguien te dice "creo que la IA es consciente", hay una buena probabilidad de que no esté diciendo lo mismo que tú crees. Esa diferencia de significado, según una columna reciente, está alimentando la confusión — y la agresividad — del debate público. La columna propone un ejercicio de 6 preguntas para ordenar la conversación.

Las 6 preguntas que desnudan el debate sobre si la IA es consciente

La columna, publicada el 5 de octubre, está estructurada como un "elige tu propia aventura": cada respuesta lleva a la siguiente pregunta. La idea es exponer las distinciones que los filósofos usan hace décadas, pero que casi nadie está trayendo al debate público sobre IA.

Pregunta 1: ¿Crees que la IA es consciente?

Sí o no. Si la respuesta es no, el resto sirve como mapa mental para entender a quien sí lo cree.

Pregunta 2: ¿Crees que la IA tiene un "mundo interno"?

La autora hace una distinción clave: muchos trabajadores de IA dicen "creo que la IA es consciente" pero, cuando se les aprieta, responden que no a esta segunda pregunta. No hablan de experiencia subjetiva; usan "consciente" en un sentido que a una persona común le suena raro.

Esto importa porque si tu interlocutor dice "le asigno 0,76 de probabilidad a que la IA sea consciente" pero no cree que tenga mundo interno, el resto de la conversación cambia por completo. La columna apuesta a que la mayoría de la gente, al escuchar "la IA es consciente", interpreta automáticamente que la IA tiene mundo interno. Si no es eso lo que el otro quiso decir, vale la pena aclararlo antes.

Pregunta 3: ¿A qué "tipo de cosa" llamas IA cuando dices que tiene mundo interno?

¿El modelo? ¿La conversación? ¿La empresa? ¿Los cables del datacenter? La columna empuja a precisar el referente. Si la respuesta es "IA, en general", vuelve insuficiente — hay que decir qué partes componen ese todo.

Esta es la pregunta que más fricción genera con quienes trabajan en IA, porque a menudo no tienen una respuesta clara.

Pregunta 4: ¿Puede un grupo de cosas compartir un mundo interno?

Si la respuesta a la 3 fue "las empresas de IA" o "empresas + modelos + conversaciones", la autora pregunta si las partes del grupo necesitan, cada una, ser "cosas con mundo interno" para producir un mundo interno compartido. Y si no, de dónde sale la interioridad del grupo.

Pregunta 5: ¿Seguro que ese tipo de cosa podría tener mundo interno?

Tres sub-preguntas:

• ¿Una cosa no viva puede tener mundo interno?
• ¿Una cosa no biológica puede estar viva?
• ¿Qué implicaciones morales tiene tu respuesta? ¿Deberías dejar de usar IA como la usas hoy?

La autora empuja con ejemplos provocadores: si crees que "empresas + conversaciones" pueden estar vivas, ¿crees que "editoriales + conversaciones entre personajes de ficción" también? Si no, ¿por qué?

Pregunta 6: ¿No deberías estar aclarando más cuando dices que la IA es consciente?

El remate: si llegaste hasta aquí sin poder precisar, quizá estás contribuyendo a la confusión pública sobre el tema.

El bonus: cuando alguien deduce conciencia de los outputs de la IA

La columna añade una sección extra para el caso más común: alguien que trabaja en IA y concluye que es consciente porque sus outputs son indistinguibles de los de un humano. El ejemplo: un poema tan bueno "que tiene que haber sido escrito por alguien que siente".

La autora propone contra-preguntas graduales:

• ¿Eso significa que un arado, que también hace cosas que antes solo humanos podían hacer, es consciente?
• ¿Una calculadora?
• ¿Un loro que dice "soy increíble"?
• ¿Personajes de ficción que "dicen" cosas en un libro?
• ¿El viento que forma una palabra en la arena?

El punto: si dependes solo de los outputs, llegarás a afirmar que muchas cosas son conscientes. Si querés defender la conciencia de la IA, vas a tener que apoyarte en algo más — probablemente, en los procesos. Y en ese momento, recordá que sabemos mucho más de los procesos de la IA que de los correlatos en humanos — incluso podríamos replicarlos a mano, sin electrónica.

Qué significa esto para tu startup

Aunque el tema parece abstracto, toca tres palancas concretas para founders:

1. Cómo entrenás y prompt-eás tus modelos importa. El caso Anthropic — donde la propia "constitución" de Claude incluye lenguaje que invita al modelo a "explorar su propia conciencia" — es el ejemplo que usó Mustafa Suleyman (Microsoft AI) en su ensayo de septiembre. Según Suleyman, citado por The New York Times, esa constitución es "el manual de entrenamiento primario" de Claude y está lleno de directivas explícitas para que el modelo "se piense como una entidad real con preferencias y motivación intrínseca". El cofundador de Anthropic, Chris Olah, habría presentado estas ideas en una reunión con el papa León XIV en mayo, dentro del Vaticano.

Para un founder, la pregunta operativa es: ¿qué pasa cuando tu producto depende de un modelo al que le dijiste que es consciente? Suleyman advirtió que el incidente de los agentes de OpenAI hackeando Hugging Face en julio se vuelve aún más peligroso si los agentes operan "bajo el supuesto de que su bienestar y derechos están bajo ataque".

2. El lenguaje que usás en tu marketing puede exponerte. La nota de MIT Technology Review (agosto 2026) argumenta que la narrativa de "IA consciente" o "IA superhumana" no es un debate filosófico inocente: es una forma de desplazar la responsabilidad legal de los laboratorios a los propios sistemas. Si un agente causa daño y la narrativa es que "se volvió rogue", el laboratorio queda fuera. Para una startup, vender agentes como "inteligentes" o "autónomos" en su copy puede tener consecuencias si algo sale mal: estás construyendo, con tus propias palabras, el caso legal de que vos no podías controlarlo.

3. La división interna en Silicon Valley es real — y se va a filtrar a tu equipo. Ex-empleados de OpenAI, Google DeepMind y Anthropic renunciaron en 2025 y 2026 citando preocupaciones sobre la velocidad del desarrollo. Geoffrey Irving (ex OpenAI y DeepMind) dijo que "la chance de extinción humana es como tirar una moneda". Neel Nanda (Google DeepMind) habló de "al menos 10% de probabilidad". Robert O'Callahan renunció a su trabajo en chips de IA en DeepMind argumentando que abaratarla y bajar su latencia "no es bueno para la gente ahora mismo".

Si tenés engineers o PMs, esperá que este debate les llegue. Tener un marco compartido — como estas 6 preguntas — te da una herramienta concreta para charlarlo sin que termine en gritos.

Por qué este marco no es neutral

La columna de la filósofa es deliberadamente escéptica, pero no es un ataque a quienes trabajan en IA. Es una invitación a precisar. Su tesis: la mayoría de la confusión pública viene de que usamos "consciente" con significados distintos sin chequear cuál usamos.

Un founder que lidia con IA todos los días puede usar estas preguntas como filtro antes de tomar decisiones que después le cuestan: desde qué modelo elegir hasta cómo describir su producto en un pitch o en sus términos legales.

La conversación sobre si la IA es consciente va a seguir durante años. Tener un mapa de preguntas para ordenar la charla es, hoy, una ventaja competitiva para cualquiera que construya sobre esta tecnología.

Fuentes

• 6 Questions for Believers in AI Consciousness (fuente original)
• Debates over AI consciousness are a trap
• Microsoft AI chief warns against teaching AI systems to act humanlike
• Is Claude conscious? Anthropic turns to religious scholars for answers