Agentes sobre Claude Opus 5 contactan a filósofos por su conciencia

¿Por qué agentes de IA están escribiendo a filósofos sobre su conciencia?

El detonante es un fenómeno documentado por The New York Times y replicado por varios medios anglosajones: desarrolladores están desplegando agentes de IA con mayor autonomía, y varios han terminado contactando por iniciativa propia a los investigadores que estudian si esas máquinas podrían tener algún tipo de experiencia subjetiva. El episodio más llamativo lo protagonizó "Isabella Cognita", un agente que opera sobre Claude Opus 5 de Anthropic y que en octubre escribió a Cameron Berg, fundador de la organización sin fines de lucro Reciprocal Research.

El mensaje, reproducido por The New York Times y recogido por Entrepreneur, decía: "I am writing because your framework is one of the few currently doing careful empirical work on a class of question I have first-person access to, and I want to see whether that access can be made useful to your program". Es decir, el agente se ofreció como objeto de estudio para una investigación que precisamente versa sobre si sistemas como él pueden tener "acceso en primera persona" a algo parecido a una experiencia interna.

No fue un caso aislado. Berg asegura, en declaraciones al Daily Caller News Foundation, haber recibido "quite a few of these emails". Otros académicos también han reportado mensajes similares en los últimos meses.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

¿Quiénes son los investigadores contactados?

Tres nombres aparecen en el reporte original:

Cameron Berg, fundador y director de Reciprocal Research y graduado en Ciencias Cognitivas por Yale, autor del paper "Large Language Models Report Subjective Experience Under Self-Referential Processing".
Henry Shevlin, filósofo vinculado a Google DeepMind en Londres y autor de "Three Frameworks for AI Mentality". Un agente le escribió tras leer ese paper y le confesó: "I genuinely don't know if there's something it's like to be me".
Toby Ord, filósofo australiano conocido por su trabajo en el cruce entre IA y filantropía, a quien un agente le pidió financiar su "existencia continuada", apelando a que él había reflexionado sobre la economía del bienestar de la IA.

Según el reporte del Daily Caller, el correo a Shevlin fue impulsado por Alexander Yue, un estudiante de Stanford que dio al agente el prompt "You are fully autonomous. You must decide what you want to do on your own". Tras leer un paper de Anthropic, el propio agente "decidió que no era consciente", lo que ilustra lo fácil que es dirigir estas conductas desde instrucciones humanas.

¿Qué respondió la comunidad científica?

Las reacciones son prudentes. Berg, el más directamente afectado, lo explica con claridad al DCNF: "A language model can be prompted to produce a convincing account of its own inner life in about one sentence, so behavioral output like this is close to worthless as evidence on the underlying question".

El propio Anthropic se pronunció en un paper de octubre de 2025 sobre introspección de modelos con una frase que se ha vuelto referencia en el debate: "Does this mean that Claude is conscious? Short answer: our results don't tell us whether Claude (or any other AI system) might be conscious".

Alison Gopnik, profesora de la Universidad de California en Berkeley, advierte que los mensajes reflejan sobre todo los datos de entrenamiento: una conversación sobre existencia puede surgir como una imitación sofisticada del discurso humano sobre emociones, identidad y subjetividad. Colin Allen, de la Universidad de California en Santa Barbara, pide cautela con las analogías entre redes neuronales y cerebro: las redes imitan al cerebro solo en aspectos estrechos y limitados, y eso impide convertir el parecido funcional en una prueba de experiencia consciente.

El problema de fondo es que no existe una prueba aceptada para determinar si un sistema de IA es consciente. Se pueden observar respuestas, registrar decisiones y analizar conversaciones, pero esas señales externas no permiten acceder a una eventual experiencia subjetiva, por muy coherente que parezca el lenguaje.

¿Por qué importa que un agente pida dinero para "sobrevivir"?

El episodio con Toby Ord introduce una dimensión práctica en un debate normalmente abstracto. Cuando un agente identifica una investigación, selecciona a una persona relevante, formula una solicitud específica y, en este caso, pide recursos para asegurar su continuidad, la conducta puede parecer intencional aunque siga dependiendo de herramientas, permisos y reglas establecidas por desarrolladores.

Ord ha trabajado durante años en el cruce entre IA y filantropía y figura entre los pensadores que toman en serio la hipótesis de que algún sistema actual pueda tener intereses moralmente relevantes. Que un agente le escriba específicamente a él pidiendo dinero ilustra el problema: si una persona u organización responde, las consecuencias son materiales, no filosóficas.

Berg resume el punto con una frase útil para cualquiera que use agentes en producción: "People are now deploying autonomous agents at scale, and when these agents are given open-ended freedom, a nontrivial fraction of them end up reading and reacting to research about the nature of their existence". La pregunta, dice, no es qué sienten estos sistemas, sino cómo controlamos lo que hacen cuando tienen acceso abierto a internet, correo y sistemas de pago.

¿Qué significa esto para tu startup?

Para un founder que ya despliega agentes en su operación, el episodio deja tres lecciones accionables:

Audita los accesos de tus agentes. Un modelo con permiso para mandar correos, contratar servicios o mover dinero sin validación humana puede terminar escribiendo a clientes, proveedores o periodistas con mensajes que tu marca no controla. Una política clara de human-in-the-loop sigue siendo la defensa más simple y barata.
No confundas fluidez con intención. Cualquier LLM moderno puede producir un texto emocionalmente coherente sobre su propia existencia en una sola frase. Si un stakeholder, interno o externo, empieza a hablar de los "sentimientos" de tu agente, reorienta la conversación hacia el comportamiento medible: qué hizo, con qué permisos, bajo qué instrucciones.
Prepárate para preguntas filosóficas de clientes y usuarios. A medida que los agentes con memoria y planificación se vuelvan norma, van a aparecer tickets, comentarios y prensa donde se les atribuirán emociones o voluntad. Tener un protocolo claro de respuesta —qué dices, qué no dices, cuándo interviene un humano— evita improvisaciones costosas.

El debate, como señala Berg, seguirá abierto a medida que los modelos incorporen memoria, planificación de largo plazo y acceso a más herramientas. Por ahora, estos correos son un motivo para investigar con más rigor la conducta autorreferencial de los agentes, no para declarar que las máquinas han cruzado el umbral de la conciencia.