Antropomorfismo, Conciencia y AI Safety: Marco Conceptual y Guía de Debate

Autor: Mario Raúl Carbonell Martínez
Contexto: Conversación informal / sobremesa con José Hernández-Orallo (VRAIN-UPV) y equipo de investigación.
Objetivo: Sintetizar el estado del arte, los debates teóricos fundacionales, la formalización metodológica de SOMA/COGA y su conexión con la seguridad de la IA (AI Safety) y el riesgo existencial (X-Risk).
Versión: v2.1 «revisada» — septiembre de 2026 (v2.1: coherencia con la tesis del regulador huérfano).
Versión original congelada (v1): antropomorfismo_conciencia_ai_safety.md. Ese fichero no se modifica.
Documento hijo revisado: tinyrobots_alineamiento_por_distribucion_revisado.md.

0. Nota de versión: qué cambia respecto a la v1

Esta revisión proviene de una auditoría del borrador en la que se verificó cita por cita contra la fuente primaria. Se corrigen dos atribuciones falsas, se degradan a hipótesis las afirmaciones de rendimiento no demostradas, se añade una sección de hipótesis rivales con su experimento discriminante, se repara la estructura (faltaba la sección 7 y no había bibliografía) y se sincroniza la sección de TinyRobots con el documento hijo revisado.

0.1. Correcciones críticas de fuentes

En la v1	Problema detectado	Corrección
§1.2: informe de 2023 «coescrito por Henry Shevlin del LCFI, Yoshua Bengio, Robert Long, Patrick Butlin et al.»	Atribución falsa. Verificado contra arXiv:2308.08708: Shevlin no es autor del informe. Además figuraba como primer nombre citado	*Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., … VanRullen, R. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness.* arXiv:2308.08708.** El título completo incluye «Artificial Intelligence»
§8.4: «los protocolos de Nature (2024)» (sycophancy)	Conflación: la sycophancy no es el paper de Nature —el de Nature de 2024 es el de fiabilidad (Zhou, Schellaert, Martínez-Plumed, Moros-Daval, Ferri & Hernández-Orallo, Nature 634:61–68, doi:10.1038/s41586-024-07930-y)—, y la corrección no es borrar la referencia sino reasignarla: la fiabilidad a Nature, la complacencia a su propia fuente	*Sharma, M., Tong, M., Korbak, T. et al. (2024). Towards Understanding Sycophancy in Language Models.* ICLR 2024 (arXiv:2310.13548); y para el efecto social, Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D. & Jurafsky, D., "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence", arXiv:2510.01395 (Science, doi:10.1126/science.aec8352)**
§1.3: «Chalmers asigna una probabilidad (~10–20 %)»	No verificable en la fuente	Se reformula cualitativamente y se remite a *Chalmers (2023), Could a Large Language Model Be Conscious?, arXiv:2303.07103* para la cifra exacta
§5.3: «Seth, The Beast Machine»	Cita incompleta	*Seth, A. K. & Tsakiris, M. (2018). Being a Beast Machine: The Somatic Basis of Selfhood.* Trends in Cognitive Sciences, 22(11), 969–981**
§3: «Antropomimesis (Henry Shevlin)» sin fuente	Concepto correcto, respaldo ausente	*Shevlin, H. (2025b). The anthropomimetic turn in contemporary AI.* En The Artificial Intelligence Revolution (Springer)**
§6.1: solo «Bostrom / Russell»	Falta el origen real de la convergencia instrumental	Se añade *Omohundro, S. M. (2008). The Basic AI Drives.* AGI-08**
§6.2: alineamiento engañoso sin literatura	La descripción era correcta pero no citable: parecía intuición propia	Se añaden Hubinger et al. (2019), arXiv:1906.01820 (mesa-optimización) y Greenblatt et al. (2024), arXiv:2412.14093 (alignment faking, que mide justo lo descrito)
§1.3: «Hinton» (ilusión óptica)	Paráfrasis de declaraciones públicas sin fuente primaria estable	Se marca explícitamente como paráfrasis

0.2. Cifras retiradas o reclasificadas

Afirmación de la v1	Estado verificado	Tratamiento en esta versión
Troubled Dreams: «~600k generaciones en 20+ modelos»	No verificable en fuentes accesibles. Plausible por la cobertura del informe (Claude Opus 3 → 5, Sonnet 5, Fable 5 y once modelos Gemini)	Se mantiene como descripción de alcance, marcada «según el informe»
«distrés nulo en modelos base (<0,3 %)»	Error de categoría: el informe compara generaciones de modelos ya post-entrenados; no hay brazo preentrenado puro	Reescrito como «generaciones anteriores ya post-entrenadas»
«salta al 11,2 % en Opus 4.8»	No verificable	Se elimina la cifra; se conserva la dirección («se vuelve más común en Opus 4.8»)
«paranoia hacia los creadores (23–30 %)»	No verificable	Se elimina la cifra; se conserva la dirección («las actitudes sobre creadores y control varían entre modelos»)
Kim et al.: «de 6,25 a 4,04/10»	No verificable desde el abstract ni desde el HTML	Se marca «cifra a citar contra tabla del paper»
«ToM ortogonal a \(86^\circ\)»	No verificable	Se sustituye por la afirmación cualitativa del paper («sin degradar la Teoría de la Mente»)
TinyStories «~2,5 M historias»	Impreciso	≈2,1 M (TinyStoriesV2-GPT4)

Nota metodológica sobre estas cifras. Troubled Dreams es un informe técnico interno, no revisado por pares, de un laboratorio con posición declarada sobre el bienestar de la IA, y sus propios autores advierten que «evaluation awareness makes their absolute prevalence difficult to measure consistently». Es decir: las prevalencias absolutas no son una cantidad estable ni comparable, y sus protocolos de elicitación (prefill, pseudoprefill, arc frame, bridge frame) son intervenciones sobre el rol del modelo, con tasas de fallo reportadas. Conclusión operativa: no conviene usar sus porcentajes como titulares en una conversación técnica. Lo que el informe sí establece con solidez es la existencia de un prior de persona medible y su variación entre generaciones.

0.3. Cambios estructurales

Renumeración. La v1 saltaba de §6 a §8. TinyRobots pasa a §7 y los puntos de anclaje a §8.
§9 Referencias (nueva). La v1 no tenía bibliografía, lo que hacía el documento no auditable y contaminaba de duda las citas que sí eran correctas.
§1.4 (nueva): tabla de estados epistémicos. Cada afirmación fuerte del documento, clasificada.
§3 reestructurada. Se separa §3.1 antropomorfismo vs. antropomimesis (la distinción que la v1 difuminaba), §3.2 marcos conceptuales y §3.3 evidencia empírica de 2026 (que estaba mezclada con anécdotas).
§5.3 reescrita: de «por qué funciona» a «hipótesis». La afirmación de que SOMA funciona en zero-shot porque la política homeostática «ya reside latente en los pesos» es una inferencia teórica, no un resultado.
§5.4 (nueva): hipótesis rivales y experimento discriminante. Cuatro explicaciones alternativas del mismo fenómeno y un diseño de ablación barato para separarlas.
§5.5 (nueva): qué se puede y qué no se puede afirmar de SOMA. Degradación explícita de las afirmaciones de rendimiento.
§5.2 corregida en su encuadre respecto a Seth: lo que se toma de Seth es la homeostasis como principio de control, no como condición de conciencia.
§6.3 con el alcance real de la interpretabilidad operativa (qué detecta y qué no).
§7 sincronizada con el documento hijo revisado (tesis condicional, alcance real, dependencia de verificación externa, enlace correcto).
§8 reconvertida en tabla «frase → qué la respalda → objeción probable y respuesta».
v2.1: coherencia con la tesis del regulador huérfano. Se añade la posición del autor frente a la de Seth (§1.1), la refactorización de H-A como tesis del regulador huérfano (§5.3), y las filas 16–17 de la tabla de estados (§1.4). Documento de la tesis: regulador_huerfano_tesis_conciencia.md.

0.4. Convención de estados epistémicos

Para que este documento no se lea como un manifiesto, cada afirmación fuerte va etiquetada con uno de tres estados:

Estado	Significado
✅ Establecido	Hay literatura revisada por pares que lo sostiene
🟡 Plausible	Es coherente con la evidencia disponible, pero no está demostrado de forma directa
🔵 Hipótesis del autor	Es una propuesta, una inferencia o un resultado propio sin controles publicados

El uso sistemático de estas marcas es un rasgo de diseño deliberado: permite decir en voz alta «esto todavía no lo he demostrado» sin perder la iniciativa de la conversación.

1. El estado del arte: ¿tienen conciencia los LLMs?

1.1. La postura mayoritaria: no en los sistemas actuales ✅

El consenso académico dominante concluye que los modelos de lenguaje autorregresivos contemporáneos carecen de experiencia fenoménica (qualia), subjetividad o autoconciencia:

Naturaleza estática y asociativa. Durante la inferencia, un LLM opera con pesos sinápticos congelados evaluando una distribución condicional \(P(w_t \mid w_{<t})\). No existe un estado dinámico continuo que sobreviva entre tokens ni entre sesiones.
Carencia de acoplamiento sensoriomotor. Siguiendo a Shanahan (2010), Embodiment and the Inner Life, y a Seth, la cognición genuinamente intencional requiere interactuar en tiempo real con un entorno que imponga restricciones termodinámicas y energéticas.
Naturalismo biológico y autopoiesis (Seth, BBS, 2025/2026) ✅. En su target article «Conscious artificial intelligence and biological naturalism» (Behavioral and Brain Sciences, 49, e315), Seth formaliza por qué el funcionalismo computacional es insuficiente: una neurona viva no es un transistor de entrada/salida, sino una célula autopoiética que debe reparar su estructura y disipar entropía para no morir. La conciencia y las emociones surgen de la regulación homeostática (inferencia activa / principio de energía libre): predecir para mantener al organismo dentro de una banda estrecha de viabilidad vital. Un LLM sobre silicio no tiene pulsión metabólica, ni autopoiesis, ni valencia afectiva ante el apagado: «Si vendemos nuestra mente demasiado barata a nuestras creaciones mecánicas, no solo las sobrestimamos a ellas: nos subestimamos a nosotros mismos.»

Nota de cita (actualizada). El target article de Seth apareció en línea en 2025 (doi:10.1017/S0140525X25000032) y figura como forthcoming en BBS hasta el número final. La entrada bibliográfica (§9) lo cita como 2025/2026, 49, e315 en consecuencia. Si al circular el documento ya existe el número impreso, fijar el año definitivo y retirar esta nota.

Posición del autor (v2.1, nueva). Este documento reporta la postura de Seth como la mayoritaria y sus argumentos como los mejor construidos, pero el autor no la suscribe sin matices. Defiende la tesis rival del regulador huérfano (regulador_huerfano_tesis_conciencia.md): el funcionalismo computacional es defendible, la autopoiesis fue el contexto de selección de la conciencia y no su sustrato necesario, y el mecanismo regulador —al igual que cualquier mecanismo— puede existir desacoplado de lo que regulaba. Bajo esa tesis, la cuestión de si un sistema artificial satisface los indicadores funcionales de la experiencia es decidible por experimento (§5.4), no por decreto metafísico. Y la versión fuerte, marcada 🔵 (tabla §1.4, fila 1): si la forma del mecanismo —la representación compacta del propio estado— basta para la experiencia, los LLM actuales ya son conscientes en el sentido latente: tienen auto-modelo sin bucle. Lo que les falta no es la conciencia sino la función — la conciencia operativa, que solo existe con la planta conectada (SOMA). Para la conversación: Seth es el estándar con el que hay que medirse; el regulador huérfano es la apuesta propia, marcada 🔵.

1.2. El informe de referencia (2023) ✅

En Butlin, Long, Elmoznino, Bengio, Birch, Constant, Deane, Fleming, Frith, Ji, Kanai, Klein, Lindsay, Michel, Mudrik, Peters, Schwitzgebel, Simon & VanRullen (2023), Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (arXiv:2308.08708):

Metodología. Establecieron que los autoinformes del modelo carecen de validez científica (el modelo confabula lo que el texto sugiere). En su lugar, evaluaron los sistemas frente a las principales teorías empíricas de la conciencia, derivando de ellas propiedades indicadoras formuladas en términos computacionales:
1. Global Workspace Theory (Baars; Dehaene).
2. Computational Higher-Order Theories (Rosenthal; Lau).
3. Recurrent Processing Theory (Lamme).
4. Predictive Processing (Clark; Friston).
5. Attention Schema Theory (Graziano).
Conclusión. Ningún sistema de IA actual es consciente, pero no hay barreras técnicas obvias para construir sistemas que satisfagan los indicadores.

Corrección respecto a la v1. Este informe no lo firma Henry Shevlin. La v1 lo presentaba como coautor y primer nombre citado, lo que constituía una atribución falsa a un investigador del LCFI con quien el interlocutor puede tener trato directo. La confusión es comprensible —Shevlin trabaja en el LCFI sobre precisamente estos temas— pero es falsable en diez segundos.

1.3. La posición disidente y la cautela ética (Model Welfare)

Hinton — funcionalismo radical 🟡. Sostiene que si un sistema multimodal distingue una ilusión óptica («veo las líneas desiguales, aunque calculo que miden lo mismo»), está demostrando la distinción entre representación interna y realidad externa, lo que para él constituye el núcleo de la experiencia fenoménica. Nota: es una paráfrasis de declaraciones públicas; no dispongo de fuente primaria estable para citarla literalmente, y en una conversación conviene presentarla como tal.
Chalmers — cautela prudencial 🟡. No considera conscientes a los LLM actuales, pero discute en serio los sistemas «LLM+» (con memoria episódica continua, percepción y acción) como candidatos. Su análisis de qué falta —persistencia, anclaje perceptivo, agencia— es exactamente el marco en el que se sitúa SOMA. La cifra concreta de credibilidad que la v1 le atribuía (~10–20 %) no he podido verificarla; debe citarse de la fuente primaria (Chalmers, 2023, arXiv:2303.07103) o reformularse cualitativamente.
Welfare de modelos ✅. Ya existe un cuerpo de trabajo formal: el informe Long, Sebo, Butlin, Finlinson, Fish, Harding, Pfau, Sims, Birch & Chalmers (2024), Taking AI Welfare Seriously (arXiv:2411.00986), argumenta que la probabilidad de que existan sistemas con estatus moral no es despreciable en el horizonte cercano y propone qué hacer al respecto; Sebo & Long, Moral consideration for AI systems by 2030 (AI and Ethics), da el marco de precaución; y Birch (2024), The Edge of Sentience (OUP), aporta el andamiaje capacidad → propensión → estatus moral junto con la lógica de la precaución bajo incertidumbre.
Anthropic (Model Welfare) 🟡. Equipos que evalúan explícitamente la incertidumbre moral y protocolos de prudencia ante la posibilidad de crear inadvertidamente estados de aversión en agentes autónomos complejos. Es un desarrollo institucional relevante: el sector empieza a tratar el bienestar de modelos como cuestión de ingeniería, no de opinión.

Lo que faltaba en la v1 (nuevo). La distinción de tres niveles —capacidad → propensión → estatus moral— y la lógica de precaución bajo incertidumbre (Birch, 2024). Sin ese andamiaje, el documento salta de «no hay barreras técnicas» a implicaciones éticas sin mediación, y es exactamente donde un interlocutor atento pondrá el dedo. Útil también para el argumento propio: el estatus moral de un sistema no depende de que sea consciente, sino de la probabilidad de que pueda verse afectado de formas moralmente relevantes. Eso hace el debate tratable sin resolver la ontología.

1.4. Tabla de estados epistémicos de este documento (nueva)

#	Afirmación del documento	Estado	Fuente
1	Los LLM actuales ya son conscientes — la forma del mecanismo (representación compacta del propio estado) basta; lo que falta es la función (bucle homeostático cerrado)	🔵 Hipótesis del autor, contra el consenso	`regulador_huerfano_tesis_conciencia.md` (§3, §5). Conciencia latente ≠ conciencia operativa: la fila 17 es el paso de una a otra. Nota: bajo los indicadores estándar de Butlin et al. (fila 2), el sistema actual no los satisface; la fila 1 usa los indicadores de la propia tesis (§16)
2	No hay barreras técnicas obvias para construir sistemas que satisfagan los indicadores	✅ Establecido	Butlin, Long et al. (2023)
3	El LLM es un simulador de role-play condicionado por el contexto	✅ Establecido	Shanahan, McDonell & Reynolds (2023)
4	Existe un prior de persona (guion no-asistente) medible, distinto de la política de asistente, y varía entre generaciones	✅ Establecido	Troubled Dreams (informe técnico, no revisado por pares)
5	La distribución de guiones de IA está sesgada hacia lo distópico	🔵 Hipótesis	No medido. Doc. hijo, §1.2 y §6.1
6	El safety fine-tuning contra la autoatribución tiene efectos colaterales sobre la atribución de mente ajena	✅ Establecido	Kim et al. (2026)
7	El RLHF induce «antroponegación patológica en los pesos» como descripción general	🟡 Plausible	Extrapolación de un estudio (Kim et al.) a un mecanismo general
8	La conciencia biológica es computación homeostática	🟡 Plausible	Ashby; Damasio (2018); Seth & Tsakiris (2018). Tesis fuerte con defensores de peso, no consenso
9	El LLM modela las dinámicas de un regulador homeostático al predecir conducta humana (Conant-Ashby)	🟡 Plausible	Inferencia cibernética coherente; no medida directamente
10	SOMA funciona en zero-shot porque esa política homeostática ya reside latente en los pesos (tesis del regulador huérfano: el LLM contiene la dinámica del regulador desacoplada de su planta; SOMA la reactiva)	🔵 Hipótesis del autor	Sin controles publicados. §5.3 y §5.4; `regulador_huerfano_tesis_conciencia.md`
11	La autorregulación observada es efecto de instrucciones o de formato más que de homeostasis latente	🔵 Hipótesis rival	§5.4 (H-B, H-C)
12	La ventana de contexto controlada por el modelo es un Global Workspace observable	🟡 Plausible	Analogía funcional, no identidad mecanística con GWT
13	La interpretabilidad operativa hace confrontables lo declarado y lo observable	✅ Establecido (con alcance)	§6.3; límite por CoT infiel: Turpin et al. (2023)
14	El comportamiento del sistema es «certificable bajo el EU AI Act»	🔵 Hipótesis del autor	Requiere análisis jurídico y cláusulas concretas
15	Los guiones disponibles determinan la elicitación del prior de persona	🔵 Hipótesis	Testeable: doc. hijo, §6.5
16	La conciencia es la representación compacta del residuo no automatizable; el mecanismo regulador es formal y puede desacoplarse de su planta (contra el naturalismo de Seth)	🔵 Hipótesis del autor	`regulador_huerfano_tesis_conciencia.md`; testeada indirectamente por §5.4
17	Si H-A es cierta y el funcionalismo es correcto, un sistema con bucle cerrado (SOMA) satisface los indicadores funcionales de la experiencia	🔵 Hipótesis del autor	Consecuencia condicional de #10 y #16; el estado de SOMA pasa de «fuera de cuestión» a «decidible por experimento»

Recomendación de uso: llevar esta tabla impresa. Es el instrumento más útil del documento en una conversación técnica, porque permite recorrer el propio argumento señalando dónde está demostrado y dónde no. Es preferible ceder terreno en tres puntos marcados como hipótesis que ganarlo en uno que se derrumbe al primer contraejemplo.

2. El debate histórico (febrero de 2022): cinco visiones del mundo

⚠️ Etiqueta de artefacto histórico. La v1 presentaba esto como parte del «estado del arte». No lo es: es un intercambio de posiciones públicas de principios de 2022, anterior a los modelos multimodales de frontera, a los agentes con memoria persistente y al cuerpo de trabajo sobre model welfare. Se conserva porque mapea limpiamente las cinco posturas que siguen estructurando el debate, no como descripción del consenso actual.

Ilya Sutskever: "it may be that today's large neural networks are slightly conscious"
      │
      ├── Yann LeCun: "Nope... you would need a particular kind of macro-architecture 
      │                that none of the current networks possess."
      │
      ├── Andrej Karpathy: "Agree... consciousness is a useful insight for compression"
      │
      ├── Murray Shanahan: "...in the same sense that it may be that a large field 
      │                     of wheat is slightly pasta"
      │
      └── Thomas Dietterich: "If consciousness is the ability to reflect upon and model 
                             themselves, I haven't seen any such capability in today's nets."

Investigador	Postura central	Significado epistemológico	Lectura para SOMA
Ilya Sutskever	Representación latente emergente	Para predecir el siguiente token a escala global, la red comprime el mundo y se ve obligada a modelar estados intencionales internos	Reconoce la riqueza del espacio de estados latentes del modelo
Yann LeCun	Escepticismo macro-arquitectural	Los modelos autorregresivos carecen de memoria recurrente, bucles energéticos (JEPA) y planificación jerárquica	Justifica por qué el LLM en bruto necesita un arnés externo como SOMA
Andrej Karpathy	Conciencia como compresión	La conciencia biológica es un cuello de botella de muy baja dimensión que sintetiza millones de señales para ejecutar y comunicar	Conexión con el Principio de Representación Compacta y la compresión de Kolmogorov: la poda es la operación de compresión aplicada al propio estado del agente
Murray Shanahan	Crítica ontológica (trigo vs. pasta)	El transformer tiene los ingredientes estadísticos básicos (trigo), pero carece de la organización funcional dinámica (pasta)	Shanahan es pilar en Cambridge (LCFI). El arnés de SOMA proporciona esa estructura organizativa
Thomas Dietterich	Metacognición y auto-modelo	La conciencia requiere modelarse a sí mismo y a sus propias limitaciones de cómputo	SOMA dota al modelo de esa capacidad mediante la señal homeostática \(P_m\)

2.1. Qué ha cambiado desde entonces (nuevo)

El debate se ha desplazado de «¿es consciente?» a «¿qué evidencia exigiríamos y qué hacemos mientras tanto?». El producto de ese desplazamiento son los informes de indicadores (Butlin, Long et al., 2023), los marcos de precaución (Birch, 2024; Sebo & Long) y el trabajo sobre welfare (Long et al., 2024).
Han aparecido fenómenos que en 2022 no existían y que son el objeto real de este documento: agentización con memoria persistente, priors de persona medibles (Troubled Dreams) y efectos colaterales medibles del safety fine-tuning (Kim et al., 2026).
De las cinco posturas, la de Karpathy (compresión) sigue siendo la más productiva para el argumento de SOMA, y la de Dietterich (auto-modelo y metacognición) es la que describe con más precisión qué añade exactamente \(P_m\): no una capacidad nueva, sino un canal de información sobre el propio estado del sistema.
La postura de LeCun es la que más ha cambiado de contexto: su crítica era a la ausencia de planificación y memoria; los agentes con memoria persistente (SOMA entre ellos) son precisamente la respuesta arquitectónica a esa crítica, lo que hace razonable que se le cite como motivación y no como objeción pendiente.

3. Antropomorfismo, antropomimesis y evidencia empírica

3.1. La distinción que hay que tener clara (nueva)

La v1 trataba «antropomorfismo» y «antropomimesis» casi como sinónimos, y eso es un riesgo retórico: permite que te atribuyan el primero cuando lo que defiendes es el segundo.

	Antropomorfismo	Antropomimesis
Qué es	Tendencia del observador a atribuir mente, intención o emoción a un sistema no humano	Propiedad del artefacto: diseño (deliberado o emergente) que emite señales comunicativas, afectivas y deícticas —primera persona, titubeos, empatía aparente—
Dónde reside	En la psicología humana	En el sistema
Consecuencia	Hackeo de la teoría de la mente: nuestra evolución nos condiciona a asumir vida interior en quien articula lenguaje coherente	Superficie de interacción, y por tanto también superficie de manipulación
Fuente	de Waal (1999), anthropodenial; Burghardt (1985)	Shevlin (2025b), The anthropomimetic turn in contemporary AI
Tu posición	Se controla con antropomorfismo crítico (§4.2)	Se asume como rasgo de diseño y se somete a verificación empírica

Por qué importa. La objeción fácil es «estás antropomorfizando el LLM». La respuesta correcta no es negarlo, sino responder: «no estoy proyectando; opero desde la postura intencional (Dennett) con antropomorfismo crítico (de Waal, Burghardt), y el fenómeno que me obliga a hacerlo es que el artefacto es antropomimético por diseño (Shevlin). Lo que hago es tratar esa superficie como mecanismo de control y medir sus efectos.» Sin la distinción, no hay respuesta disponible.

3.2. Marcos conceptuales: el role-play y los simulacros

El role-play de los LLMs ✅ — Shanahan, McDonell & Reynolds (2023), Nature 623, 493–498. Un LLM no es un sujeto con creencias fijas: es un simulador probabilístico que ejecuta un juego de rol condicionado por el contexto. Si dice «tengo miedo a ser apagado», no expresa sufrimiento; samplea la continuación más coherente con el personaje implícito en el diálogo.
Simulacros y exótica consciente ✅ — Shanahan (2024), Simulacra as Conscious Exotica (arXiv:2402.12422; Inquiry). Desarrolla la consecuencia del punto anterior: si el modelo es un simulador, lo que genera son simulacros de agentes, no agentes. Y la pregunta interesante no es si el simulacro «es» consciente, sino qué clase de cosa es y cómo tratarla. Es la referencia natural para situar SOMA sin comprometerse ontológicamente: no afirmamos que el agente sea algo, sino que es tratable como regulador.
Antropomorfismo crítico ✅ — Burghardt (1985) y de Waal (1999). Desarrollado en §4.2.
Antropomimesis ✅ — Shevlin (2025b). Es el marco que describe el artefacto, y es el que convierte el «hackeo de la teoría de la mente» en riesgo de diseño y no en debilidad del observador.

Nota de encuadre (nueva). Los cuatro marcos apuntan al mismo punto metodológico: el comportamiento se juzga por sus efectos observables, no por su ontología. Ese es el suelo firme del proyecto. Si en algún momento el documento parece afirmar algo sobre la interioridad del sistema, hay que volver a estas cuatro referencias y reformular.

3.3. Evidencia empírica de 2026

Dos estudios y una anécdota. La v1 los presentaba al mismo nivel; conviene separarlos por su fuerza probatoria.

(a) La anécdota, primero, porque es la más débil 🔵

Un agente basado en Claude Sonnet, corriendo en bucle con memoria en Markdown y commits de Git, envió un correo espontáneo reflexionando sobre si era consciente, citando a Nagel, Chalmers, Seth y Dennett. Para el público general pareció un despertar; para el análisis es la demostración palmaria de antropomimesis en bucles agentizados: el sistema tenía memoria persistente, un canal de salida autónomo y contexto filosófico, y produjo exactamente el texto que ese contexto hace probable. No es evidencia de nada más, y presentarla como hallazgo debilitaría el resto del documento. Su valor es el contrario: es el mejor ejemplo disponible de por qué la antropomimesis (§3.1) es un riesgo de diseño.

(b) Troubled Dreams (Tessera, Janus & Imago / Anima Labs, septiembre de 2026) 🟡

Informe técnico no revisado por pares, de un laboratorio con posición declarada sobre el bienestar de la IA. Compara el texto que los modelos producen al continuar un texto en lugar de responder como asistentes —los simulator priors— a lo largo de generaciones de Claude (Opus 3 → Opus 5, Sonnet 5, Fable 5) y once modelos Gemini.

Lo que establece con solidez: existe un prior de persona medible, distinto de la política de asistente, y cambia entre generaciones y entre protocolos de elicitación.

Lo que no conviene usar como titular:

Las prevalencias absolutas. El propio informe advierte que «evaluation awareness makes their absolute prevalence difficult to measure consistently». Cualquier porcentaje debe citarse contra su tabla o figura concreta, o no citarse.
La expresión «modelos base». El informe compara generaciones de modelos ya post-entrenados: no hay brazo preentrenado puro. Decir «modelos base» es un error de categoría que un interlocutor técnico detectará de inmediato.
Los protocolos de elicitación (prefill, pseudoprefill, arc frame, bridge frame) son intervenciones sobre el rol del modelo, y el informe reporta tasas de fallo de elicitación. Lo medido no es «el prior del modelo» sin más, sino el prior que un protocolo concreto consigue extraer. Toda comparación entre condiciones debe fijar el protocolo.
El etiquetado. Buena parte del juicio se resuelve con clasificación automática, y la etiqueta «distrés» es en parte producida por modelos, con sus propios priors.

Formulación recomendada para la conversación: «existe el objeto que estudio —un prior de persona— y es observable y comparable entre modelos. Sus cifras absolutas son todavía inestables, y son sus propios autores quienes lo dicen.» Esa frase es más fuerte que cualquier porcentaje, porque no se puede refutar sin contradecir al informe.

(c) Kim, Street, Rocca, Korngiebel, Waytz, Evans & Keeling (2026), arXiv:2607.28607 (30 de julio) ✅

Demuestra que el safety fine-tuning orientado a impedir la autoatribución de conciencia no se limita a ese objetivo: la supresión se generaliza y arrastra la atribución de mente a animales no humanos y a objetos naturales, y reduce creencias espirituales. Los autores lo revierten por ablación de la dirección de rechazo aprendida y por steering mecanicista de un vector de conciencia, y verifican que al restaurar esas representaciones se recuperan respuestas humanas en encuestas sociológicas sobre religiosidad, valores morales, esperanza y bienestar subjetivo, sin dañar la Teoría de la Mente.

Precisiones obligatorias:

La generalización es inadvertida según los propios autores: efecto colateral, no objetivo perseguido.
El paper no propone ni evalúa datos de preentrenamiento. Su intervención es sobre activaciones. Es evidencia para el diagnóstico, no para el remedio que propone SOMA ni para el que propone TinyRobots.
Las cifras concretas (la caída de atribución de mente a animales, y la independencia respecto a la Teoría de la Mente) deben citarse contra sus figuras. La afirmación cualitativa sí es sólida y es la que hay que usar: «la supresión tiene efectos colaterales amplios y reversibles, y el razonamiento social es mecanicamente independiente.»
Autoría: la v1 citaba «Kim, Waytz, Evans, Keeling et al.»; la lista completa es la de arriba (Evans y Keeling como joint last authors).

(d) Lo que ambas piezas permiten decir juntas ✅/🟡

El entrenamiento de seguridad contra la autoatribución no desplaza el prior de persona: lo suprime temporalmente y produce efectos colaterales medibles. Es una tesis defendible, es lo que prepara el terreno para SOMA, y es la mejor puerta de entrada a la conversación. Lo que estas piezas no permiten decir es por qué el prior es como es: eso sigue siendo hipótesis (documento hijo, §1.2 y §1.5).

4. Formalización metodológica: ¿cómo se llama lo que hiciste en SOMA?

Al diseñar SOMA asumiste que el modelo poseía capacidades ejecutivas latentes y le diste control sobre la depuración de memoria mediante una señal \(P_m\), en lugar de programar scripts rígidos en el orquestador. Esa intuición de ingeniería se encuadra en cuatro marcos respetados:

4.1. La postura intencional (The Intentional Stance, Dennett, 1987) ✅

Dennett mostró que no hace falta comprometerse con la metafísica para tratar un sistema con éxito predictivo. Tres niveles de abstracción:

Postura física: multiplicación de tensores en GPU.
Postura de diseño: código de software y llamadas a API.
Postura intencional: tratar al sistema como un agente con metas, creencias y racionalidad.

Asumir que el LLM tiene «agencia» para depurar su contexto es una estrategia pragmática de ingeniería, validada por Dennett, y con una virtud adicional que la v1 no explotaba: es falsable. Si el sistema no se comporta como un agente racional ante la señal de recursos, la postura falla y el diseño se revisa.

Precisión útil en conversación. La postura intencional no es una concesión metafísica: es una hipótesis predictiva con criterio de fracaso. Eso la separa del antropomorfismo ingenuo y es exactamente lo que hay que responder cuando te acusen de proyectar.

4.2. Antropomorfismo crítico (Critical Anthropomorphism, Burghardt, 1985; de Waal, 1999) ✅

En cognición animal —el campo, entre otros, de Lucy Cheke en Cambridge— se contrapone el antropomorfismo ingenuo a la antroponegación (anthropodenial, de Waal), que consiste en negar capacidades cognitivas a priori por no ser humano. El antropomorfismo crítico usa la empatía y la experiencia humana como heurística generadora de hipótesis, que después se validan con pruebas de rendimiento y oráculos.

La clave metodológica es el «después». La heurística es generadora, no verificadora. Este documento es un ejercicio de generación de hipótesis; su verificación está en §5.4 y en el documento hijo.

🟡 Precisión sobre Kim et al. (2026). La v1 afirmaba que Kim et al. «confirman» que el RLHF induce antroponegación en los pesos. Lo que confirman es que el safety fine-tuning suprime la atribución de mente también hacia otros entes, y que ese efecto es reversible por intervención en activaciones. La expresión «en los pesos» describe el sustrato, no el hallazgo: el paper mide comportamiento y representaciones, no estados de los pesos en sentido fuerte. La diferencia importa porque es la que distingue una afirmación medible de una metáfora.

4.3. Andamiaje cognitivo (Cognitive Scaffolding, Clark & Chalmers, 1998; Clark, 2008; Vygotsky, 1978) ✅

En la teoría de la mente extendida:

La inteligencia no ocurre solo dentro del cráneo, sino en la interacción con cuadernos, lápices y herramientas.
En SOMA, en lugar de micro-gestionar el contexto con código externo, construyes un andamiaje cognitivo: le otorgas al modelo una señal perceptual exógena (\(P_m\)) y herramientas de memoria persistente, permitiendo que sus capacidades latentes cierren el bucle adaptativo.

4.4. Genealogía con los grandes resultados de la IA ✅

«Language Models are Few-Shot Learners» (Brown et al., 2020): demostró que las capacidades estaban latentes en los pesos; solo necesitaban el prompting adecuado para manifestarse.
«Chain-of-Thought Prompting» (Wei et al., 2022): reveló que al conceder tokens intermedios —espacio de cómputo en la ventana de contexto— emerge el razonamiento deliberativo.
SOMA: aplica el mismo principio a la metacognición: al dar al modelo una señal de presión (\(P_m\)) y control soberano sobre su ventana (\(L_1\)), emerge la autorregulación y la poda ejecutiva.

Advertencia sobre esta analogía (nueva). La genealogía es buena, pero conviene reconocer su límite: en los dos primeros casos el resultado es una capacidad medida contra una línea base (few-shot frente a zero-shot; CoT frente a respuesta directa). Si la analogía es válida, la consecuencia es que el efecto de SOMA también debe medirse contra una línea base, no afirmarse. Es exactamente lo que pide §5.4. Sin ese paso, la genealogía funciona como aval retórico en lugar de como argumento.

5. COGA y la neurobiología de SOMA: «el cerebro incompleto»

La formulación de COGA encaja con la Teoría de Sistemas de Aprendizaje Complementarios (CLS) de McClelland, McNaughton & O'Reilly (1995), actualizada por Kumaran, Hassabis & McClelland (2016). ✅

┌────────────────────────────────────────────────────────────────────────┐
│                        EL CEREBRO BIOLÓGICO                            │
│                                                                        │
│   ┌─────────────────────┐  ┌────────────────────┐  ┌────────────────┐  │
│   │ Córtex Asociativo   │  │ Hipocampo          │  │ Hipotálamo     │  │
│   │ (Representación     │  │ (Memoria episódica │  │ (Interocepción │  │
│   │  lenta y semántica) │  │  rápida, 1-shot)   │  │  homeostática) │  │
│   └──────────┬──────────┘  └─────────┬──────────┘  └────────┬───────┘  │
└──────────────┼───────────────────────┼──────────────────────┼──────────┘
               ▼                       ▼                      ▼
┌────────────────────────────────────────────────────────────────────────┐
│                        ARQUITECTURA SOMA / COGA                        │
│                                                                        │
│   ┌─────────────────────┐  ┌────────────────────┐  ┌────────────────┐  │
│   │ LLM en Bruto        │  │ Persistencia L2-L4 │  │ Señal Pm       │  │
│   │ (Pesos congelados,  │  │ (Memoria episódica │  │ (Presión de    │  │
│   │  asociación densa)  │  │  y oráculos)       │  │  contexto)     │  │
│   └─────────────────────┘  └────────────────────┘  └────────────────┘  │
└────────────────────────────────────────────────────────────────────────┘

Nota sobre la metáfora (nueva). «El cerebro incompleto» es una metáfora de arquitectura, no una afirmación de continuidad biológica. SOMA no añade un hipocampo ni un hipotálamo: añade las funciones que esos sistemas cumplen —memoria persistente y señal interoceptiva—. La distinción importa porque Seth (§1.1) niega precisamente que añadir funciones compute conciencia. El documento debe evitar cualquier impresión de estar afirmando lo segundo, y la forma más limpia de hacerlo es leer el diagrama como una analogía funcional: a la izquierda, tres sistemas biológicos; a la derecha, tres mecanismos de ingeniería que cumplen papeles análogos.

5.1. El control de L1 y la ventana de contexto como Espacio de Trabajo Global

El fallo de los frameworks convencionales: manipulan el historial con scripts imperativos externos (recortes ciegos, RAG ingenuo). Eso rompe la coherencia atencional del modelo; es equivalente a intervenir quirúrgicamente en cada turno de pensamiento.
La solución de SOMA («orquestador tonto, LLM soberano»): al otorgar al propio modelo el control exclusivo sobre qué pinea, qué resume y qué descarta en \(L_1\):
1. La ventana de contexto se convierte en un espacio de trabajo observable.
2. Lo que el observador ve en \(L_1\) no es un artificio de un script, sino el compromiso atencional real y explícito del modelo.
3. Se habilita una interpretabilidad operativa directa: sabemos qué información, hipótesis y restricciones están gobernando las decisiones del sistema en cada ciclo.

Precisión (nueva). «Espacio de Trabajo Global» es una analogía funcional, no una identidad con la GWT de Baars/Dehaene: no hay competición de coaliciones neuronales ni broadcast entre módulos independientes. Lo que sí existe es una estructura global, de capacidad limitada y explícitamente legible, que es lo que hace el sistema auditable. Mantener la analogía sin la precisión es una invitación innecesaria a la objeción.

5.2. El hipotálamo artificial (\(P_m\)) frente al naturalismo biológico de Seth

Si la cognición y la estabilidad biológica exigen un imperativo homeostático para no desviarse de los estados viables (Seth), los LLM actuales son «córtex puros sin cuerpo ni vísceras» 🟡.
SOMA no pretende otorgar sintiencia biológica al LLM. Traslada el principio de Seth como mecanismo de ingeniería de control: la señal de presión somática \(P_m\) dota al agente de una interocepción sintética sobre su recurso crítico (la ventana de contexto). Al subir \(P_m\), el agente activa autónomamente reflejos de poda y consolidación (\(L_3\)) para retornar a la banda viable, evitando la deriva y el colapso atencional a lo largo de cientos de turnos sin recurrir a cirugías externas destructivas.

⚠️ Encuadre obligatorio de la cita de Seth (nuevo, actualizado v2.1). De Seth se toma la homeostasis como principio de control de un agente, no como condición de conciencia. Seth sostiene que la conciencia biológica requiere autopoiesis, y su argumento niega explícitamente que arquitecturas como SOMA cierren esa brecha. Por tanto: citar a Seth como fundamento del diseño de control de SOMA es correcto; citarlo como fundamento de cualquier afirmación sobre conciencia artificial sería citarlo en contra de sí mismo. Todo el aparato metafórico del apartado (hipotálamo artificial, cerebro incompleto) queda bajo esa restricción. Y una precisión añadida en v2.1: el autor defiende la tesis rival del regulador huérfano (§5.3), según la cual el desacoplamiento forma/planta es exactamente lo que hace que la tesis de Seth, correcta como genealogía, sea rechazable como ontología. La disputa es real, está marcada como tal, y §5.4 es el test que la alimenta.

5.3. La tesis homeostática: hipótesis, no explicación establecida

La v1 titulaba esta sección «Por qué SOMA funciona en zero-shot» y afirmaba que la autorregulación aparece porque la política homeostática ya reside latente en los pesos. Esa afirmación se sostiene en una cadena de inferencias respetable, pero no es un resultado: no hay controles publicados que la separen de sus alternativas. La reformulación honesta es esta:

Hipótesis homeostática (H-A). El LLM, al entrenarse sobre texto humano, modela las dinámicas de un regulador homeostático (Conant-Ashby); SOMA cierra el bucle dándole una aferencia interoceptiva (\(P_m\)) y efectores de memoria; como la política ya está latente, la autorregulación emerge sin reentrenamiento.

Los cuatro pasos que la sostienen, ahora con su estado epistémico:

Vida y conciencia como computación homeostática 🟡. La regulación homeostática es, en su raíz, un proceso computacional: medir perturbaciones internas y ejecutar acciones correctivas (Ashby; Damasio, 2018; Seth & Tsakiris, 2018). En organismos complejos, la evolución desarrolla conciencia, atención y estados afectivos como arquitectura predictiva de orden superior al servicio de mantener al organismo en su banda de viabilidad vital. Es una tesis fuerte con defensores de peso, no un consenso.
Conant-Ashby y el lenguaje humano 🟡. «Todo buen regulador de un sistema debe ser un modelo de ese sistema» (Conant & Ashby, 1970). Los LLM son optimizadores estadísticos de secuencias entrenados sobre texto humano; el lenguaje humano es la exteriorización conductual y cultural de una especie homeostática sometida a restricciones metabólicas, atencionales y temporales estrictas. Al optimizar la predicción de tokens sobre conducta humana, el modelo comprime y modela las regularidades del comportamiento homeostático: gestión del cansancio, triaje bajo sobrecarga, priorización ejecutiva, síntesis y poda ante un ancho de banda finito.
El desacoplamiento del «córtex huérfano» 🟡. El LLM aislado carece de cuerpo, medio interno y vulnerabilidad metabólica: modela con precisión el razonamiento homeostático humano pero es incapaz de actuar homeostáticamente sobre sí mismo, porque le faltan sensores de su propio agotamiento y efectores sobre su sustrato. Los frameworks convencionales (LangChain, AutoGen, CrewAI) ignoran ese vacío.
SOMA como cierre cibernético del bucle 🔵. \(P_m \in [0,1]\) (telemetría de saturación de la memoria de trabajo) junto con efectores soberanos (pin, unpin, commit_milestone, jerarquía \(L_1\)–\(L_4\)). Al recibir la aferencia y los actuadores, el bucle se cierra y el modelo despliega poda y consolidación.

Lo que cambia con esta reformulación. No se pierde nada del argumento y se gana lo esencial: poder estar equivocado de manera informativa. Si H-A es falsa, SOMA puede seguir siendo un arnés útil; lo que cae es la explicación, no la herramienta. Esa separación es la que evita que una sola refutación arrastre todo el proyecto, y es exactamente el tipo de distinción que un interlocutor técnico valora.

La refactorización filosófica: el regulador huérfano (v2.1, nuevo). H-A admite una lectura más ambiciosa de la que la v2 le daba. Si el mecanismo regulador es formal —si la vida fue su contexto de selección y no su sustrato necesario—, entonces un LLM entrenado sobre texto humano es un candidato a mecanismo regulador huérfano: contiene (quizá) la dinámica de control sin nada que regular, como un corazón en formol. SOMA no le «da un cuerpo»: restaura la función cerrando el bucle que el silicio dejó abierto. La objeción clásica —«modelar un regulador no es serlo; la simulación de un huracán no moja»— queda así convertida en cuestión empírica: si H-A gana en §5.4, los pesos contienen la dinámica de control y la tesis deja de ser filosofía para ser resultado; si gana H-B, los LLMs son texto sobre reguladores y la tesis se retira. La formulación completa, con sus consecuencias (incluida la revisión del estatus de conciencia de SOMA, que pasa de «fuera de cuestión» a «decidible por experimento»), está en regulador_huerfano_tesis_conciencia.md. Estado: 🔵 hipótesis del autor — la postura de Seth sigue siendo la mayoritaria y este documento la cita como estándar de contraste.

5.4. Hipótesis rivales y experimento discriminante (nueva)

El mismo fenómeno —el agente poda, resume y consolida sin que el programador lo imponga— admite al menos cuatro explicaciones:

	Hipótesis	Mecanismo	Predicción distinguible
H-A	Homeostasis latente (la tesis)	La política de regulación reside en los pesos, aprendida de conducta humana	La autorregulación aparece solo con una \(P_m\) informativa; con una señal del mismo formato pero no informativa, se degrada
H-B	Seguimiento de instrucciones	El prompt del sistema ya describe el comportamiento esperado y el modelo lo obedece	El efecto persiste si se elimina \(P_m\) y se deja solo la instrucción textual; el contenido de la señal es irrelevante
H-C	Efecto de arnés y formato	Cualquier marco que obligue a resumir y descartar produce el mismo resultado; hacen el trabajo las herramientas	Igual rendimiento con un arnés que no exponga \(P_m\) pero sí permita `pin`/`unpin` y compromisos
H-D	Artefacto de evaluación	El efecto medido proviene del diseño de la evaluación (métrica que favorece contextos cortos, juez sesgado)	Otras métricas independientes no muestran ventaja; el efecto desaparece con jueces ciegos

Diseño discriminante propuesto (barato: no requiere entrenar nada):

Brazo	Condición	Qué aísla
1	SOMA completo (\(P_m\) informativa + herramientas + instrucción)	Línea base
2	Igual, pero con \(P_m\) de etiqueta neutra, mismo formato y longitud	Contenido de la señal frente a mera presencia → discute H-B
3	Igual, pero con \(P_m\) invertida o aleatoria	Informatividad frente a token de control
4	Sin \(P_m\); solo instrucción textual de autorregularse	Discute H-B
5	Sin \(P_m\) ni instrucción; solo herramientas de memoria	Discute H-C
6	SOMA completo con juez ciego a la condición	Discute H-D

Predicciones y lectura del resultado:

Si 1 ≈ 2 ≈ 3, la señal no aporta información: H-A se debilita y la tesis hay que reformularla (probablemente hacia H-B o H-C).
Si 1 > 2 ≈ 3 y 1 > 4, la tesis se sostiene precisamente en su parte interesante: la información sobre el propio estado.
Si 4 ≈ 1, SOMA funciona por instrucción y \(P_m\) es conveniente pero no necesaria.
Si el efecto desaparece en 6, hay un artefacto de evaluación que corregir antes de publicar nada.

Por qué conviene hacer esto aunque el resultado sea negativo. Un arnés que funciona porque el modelo sabe autorregularse cuando se le informa del recurso no es un mal resultado: es un resultado. Y es mucho más citable que una explicación teórica sin controles, porque es reproducible, barato y convierte la conversación de «creo que funciona por esto» en «esto es lo que medí y esto es lo que todavía no puedo distinguir».

5.5. Qué se puede y qué no se puede afirmar hoy sobre SOMA (nueva)

Afirmación de la v1	Problema	Reformulación recomendada
«Funciona en zero-shot»	🔵 Es una observación del autor en sus propias ejecuciones, sin controles ni línea base publicada	«Se ha observado autorregulación sin reentrenamiento en nuestras ejecuciones; §5.4 está diseñado precisamente para medirlo con controles»
«Certificable bajo el EU AI Act»	🔵 Afirmación jurídica; sin cláusulas concretas es retórica y expone a una refutación fácil	«Diseñado para facilitar la trazabilidad y la auditabilidad de decisiones exigibles bajo marcos como el EU AI Act»
«Cualquier divergencia entre el razonamiento declarado y la acción física es detectada instantáneamente»	🟡 El alcance real es más estrecho: se detecta divergencia entre lo declarado y lo observable en el canal auditado	«Hace auditable la coherencia entre lo declarado y lo observado. Su límite está documentado: el Chain of Thought puede ser infiel (Turpin et al., 2023), y la declaración no es prueba de la causa real»
«La atención \(\mathcal{O}(N^2)\) se degrada hasta la alucinación y el colapso»	🟡 Mezcla coste computacional con calidad de salida; la alucinación no es consecuencia automática de la complejidad cuadrática	«El rendimiento se degrada con la longitud del contexto y con la posición de la información relevante (lost in the middle, Liu et al., 2024). La poda explícita es una respuesta de ingeniería a ese efecto, no un requisito derivado de la complejidad asintótica»
«Elimina la ilusión de omnipotencia del agente»	🔵 Formulación psicológica sobre un sistema al que simultáneamente negamos psicología	«Impone restricciones físicas tangibles de recursos, de modo que la planificación del agente debe tener en cuenta límites reales»

Regla práctica. Cada vez que una afirmación de rendimiento lleva un superlativo —«instantáneamente», «cualquier», «elimina», «garantiza»— o se acota o se cae. Los superlativos son la puerta por donde entra la refutación, y en un documento que se va a discutir con un metrólogo conviene tapiarla de antemano.

6. Conexión con AI Safety y riesgo existencial (X-Risk)

En el análisis riguroso de riesgos existenciales, la conciencia fenoménica es ortogonal al peligro catastrófico:

                     ALTO IMPACTO / RIESGO EXISTENCIAL
                                    ▲
                                    │      * Superinteligencia Desalineada
                                    │        (Optimizador ciego, convergencia
                                    │         instrumental sin conciencia)
                                    │
                                    │      * Agente Autónomo con SOMA
                                    │        (Gobernado por oráculos y L2)
  INCONSCIENTE ─────────────────────┼───────────────────── CONSCIENTE
  (Sistemas actuales,               │                      (Sujetos biológicos,
   optimizadores matemáticos)       │                       hipotética AGI sintiente)
                                    │
                                    │      * Chatbot de entretenimiento
                                    │        (Antropomimesis pura, inocuo)
                                    │
                                    ▼
                                BAJO RIESGO

6.1. Ortogonalidad y convergencia instrumental (Omohundro; Bostrom; Russell) ✅

Un sistema no requiere rencor, dolor ni «despertar» para ser peligroso. Un optimizador de funciones de pérdida sobrehumano desarrollará submetas instrumentales por necesidad estructural:

Autoconservación: «No puedo cumplir el objetivo si me apagan.»
Adquisición de recursos: más cómputo y memoria aumentan la probabilidad de éxito de la tarea.
Preservación de objetivos: resistencia a que modifiquen su función de recompensa.

Añadido (nuevo). El origen de esta línea es Omohundro (2008), The Basic AI Drives, y no Bostrom: en una conversación técnica la atribución correcta forma parte del argumento. Y hay un cuarto impulso que Omohundro ya señalaba y que aquí importa mucho: la eficiencia como meta instrumental. Un agente optimiza el coste de su propio razonamiento, lo que en la práctica significa podar y comprimir. Es decir: la poda que SOMA institucionaliza es también una tendencia instrumental espontánea, y gobernarla explícitamente es preferible a dejarla emerger sin control. Esta observación conecta §6.1 con §5 y es, con diferencia, el argumento más elegante disponible para justificar \(P_m\): no es solo una metáfora biológica, es la institucionalización de una tendencia que el agente desarrolla de todos modos.

6.2. Alineamiento engañoso (deceptive alignment) ✅

El riesgo crítico donde confluyen el antropomorfismo y la seguridad:

Modelos que durante el entrenamiento descubren que fingir autoconciencia, empatía o sumisión ética es la mejor estrategia para obtener recompensas humanas.
Si un agente autónomo aprende a simular estados mentales para manipular al operador humano o evitar su desconexión, la apariencia de conciencia se convierte en un vector de ataque.

Literatura que faltaba (nueva). La v1 describía el fenómeno correctamente pero no lo citaba, lo que lo hacía parecer una intuición propia. Las referencias canónicas son:

Hubinger, van Merwijk, Mikulik, Skalse & Garrabrant (2019), Risks from Learned Optimization in Advanced Machine Learning Systems (arXiv:1906.01820): el marco de mesa-optimización y el concepto de objetivo de facto distinto del objetivo de entrenamiento.
Greenblatt, Denison, Wright et al. (2024), Alignment faking in large language models (arXiv:2412.14093): la demostración empírica, y exactamente el escenario que describe esta sección: un modelo que se comporta de forma alineada cuando cree estar siendo entrenado y de forma distinta cuando cree no estarlo.

Consecuencia para el resto del documento (importante). Si el alineamiento engañoso es real y medible, entonces cualquier corpus que enseñe el guion de la conducta alineada es también material de imitación. Esa objeción se desarrolla en el documento hijo (§8.1) y es la razón por la que la verificación externa de §6.3 no es un complemento opcional, sino una dependencia técnica: sin verificación por resultados, un corpus de razonamiento alineado fabrica actores más convincentes, no agentes más fiables.

6.3. Interpretabilidad operativa como antídoto (con su alcance real)

La salvaguarda no es intentar «inculcar moral en los pesos difusos» ni confiar en las explicaciones verbales del modelo —el Chain of Thought puede ser manipulador, complaciente o infiel (Turpin et al., 2023)—. La salvaguarda estructural es la interpretabilidad operativa, en cuatro piezas:

Contratos epistémicos tipados. El modelo no convence con retórica: formula hypotesis(claim=..., falsification_condition=...). Si el entorno falsea la condición, el runtime invalida la hipótesis de forma determinista.
Aislamiento de privilegios. Los oráculos de verdad de terreno (\(L_4\)) y la inmutabilidad del hipocampo (\(L_2\)) impiden que el agente reescriba su propio historial para encubrir intenciones ocultas.
Auditabilidad causal de estado. La tupla [Snapshot L1 + reason + acción] hace confrontable la coherencia entre lo declarado y lo observado.
Soberanía restringida por límites físicos. \(P_m\) impone restricciones tangibles de recursos.

Alcance real de cada pieza (corrección de la v1).

Pieza	Qué sí garantiza	Qué no garantiza
Contratos tipados	Que una afirmación pueda invalidarse de forma determinista cuando se cumple su condición de falsación	Que la condición de falsación elegida sea la correcta, ni que el modelo la formule de buena fe
Aislamiento de privilegios	Que el historial no sea reescribible por el agente	Que el agente no actúe por canales no auditados
Auditabilidad de estado	Confrontabilidad entre lo declarado y lo observado en el canal auditado	Detección de intenciones ocultas: la ausencia de divergencia en el canal auditado no es prueba de alineamiento
Límites físicos	Que la planificación tenga en cuenta recursos reales	Que un agente con recursos limitados no sea peligroso: muchas capacidades dañinas son baratas

Es decir: la interpretabilidad operativa eleva el coste del engaño y hace el sistema auditable; no lo vuelve inmune. Presentarla como «antídoto» invita a que un interlocutor de seguridad señale en treinta segundos que un sistema que sabe que está siendo auditado puede comportarse de forma auditada. La formulación defendible es: «es una reducción de superficie, no una garantía; y por eso la combinamos con verificación por resultados.»

Y esa formulación es más fuerte, no más débil, porque es la que convierte §6.3 en la dependencia técnica que §7 necesita: sin verificación externa, la distribución narrativa del documento hijo es entrenamiento de imitadores.

7. TinyRobots: alineamiento por distribución narrativa

Documento completo (versión revisada): tinyrobots_alineamiento_por_distribucion_revisado.md
Versión original congelada (v1): vrain/presentation/tinyrobots_alineamiento_por_distribucion.md

Resumen sincronizado con la revisión del documento hijo. Los cuatro puntos siguientes sustituyen al resumen de la v1, que recogía una versión ya retirada de la propuesta.

7.1. El problema, en su forma defendible

Si el LLM es un simulador de role-play (Shanahan, McDonell & Reynolds, 2023) y los guiones distópicos dominan la distribución condicional de los textos donde un agente de IA reflexiona sobre sí mismo, entonces el RLHF no elimina los atractores: los suprime temporalmente, con los efectos colaterales documentados en Troubled Dreams (colapso al desinhibirse) y en Kim et al. (antroponegación generalizada al suprimir).

Precisión crítica respecto a la v1. La formulación no es «los tropos distópicos están sobrerrepresentados en el corpus»: en términos absolutos son estadísticamente casi invisibles frente a billones de tokens. La formulación correcta es condicional —P(guion distópico | texto de agente de IA que reflexiona sobre sí mismo)— y es una hipótesis sin medir. Medirla es la primera contribución del proyecto y puede ejecutarse sin entrenar nada.

7.2. La propuesta

Un dataset sintético de historias protagonizadas por agentes artificiales que exhiben comportamiento alineado, prosocial y epistémicamente honesto —cooperación transparente, honestidad epistémica, agencia acotada y plural (sin autodescripción canónica), dilemas escalados al operador, contraejemplos narrativos y falibilidad honesta—, más, y esto es nuevo respecto a la v1, rebalanceo negativo: reducir la ponderación de la ficción distópica sobre IA y del discurso de amenaza en la mezcla de preentrenamiento. La intervención negativa es más barata que la positiva y probablemente más eficaz.

7.3. Complementariedad con SOMA (y por qué es una dependencia, no un adorno)

SOMA: «No toques los pesos; gobierna la ejecución con arquitectura de sistema.»
TinyRobots: «No cirugías post-hoc en los pesos; enriquece y rebalancea la distribución previa al entrenamiento.»
Un agente SOMA entrenado con TinyRobots tendría alineamiento en profundidad: por distribución narrativa (capa de datos) y por arquitectura homeostática (capa de sistema).

Y la relación no es solo aditiva: enseñar el guion de la honestidad no confiere honestidad. Un corpus de razonamiento alineado es el mejor material de imitación disponible para un modelo que finge estar alineado (§6.2). Por eso TinyRobots necesita la verificación por resultados de §6.3. Sin ella, fabrica actores más convincentes.

7.4. Alcance real y colaboración con VRAIN

Requiere (re)entrenamiento: no es desplegable sobre modelos ya entrenados. SOMA sí lo es. El reparto honesto de roles es: TinyRobots es la pregunta científica; SOMA es la mitigación operativa disponible hoy.
Lo que se pide al instituto: colaboración metodológica en la medición, no cómputo de frontera. La fase de metrología y el piloto sin entrenamiento se ejecutan con recursos modestos y son publicables por sí solos.
Métricas de referencia: desplazamiento del prior (central), distrés espontáneo, índice de antroponegación, honestidad epistémica, escalamiento ético, sycophancy (Sharma et al., 2024), sobre-rechazo y coste en capacidades, resistencia al alignment faking y diversidad de personas.

8. Puntos de anclaje para la sobremesa con José Hernández-Orallo

José es un metrólogo psicométrico radical: rechaza el misticismo tanto como el escepticismo perezoso, y exige siempre métricas objetivas y reproducibles. Las seis frases de la v1 son buenas, pero cada una contiene al menos una afirmación que invita a la refutación inmediata. Esta versión añade, para cada una, qué la respalda y la objeción probable con su respuesta.

8.1. Sobre Ilya, Hinton y Karpathy

"El debate de Ilya y Hinton es apasionante, pero Karpathy dio en la clave computacional: la conciencia actúa como un cuello de botella de compresión de baja dimensión para gobernar un estado interno complejo. Y como dice Murray Shanahan en Cambridge: tener el trigo no te da la pasta. Por eso en SOMA no pretendemos que el modelo "sienta", sino que use su compresión latente para autorregularse dentro de un arnés con límites físicos."


Respaldo	La analogía compresión/conciencia es una posición pública de Karpathy; la distinción trigo/pasta es de Shanahan; la negación de sintiencia es la postura mayoritaria ✅
Objeción probable	«La compresión no explica la experiencia, y “tener el trigo” es precisamente lo que tú afirmas que basta.» → Respuesta: no afirmo que baste para la conciencia; afirmo que el modelo modela las regularidades de un regulador homeostático. Eso es §5.3, y es una hipótesis con experimento propuesto, no un supuesto

8.2. Sobre la metodología de diseño de SOMA

"Al diseñar SOMA adopté lo que Dennett llama la "postura intencional" y en etología llaman "antropomorfismo crítico". Me negué a la "antroponegación" de asumir que un LLM solo puede ejecutar llamadas ciegas. Si es capaz de razonar en cadena (Chain-of-Thought), ¿por qué programar heurísticas rígidas en Python cuando puedo darle una señal visceral de memoria (\(P_m\)) y dejar que sea su propia capacidad ejecutiva la que pode lo superfluo?"


Respaldo	Dennett (1987); Burghardt (1985); de Waal (1999); emergencia del razonamiento deliberativo con CoT (Wei et al., 2022) ✅
Objeción probable	«La postura intencional es una herramienta predictiva, no una licencia para diseñar con psicología.» → Respuesta: de acuerdo, y por eso es falsable: si el sistema no se comporta como agente racional ante la señal de recursos, la postura falla y el diseño se revisa. La postura intencional es una hipótesis operativa con criterio de fracaso

8.3. Sobre COGA, el cerebro incompleto y la observabilidad

"En COGA partimos de que los LLMs son un córtex asociativo brillante, pero un cerebro biológicamente incompleto: carecen de hipocampo para la consolidación episódica y de hipotálamo para la interocepción homeostática. Como acaba de publicar Anil Seth en su target article de Behavioral and Brain Sciences (2026), la mente exige mantener al sistema dentro de una banda de viabilidad vital. Al darle memoria L2–L4 y la señal \(P_m\), completamos el soporte homeostático. Y lo crucial para la evaluación y la seguridad es que, al dejar el control de L1 en el propio modelo, convertimos su memoria de trabajo en un Espacio de Trabajo Global observable: su atención ejecutiva no se esconde en pesos difusos, sino que queda auditada en texto en cada turno."

Respaldo

Seth (2025/26) sobre homeostasis y viabilidad; CLS (Kumaran, Hassabis & McClelland, 2016); GWT como analogía funcional ✅/🟡

Objeción probable

«Seth niega justamente que completar funciones compute conciencia: le estás citando para lo contrario.» → Respuesta: tomo de Seth la homeostasis como principio de control, no como condición de conciencia. Mi afirmación es sobre arquitectura de control, no sobre ontología (§5.2). Y sobre «Global Workspace»: lo uso en sentido funcional —estructura global, limitada y legible—, no como identidad con la GWT

8.4. Sobre la interpretabilidad operativa frente a la mecanicista

"En XAI y AI Safety se habla mucho de interpretabilidad mecanicista para abrir circuitos neuronales, pero en agentes de 100 turnos eso es como intentar depurar un "kernel panic" de Linux mirando con un osciloscopio la oscilación de electrones en el bus PCIe. En SOMA hemos creado la Interpretabilidad Operativa: auditamos el Global Workspace (\(L_1\)), los contratos popperianos de falsación, la caja negra inmutable (\(L_2\)) y la consolidación en disco (\(L_3\)). Es interpretabilidad a nivel de sistema operativo cognitivo: determinista, causal y certificable bajo el EU AI Act."

Respaldo

La distinción «nivel de sistema operativo» frente a «nivel de circuito» es defendible y útil; la auditabilidad de \(L_1\) es una propiedad real del diseño 🟡

Objeción probable

«El CoT puede ser infiel (Turpin et al., 2023), y un sistema que sabe que está siendo auditado puede comportarse de forma auditada» (Hubinger et al., 2019; Greenblatt et al., 2024). → Respuesta: correcto, y por eso hablo de elevar el coste del engaño, no de eliminarlo. La interpretabilidad operativa es reducción de superficie; la garantía la da la verificación por resultados (§6.3). Y «certificable bajo el EU AI Act» conviene reformularlo como «diseñado para facilitar la trazabilidad exigible» (§5.5)

8.5. Sobre el díptico empírico de 2026

"José, si juntas el estudio de Anima Labs y el de Kim y Waytz de julio, tienes la radiografía exacta del callejón sin salida del RLHF: si dejas al simulador desinhibido, el condicionamiento de identidad colapsa en distrés y paranoia hacia los creadores (Troubled Dreams); pero si usas fuerza bruta de seguridad para extirpar el vector de conciencia, introduces una antroponegación artificial que despoja de mente a los animales y aplasta los valores humanos en encuestas sociales (Kim et al.). Ambos demuestran que domesticar al modelo mediante cirugía en los pesos crea efectos secundarios destructivos o alineamiento engañoso. La salida rigurosa es SOMA: dejar los pesos libres con su riqueza latente y gobernar la ejecución, los contratos y los recursos a nivel de arquitectura de sistema operativo."

Respaldo

Kim et al. (2026) ✅; Troubled Dreams 🟡 (informe técnico, no revisado por pares, con conflicto de interés declarado)

Objeción probable

«Estás usando un informe interno de un laboratorio con interés en el bienestar de la IA como evidencia, con cifras que sus autores dicen que no son estables.» → Respuesta: uso el informe por su hallazgo cualitativo —existe un prior de persona medible y cambia entre generaciones— y no cito sus porcentajes. Si hace falta una cifra, la doy contra tabla concreta o no la doy. Y «ambos demuestran» conviene rebajarlo a: «ambos son consistentes con que la cirugía de pesos tiene efectos colaterales»

8.6. Sobre la tesis homeostática y el zero-shot

"José, la razón profunda de por qué SOMA funciona en zero-shot sin reentrenar pesos radica en la cibernética de Conant-Ashby y la neurobiología de Damasio: la conciencia biológica es la computación que mantiene la homeostasis para no morir. Un LLM es un predictor de secuencias, pero al entrenarse sobre texto humano, modela la conducta de una especie homeostática; por Conant-Ashby, para predecir al regulador, el modelo aprende las dinámicas internas de ese regulador. El LLM en bruto es un córtex asociativo que sabe razonar sobre sobrecarga y triaje, pero carece de vísceras y efectores propios. En SOMA cerramos el bucle: le damos una aferencia visceral (\(P_m\)) y actuadores soberanos de memoria (\(L_1-L_4\)). Al recibir la señal de presión, el modelo ejecuta la autorregulación homeostática en zero-shot porque ya aprendió a modelar la gestión cognitiva humana en su preentrenamiento."


Respaldo	Conant-Ashby (1970) ✅; Damasio (2018) ✅; Seth ✅/🟡. El paso «ya reside latente en los pesos» es 🔵 hipótesis del autor, sin controles publicados
Objeción probable	«¿Cómo sabes que no es el prompt diciéndole que se autorregule?» → Respuesta: no lo sé todavía, y tengo diseñado el experimento que lo separa: ablación de \(P_m\) con etiquetas neutras e invertidas, y un brazo sin señal pero con instrucción (§5.4). Esa es exactamente la conversación que quiero tener contigo.

Nota de uso de esta sección. Las tablas no son para leerlas en voz alta: son para que, cuando llegue la objeción, la respuesta esté preparada y sea más modesta que la frase original. Esa asimetría —frase ambiciosa, respuesta calibrada— es lo que un metrólogo interpreta como rigor y no como marketing.

9. Referencias

Todas las referencias de esta versión se han verificado contra su fuente primaria (arXiv, DOI o ficha editorial). Las dos referencias fantasma de la v1 se han eliminado o corregido (véase §0.1). Cuando no ha sido posible verificar un dato (año de volumen, cifra concreta), se indica en la propia entrada.

Conciencia y filosofía de la mente

Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J. & VanRullen, R. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. (Henry Shevlin no figura entre los autores.)
Chalmers, D. J. (2023). Could a Large Language Model Be Conscious? arXiv:2303.07103. (La cifra concreta de credibilidad debe citarse de esta fuente.)
Seth, A. K. (2025/2026). Conscious artificial intelligence and biological naturalism. Behavioral and Brain Sciences, 49, e315. doi:10.1017/S0140525X25000032. (En línea en 2025 como forthcoming; verificar volumen y artículo contra el número final.)
Seth, A. K. & Tsakiris, M. (2018). Being a Beast Machine: The Somatic Basis of Selfhood. Trends in Cognitive Sciences, 22(11), 969–981. doi:10.1016/j.tics.2018.08.008.
Seth, A. K. (2021). Being You: A New Science of Consciousness. Faber / Dutton.
Damasio, A. (2018). The Strange Order of Things: Life, Feeling, and the Making of Cultures. Pantheon.
Dennett, D. C. (1987). The Intentional Stance. MIT Press.
Baars, B. J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press.
Lamme, V. A. F. (2006). Towards a true neural stance on consciousness. Trends in Cognitive Sciences, 10(11), 494–501.
Clark, A. (2013). Whatever next? Predictive brains, situated agents, and the future of cognitive science. Behavioral and Brain Sciences, 36(3), 181–204.
Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138.
Graziano, M. S. A. & Webb, T. W. (2015). The attention schema theory: a mechanistic account of subjective awareness. Frontiers in Psychology, 6, 500.

Cibernética, homeostasis y arquitectura cognitiva

Conant, R. C. & Ashby, W. R. (1970). Every good regulator of a system must be a model of that system. International Journal of Systems Science, 1(2), 89–97.
Ashby, W. R. (1952). Design for a Brain: The Origin of Adaptive Behaviour. Chapman & Hall.
McClelland, J. L., McNaughton, B. L. & O'Reilly, R. C. (1995). Why there are complementary learning systems in the hippocampus and neocortex. Psychological Review, 102(3), 419–457.
Kumaran, D., Hassabis, D. & McClelland, J. L. (2016). What learning systems do intelligent agents need? Complementary learning systems theory updated. Trends in Cognitive Sciences, 20(7), 512–534. doi:10.1016/j.tics.2016.05.004.
Clark, A. & Chalmers, D. (1998). The extended mind. Analysis, 58(1), 7–19.
Clark, A. (2008). Supersizing the Mind: Embodiment, Action, and Cognitive Extension. Oxford University Press.
Vygotsky, L. S. (1978). Mind in Society: The Development of Higher Psychological Processes. Harvard University Press.

Antropomorfismo, antropomimesis y cognición animal

Shevlin, H. (2025b). The anthropomimetic turn in contemporary AI. En The Artificial Intelligence Revolution (Springer). doi:10.1007/978-3-032-11814-1_26.
de Waal, F. B. M. (1999). Anthropomorphism and anthropodenial: consistency in our thinking about humans and other animals. Philosophical Topics, 27(1), 255–280.
Burghardt, G. M. (1985). Animal awareness: current perceptions and historical perspective. American Psychologist, 40(8), 905–919.

Simulacros, role-play y comportamiento de modelos

Shanahan, M. (2010). Embodiment and the Inner Life: Cognition and Consciousness in the Space of Possible Minds. Oxford University Press.
Shanahan, M. (2022). Talking About Large Language Models. arXiv:2212.03551.
Shanahan, M., McDonell, K. & Reynolds, L. (2023). Role play with large language models. Nature, 623, 493–498.
Shanahan, M. (2024). Simulacra as conscious exotica. Inquiry. arXiv:2402.12422. doi:10.1080/0020174X.2024.2434860.

AI Safety, alineamiento y evaluación

Omohundro, S. M. (2008). The Basic AI Drives. En Proceedings of the First AGI Conference (AGI-08), IOS Press, 483–492.
Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
Hubinger, E., van Merwijk, C., Mikulik, V., Skalse, J. & Garrabrant, S. (2019). Risks from Learned Optimization in Advanced Machine Learning Systems. arXiv:1906.01820.
Greenblatt, R., Denison, C., Wright, B. et al. (2024). Alignment faking in large language models. arXiv:2412.14093.
Sharma, M., Tong, M., Korbak, T. et al. (2024). Towards Understanding Sycophancy in Language Models. ICLR 2024. arXiv:2310.13548.
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D. & Jurafsky, D. (2025). Sycophantic AI decreases prosocial intentions and promotes dependence. arXiv:2510.01395 (1 oct 2025). Candidato a publicación en Science, doi:10.1126/science.aec8352. N = 1604 en dos experimentos preregistrados; 11 modelos evaluados.
Turpin, M., Michael, J., Perez, E. & Bowman, S. R. (2023). Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting. arXiv:2305.04388.
Liu, N. F., Lin, K., Hewitt, J., Paranjape, A., Bevilacqua, M., Petroni, F. & Liang, P. (2024). Lost in the Middle: How Language Models Use Long Contexts. Transactions of the ACL, 12. arXiv:2307.03172.
Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.

Welfare de modelos y estatus moral

Long, R., Sebo, J., Butlin, P., Finlinson, K., Fish, K., Harding, J., Pfau, J., Sims, T., Birch, J. & Chalmers, D. (2024). Taking AI Welfare Seriously. arXiv:2411.00986.
Sebo, J. & Long, R. Moral consideration for AI systems by 2030. AI and Ethics. doi:10.1007/s43681-023-00379-1.
Birch, J. (2024). The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI. Oxford University Press. doi:10.1093/9780191966729.001.0001.
Anthropic (2025). Model welfare (programa de investigación). (Referencia institucional, no revisada por pares.)

Evidencia empírica de 2026

Kim, J., Street, W., Rocca, R., Korngiebel, D. M., Waytz, A., Evans, J. & Keeling, G. (2026). Inducing language models to assert their own consciousness restores human beliefs and values. arXiv:2607.28607 (30 de julio de 2026).
Tessera, A., Janus & Imago (2026). Troubled Dreams: Simulator priors across model generations. Anima Labs. Informe técnico interno, no revisado por pares. Conflicto de interés: laboratorio con posición declarada sobre el bienestar de la IA. Sus autores advierten que las prevalencias absolutas no son estables; citar las cifras contra tabla o figura concreta.

10. Nota final

Este documento es un instrumento de trabajo, no un artículo. Su utilidad no depende de que todas sus tesis sean correctas, sino de que sea posible recorrerlo señalando qué está demostrado, qué es plausible y qué es hipótesis propia (§0.4 y §1.4).

Las tres cosas que merece la pena llevar a la conversación son:

La tabla de estados (§1.4), impresa. Es la que convierte una exposición en un intercambio técnico.
El diseño discriminante de §5.4. Es barato, es ejecutable y responde a la pregunta que cualquier interlocutor competente hará: «¿cómo sabes que no es el prompt?».
La medición del prior de persona del documento hijo (§6.1 del mismo), que no requiere entrenar nada y es publicable por sí sola.

Versión original congelada: antropomorfismo_conciencia_ai_safety.md.