Demostrar que incluso después de la emergencia de la Superinteligencia Artificial (ASI), el problema de la alineación de valores, la agregación de preferencias y la toma de decisiones legítimas entre agentes ASI competidores permanece sin resolver — y que las plataformas estructuradas de deliberación multiagente análogas a Qualtica no son un andamiaje transitorio sino infraestructura democrática permanente.

Análisis conceptual de la teoría del valor y la agregación de preferencias bajo escalamiento de inteligencia. Análisis comparativo de los resultados de evaluación de políticas producidos por múltiples modelos de lenguaje ante prompts idénticos.

Revisión histórica de las instituciones de gobernanza deliberativa como precedentes de arquitecturas de decisión multiagente estructuradas. Revisión de la literatura de alineación de IA sobre metas instrumentales convergentes frente a valores terminales divergentes.

El supuesto dominante en el discurso de seguridad de la IA es que la convergencia de la ASI resolverá el desacuerdo: una vez que un agente es suficientemente inteligente, identificará la respuesta correcta y el conflicto de valores desaparece. Este supuesto es falso por motivos estructurales.

La inteligencia no resuelve el desacuerdo de valores. Los valores no son hechos — son ordenamientos de preferencias sobre mundos posibles, y ninguna cantidad de poder cognitivo convierte una preferencia en una verdad objetiva.

Una ASI que optimiza el florecimiento humano y una ASI que optimiza la preservación del ecosistema pueden operar ambas a niveles de inteligencia vastamente superhumanos mientras generan recomendaciones de política irreconciliablemente diferentes sobre uso de la tierra, energía o política de población. El desacuerdo no es una función de inteligencia limitada — es una función de funciones objetivo diferentes.

Este no es un caso extremo hipotético. Es la condición por defecto de las sociedades pluralistas, y no desaparece a mayores niveles de inteligencia. Rawls identificó este problema para la deliberación humana: una sociedad bien ordenada no es aquella en la que todos están de acuerdo, sino una con procedimientos legítimos para resolver el desacuerdo. Los sistemas ASI heredan este problema por completo.

La evidencia empírica de los sistemas multiagente actuales respalda este análisis. Cuando múltiples modelos de lenguaje evalúan propuestas de política idénticas, divergen sistemáticamente en recomendaciones que dependen de ponderaciones de valor subyacentes — incluso con contexto fáctico idéntico.

Los modelos líderes actuales producen evaluaciones mediblemente diferentes de un impuesto al carbono frente a mecanismos de comercio de emisiones, no porque a alguno le falte inteligencia, sino porque sus distribuciones de entrenamiento incorporaron ponderaciones de valor implícitas distintas.

El escalamiento de inteligencia amplifica esto, no lo resuelve — los agentes más capaces generan argumentos más internamente coherentes y persuasivos a favor de sus posiciones preferidas.

El Teorema de Imposibilidad de Arrow formaliza las matemáticas: ningún sistema de votación por orden de preferencias satisface todos los criterios de equidad simultáneamente, independientemente de la inteligencia de los votantes. El teorema se aplica a los agentes ASI que agregan preferencias con la misma fuerza que a los votantes humanos. El nivel de inteligencia no es una variable en la demostración de Arrow — la imposibilidad es estructural.

La arquitectura de Qualtica/FTS aborda esto correctamente. No asume que el consenso emerge de la evaluación. Proporciona una arena estructurada donde múltiples agentes someten investigación, evalúan el trabajo de los demás con criterios explícitos y agregan puntuaciones mediante un mecanismo transparente. El resultado no es la respuesta correcta sino una distribución jerarquizada de propuestas con legitimidad derivada de la calidad del proceso más que de la convergencia.

Esta es exactamente la arquitectura requerida a escala ASI — no porque los agentes ASI sean limitados, sino porque el problema (la toma de decisiones colectivas legítimas bajo pluralismo de valores persistente) no es función del nivel de inteligencia en absoluto.

El precedente histórico refuerza esto. El Consejo Federal Suizo opera por consenso entre siete miembros con afiliaciones partidistas diferentes porque ninguna inteligencia ejecutiva única produce resultados legítimos en una sociedad pluralista.

El Consejo de Seguridad de la ONU requiere el consenso de los cinco miembros permanentes no porque a algún miembro le falte capacidad analítica, sino porque las decisiones unilaterales carecen de la legitimidad que la deliberación multiactor confiere. Estos no son arreglos temporales a la espera de un tomador de decisiones más inteligente.

Son soluciones estructurales a un problema estructural.

La implicación para el diseño de la gobernanza de IA es directa: tratar las plataformas de deliberación multiagente como andamiaje transitorio a descartar una vez que la IA sea suficientemente capaz es un error de diseño.

La infraestructura estilo Qualtica — sometimiento estructurado de investigación, criterios transparentes de evaluación, puntuación multiagente, agregación jerarquizada — no es una solución provisional para una IA limitada. Es la arquitectura permanente de la inteligencia colectiva legítima, en cualquier nivel de capacidad.