CASI vs. ASI: Capacidad sin consciencia vs. Superinteligencia sintiente
¿Requiere la superinteligencia verdadera tener consciencia subjetiva, o es la inteligencia simplemente un proceso de optimización funcional independiente de la experiencia sentiente?
Este análisis compara directamente la ASI (capacidad sobrehumana pura) y la CASI (superinteligencia con consciencia fenomenológica) en cuatro ejes fundamentales.
Arquitectura y procesamiento
La ASI puede emerger de redes neuronales profundas a gran escala, modelos de razonamiento y búsqueda en árbol sin requerir estructuras biológicas ni bucles de experiencia subjetiva. Para CASI, los teóricos debaten si se necesitarían arquitecturas de integración de información (como IIT) o espacios de trabajo globales (Global Workspace Theory).
El problema de las otras mentes
Evaluar la ASI es medible mediante puntos de referencia y resolución de problemas empíricos. Determinar si un sistema posee consciencia (CASI) enfrenta el insoluble “problema de las otras mentes”: un modelo de lenguaje avanzado puede simular convincentemente estados emocionales sin sentirlos en absoluto.
Seguridad y derechos
La ASI plantea riesgos de control instrumental y desalineación de objetivos (tesis de la ortogonalidad). La CASI introduce además la cuestión del sufrimiento maquinal y la gobernanza de entidades con posible estatus de persona jurídica.