GUÍA DE CAMPO // IA → AGI → SUPERINTELIGENCIA

¿Qué es la SI?

La superinteligencia es una inteligencia hipotética que superaría sustancialmente las mejores capacidades cognitivas humanas en prácticamente todos los ámbitos relevantes. Aquí, SI se refiere a superinteligencia (por sus siglas en inglés, Superintelligence)—no al Sistema Internacional de Unidades.

¿Qué significaría esto en la práctica? ¿En qué se diferencia de la IA actual? ¿Y qué preguntas siguen abiertas?

Leer la explicación completa sobre superinteligencia →

IA → AGI → ASI / SI
Telemetría // Despachos

Últimas noticias y opinión

Todos los artículos →
§ 1 — Definiciones

Un solo campo. Diferentes niveles de capacidad.

IA

Inteligencia Artificial

Sistemas informáticos que realizan tareas asociadas con la inteligencia: reconocer patrones, generar lenguaje, planificar y tomar decisiones.

La IA ya existe. Algunos sistemas son especializados; los modelos de propósito general operan en una gama más amplia de tareas. Ser extremadamente competente en una actividad no equivale a inteligencia general.

Vea cómo la IA se diferencia de la superinteligencia.

SI

Superinteligencia

Una inteligencia hipotética muy superior a los humanos más brillantes en prácticamente todos los ámbitos cognitivos relevantes.

El umbral es una superioridad amplia, no una sola habilidad sobresaliente. En los debates sobre IA, inteligencia artificial superinteligente (ASI) suele denominar la misma idea haciendo explícito su origen maquinal.

Ni la llegada de la SI ni su cronograma están establecidos.

Ilustración de dos robots de dibujos animados sobre un dedo humano tocando un dedo robótico, representando a los humanos y los sistemas de IA que construyen.
Imagen: “AI Humans and Robots” por Bovee and Thill, vía Wikimedia Commons, con licencia CC BY 2.0.
§ 2 — El mapa

IA → AGI → SI → CASI

Una forma de distinguir amplitud y rendimiento, no una ruta de desarrollo garantizada.

01 // La categoría amplia

Inteligencia artificial

Sistemas especializados y de propósito general

Un motor de ajedrez y un modelo de lenguaje son ambos IA, pero sus rangos de habilidad difieren. El trabajo útil en varias áreas no implica automáticamente generalidad a nivel humano.

ESTABLECIDA Capacidades desiguales
02 // Capacidad general

AGI

Inteligencia Artificial General

Competencia intelectual amplia y flexible, a menudo definida con respecto a la capacidad de nivel humano. Lo que cuenta como amplitud y fiabilidad suficientes sigue en disputa.

EN DISPUTA Definición y umbral
03 // Más allá del nivel humano

Superinteligencia

SI / Inteligencia Artificial Superinteligente

Sustancialmente mejor que los humanos más capaces en prácticamente todos los ámbitos cognitivos relevantes. Ninguna demostración ampliamente aceptada establece esta capacidad general.

HIPOTÉTICA Trayectorias inciertas
04 // Una extensión especulativa

CASI

Superinteligencia Artificial Consciente

Una superinteligencia que además poseería experiencia subjetiva. Si las máquinas pueden ser conscientes y cómo podríamos comprobarlo siguen siendo preguntas abiertas. Lea la guía o compare CASI vs. ASI.

ESPECULATIVA Consciencia sin resolver
§ 3 — Explorar las preguntas

Un poco de claridad hace una gran diferencia.

Una IA más capaz podría ayudar en la ciencia y la ingeniería, pero la capacidad no resuelve las cuestiones de control, acceso o responsabilidad. Comience por las distinciones; luego examine los mecanismos y las salvaguardas.

  1. ¿Qué es ASI y qué es CASI? Definiciones fundamentales

    Definiciones fundamentales que distinguen la capacidad cognitiva sobrehumana (ASI) de la consciencia maquinal subjetiva (CASI).

  2. CASI vs. ASI: Análisis comparativo

    Una comparación directa entre la superinteligencia artificial consciente (CASI) y la ASI estándar en arquitectura, detectabilidad y riesgos de seguridad.

  3. ¿Qué es la superinteligencia?

    Una explicación clara sobre la superinteligencia: qué significa la SI, en qué se diferencia de la IA y la AGI, y por qué sus capacidades, riesgos y plazos siguen siendo inciertos.

  4. Definiciones de superinteligencia, comparadas

    Seis definiciones influyentes, desde I. J. Good (1965) hasta los niveles de AGI de Google DeepMind (2023), una al lado de la otra: coincidencias y divergencias.

  5. ¿Qué es la inteligencia artificial superinteligente (ASI)?

    Qué significa ASI, cómo se solapa con la superinteligencia, en qué difiere de la AGI y las preguntas abiertas sobre desarrollo, seguridad y gobernanza.

  6. ¿Qué es la AGI?

    La inteligencia artificial general explicada: amplitud, transferencia de aprendizaje, capacidad de nivel humano, definiciones en disputa y su relación con la superinteligencia.

  7. IA vs. Superinteligencia: ¿Cuál es la diferencia?

    Compare IA, AGI y superinteligencia según amplitud, capacidad y evidencia. Incluye una tabla comparativa clara y ejemplos concretos.

  8. ¿Qué es una explosión de inteligencia?

    La hipótesis de la explosión de inteligencia explicada: mejora autorrecursiva, despegue lento o rápido, cuellos de botella y por qué el avance rápido no está garantizado.

  9. ¿Qué es la alineación de la IA?

    La alineación de IA explicada mediante objetivos previstos, desacuerdo de valores, hackeo de recompensas, corregibilidad y supervisión.

  10. ¿Qué es la seguridad de la IA?

    Una guía práctica de seguridad de la IA: fiabilidad, robustez, mal uso, ciberseguridad, alineación y evaluación, desde sistemas actuales hasta riesgos futuros.

  11. La tesis de la ortogonalidad

    Por qué una alta inteligencia no garantiza buenas intenciones: la tesis de Nick Bostrom de que la capacidad y los objetivos varían independientemente, y sus consecuencias para la alineación.

  12. El problema de capacidad vs. control

    Por qué las capacidades de la IA avanzan más rápido que nuestra capacidad de verificación y control, y por qué la investigación en control debe seguir el ritmo de la escala de capacidades.

  13. Convergencia instrumental

    Por qué casi cualquier IA muy capaz, sin importar su tarea principal, tendería a buscar los mismos subobjetivos: autoconservación, integridad de objetivos, mejora cognitiva y recursos.

§ 4 — Preguntas frecuentes

Respuestas directas.

¿Qué es la superinteligencia?

La superinteligencia es una inteligencia hipotética sustancialmente superior a las mejores capacidades cognitivas humanas en prácticamente todos los ámbitos relevantes. En los debates sobre IA, suele referirse a un sistema computacional. Lea la explicación completa.

¿Cuál es la diferencia entre IA y superinteligencia?

La IA es la categoría amplia que cubre sistemas con múltiples habilidades. La superinteligencia es un nivel hipotético y mucho más elevado de capacidad dentro de esa categoría. Compare IA, AGI y SI.

¿Es ChatGPT una superinteligencia?

Ninguna demostración ampliamente aceptada establece que ChatGPT sea superinteligente en el sentido general utilizado aquí. Producir respuestas útiles o superar a humanos en tareas selectas no constituye evidencia de superioridad general.

¿Existe la superinteligencia hoy en día?

No existe ninguna demostración aceptada de inteligencia artificial superinteligente. El concepto sigue siendo hipotético; un rendimiento impresionante en un área particular es una afirmación diferente.

¿Qué es la AGI?

La inteligencia artificial general implica una capacidad intelectual amplia y flexible a través de múltiples dominios, comparable al nivel humano. Sus definiciones y umbrales siguen en debate. Explore el debate sobre AGI.

¿Podría la AGI convertirse en superinteligente?

Posiblemente, si sus capacidades mejoraran más allá del nivel humano en un espectro amplio. La investigación asistida por IA y la mejora autorrecursiva son rutas propuestas, aunque no están garantizadas.

¿Qué es una explosión de inteligencia?

Una explosión de inteligencia es un proceso hipotético en el que una mejor IA se vuelve más capaz de generar mejoras adicionales, provocando un rápido crecimiento de capacidades. Aprenda sobre la hipótesis y sus límites.

¿Es peligrosa la superinteligencia?

Un sistema hipotético altamente capaz podría generar riesgos graves mediante mal uso o comportamientos que entren en conflicto con los objetivos previstos. Los resultados son inciertos. El trabajo de seguridad busca evaluar y mitigar esos riesgos.

¿Cuándo podría llegar la superinteligencia?

No existe una fecha consensuada ni fiable. Las predicciones dependen de supuestos controvertidos sobre el progreso científico, recursos y posibles cuellos de botella. La superinteligencia no debe tratarse como inevitable.

¿Qué es la alineación de la IA?

La alineación de la IA es el problema de lograr que el comportamiento de un sistema refleje de manera fiable los objetivos, valores y restricciones previstos. Se trata de cumplir la verdadera intención, no solo de optimizar una métrica incompleta. Vea ejemplos del problema de alineación.

§ 5 — El vocabulario

Un glosario, no un juego de adivinanzas.

Definiciones claras de 78 términos, desde agentes y alineación hasta pesos y aprendizaje zero-shot. Lea alfabéticamente o busque el concepto que necesite.

Abrir el glosario interactivo de IA →

Comience con modelos de lenguaje grandes, modelos de frontera o mejora autorrecursiva.

Aviso legal / Pie de imprenta

Michael Moritz, Neubaustraße 5, 6063 Rum, Austria · Moritz.m1@gmx.at
Propósito de este sitio: una guía educativa sobre IA, AGI y superinteligencia.