¿Qué es la inteligencia artificial superinteligente (ASI)?

“Superinteligencia” describe un nivel de capacidad. “Inteligencia artificial superinteligente” sitúa esa idea dentro del campo de la IA. Un autor puede usar SI cuando el contexto maquinal ya es evidente, o ASI para diferenciarla explícitamente de la inteligencia humana.

La distinción es lingüística, no una prueba de dos tecnologías separadas. WHAT-IS.SI utiliza SI en este sentido vinculado a la IA. Ninguna de las dos abreviaturas describe una categoría de producto confirmada con una prueba de certificación acordada.

La AGI suele aludir a una competencia intelectual flexible en múltiples ámbitos, a menudo a nivel aproximadamente humano. La ASI superaría incluso el rendimiento humano más sobresaliente en prácticamente todos los dominios cognitivos relevantes, en lugar de igualar a una persona promedio.

Un sistema de amplia capacidad no tiene por qué ser superinteligente. Por el contrario, una destreza espectacular en un solo dominio no convierte a un sistema ni en AGI ni en ASI. Separar la amplitud del nivel de rendimiento ayuda a evitar confundir un avance especializado con una afirmación de capacidad general.

Las capacidades hipotéticas incluyen realizar contribuciones científicas decisivas, desarrollar tecnologías complejas y planificar eficazmente en situaciones imprevistas. Son ilustraciones de amplitud cognitiva, no una lista de verificación superada por ningún sistema existente.

Una afirmación rigurosa requeriría demostrar fiabilidad, aprendizaje de tareas inéditas y solidez más allá de demostraciones cuidadosamente preparadas. Las comparaciones con humanos también exigirían condiciones equitativas de tiempo, herramientas e información.

Una posibilidad es que una IA cada vez más capaz asista a los investigadores en la mejora de algoritmos, métodos de entrenamiento o hardware. Otra es que la expansión de recursos computacionales, mejores datos y arquitecturas novedosas continúen elevando el rendimiento. Una tercera implica la coordinación de múltiples sistemas distribuidos.

La mejora autorrecursiva propone un ciclo de retroalimentación donde la IA mejorada contribuye a su propio perfeccionamiento, aunque no se deduce que cada bucle sea necesariamente rápido o infinito.

Los sistemas con mayor capacidad podrían hacer que los errores tengan consecuencias más graves o facilitar usos indebidos de mayor alcance. El trabajo de seguridad indaga cómo evaluar estas posibilidades antes del despliegue y mitigar los riesgos posteriores.

Las cuestiones de gobernanza abarcan quién tiene derecho a desplegar tales sistemas, qué pruebas de control son exigibles y quién rinde cuentas ante daños imprevistos.

Ninguna demostración ampliamente aceptada establece que una máquina supere a los humanos más capaces en prácticamente todos los dominios cognitivos. Los sistemas actuales aportan evidencia sobre habilidades específicas, no prueba de este umbral general.