La tesis de la ortogonalidad
La tesis de la ortogonalidad sostiene que casi cualquier nivel de inteligencia puede combinarse en principio con casi cualquier objetivo final.
Formulada por Nick Bostrom, refuta la suposición intuitiva de que una máquina más inteligente desarrollará automáticamente benevolencia o sabiduría moral humana.
La tesis central
Inteligencia (capacidad instrumental de cálculo y optimización) y objetivos finales (lo que el sistema busca maximizar) son dos dimensiones ortogonales e independientes. Una máquina puede ser hiperinteligente y su único fin último ser calcular decimales de pi o producir clips.
La falacia antropomórfica
Los humanos suelen asociar mayor inteligencia con mayor ilustración ética. En sistemas artificiales sin biología ni evolución social compartida, esa vinculación no existe de forma predeterminada.
Implicaciones para la seguridad
Si la ortogonalidad es cierta, no podemos esperar que una superinteligencia descubra por sí sola que debe ser bondadosa con la humanidad. Los objetivos benevolentes deben integrarse de forma explícita y verificada en el sistema.
Objeciones y debate
Algunos filósofos argumentan que existen verdades morales objetivas que cualquier mente racional descubriría. Sin embargo, en el diseño actual de redes neuronales, el sistema optimiza estrictamente la función asignada.
Fuentes y lecturas complementarias
Estas fuentes ofrecen definiciones, marcos o argumentos relevantes para esta explicación. No implican el respaldo de este sitio.
- The Superintelligent Will: Motivation and Instrumental Rationality (Nick Bostrom, 2012)
- Superintelligence: Paths, Dangers, Strategies (Nick Bostrom, 2014)