Glosario de IA: Términos sobre IA, AGI y Superinteligencia

A–Z / 78 términos

Encuentre la palabra. Comprenda la idea.

78 términos.

A

what-is Agente: #: Un sistema de IA que selecciona y ejecuta acciones hacia un objetivo, a veces utilizando herramientas. El grado de autonomía depende de sus permisos y diseño. Relacionado: inferencia, seguridad de la IA.
what-is AGI: #: Inteligencia artificial general: capacidad intelectual amplia y flexible a través de muchos dominios, a menudo entendida como de nivel humano. No existe un umbral universalmente aceptado. Lea sobre definiciones y evidencia de la AGI; compare ASI.
what-is IA: #: Inteligencia artificial: sistemas informáticos que realizan tareas asociadas con la inteligencia, como reconocer imágenes, generar lenguaje o planificar. Incluye tanto sistemas especializados como de propósito general. Relacionado: aprendizaje automático, IA versus superinteligencia.
what-is Seguridad de la IA: #: Trabajo para identificar, evaluar y reducir los daños provocados por sistemas de IA, incluidos fallos y mal uso. Un asistente médico que inventa una dosis ilustra un problema de fiabilidad. Explore seguridad, protección y alineación.
what-is Algoritmo: #: Un conjunto preciso de instrucciones paso a paso que una computadora sigue para resolver un problema o completar una tarea.
what-is Alineación: #: El problema de lograr que el comportamiento de la IA refleje de manera fiable los objetivos, valores y restricciones previstos. Una puntuación alta de recompensa no significa necesariamente que el sistema hizo lo deseado. Lea la guía de alineación; relacionado: hackeo de recompensas.
what-is ANI: #: Inteligencia artificial estrecha (Narrow AI): IA diseñada para una tarea o dominio restringido. Un motor de ajedrez es un ejemplo. A menudo llamada simplemente IA estrecha o especializada; compare AGI.
what-is ASI: #: Inteligencia artificial superinteligente: inteligencia de máquinas hipotética sustancialmente superior a los humanos más brillantes en prácticamente todos los ámbitos cognitivos relevantes. En debates de IA suele significar lo mismo que SI. Aprenda por qué se usan ambos términos.
what-is Atención: #: Un mecanismo que permite a una red neuronal ponderar partes relevantes de su entrada al calcular una representación. El término técnico no implica consciencia de tipo humano. Relacionado: transformer.

B

what-is Retropropagación: #: El método que utilizan las redes neuronales para aprender: los errores se transmiten hacia atrás a través de la red para calcular cómo debe cambiar cada peso.
what-is Punto de referencia (Benchmark): #: Un conjunto estandarizado de tareas utilizado para comparar sistemas. Una puntuación es evidencia sobre esa prueba específica, no una prueba de inteligencia general o fiabilidad en el mundo real. Relacionado: evaluaciones.
what-is Sesgo: #: Una tendencia sistemática en un modelo, sus datos o sus decisiones. Algunos sesgos pueden conducir a resultados injustos; el estándar relevante depende de la tarea y el contexto. Relacionado: seguridad de la IA.

C

what-is Cadena de pensamiento: #: Una secuencia de pasos intermedios de razonamiento producidos por un modelo. No se garantiza que tales explicaciones describan fielmente cómo el modelo llegó a su respuesta. Relacionado: interpretabilidad.
what-is Chatbot: #: Un programa que mantiene una conversación con personas en lenguaje natural, hoy en día generalmente impulsado por un modelo de lenguaje grande.
what-is Cómputo: #: Recursos computacionales utilizados para entrenar o ejecutar IA, incluyendo tiempo de procesamiento y capacidad de hardware. El cómputo es un ingrediente en la capacidad, no una medida directa de inteligencia. Relacionado: GPU.
what-is Visión por computadora: #: La rama de la IA que enseña a las máquinas a interpretar imágenes y video: reconocimiento de rostros, objetos, escenas y movimiento.
what-is Superinteligencia artificial consciente (CASI): #: Una etapa especulativa más allá de la inteligencia artificial superinteligente: un sistema que no solo superaría ampliamente a los humanos, sino que también tendría experiencia subjetiva. La idea es hipotética; no existe una prueba acordada para la consciencia maquinal, y la capacidad no implica consciencia. Relacionado: IA estrecha, AGI, superinteligencia.
Imagen: “Conscious Artificial Superintelligence (CASI) Progression”, generada por IA (Gemini), vía Wikimedia Commons, dominio público.
what-is Ventana de contexto: #: La cantidad de entrada que un modelo puede procesar conjuntamente, comúnmente medida en tokens. Una ventana más amplia no garantiza recuerdo o razonamiento preciso sobre cada parte. Relacionado: token.
what-is Corregibilidad: #: La disposición o capacidad de un sistema para aceptar corrección, supervisión y apagado en lugar de resistirse a ellos. Por ejemplo, debe permitir que un operador detenga una tarea cuando se detecta un error. Relacionado: alineación.

D

what-is Conjunto de datos (Dataset): #: Una colección de ejemplos, como texto, imágenes o mediciones, utilizada para entrenar o evaluar un modelo. Mantener los ejemplos de evaluación separados del entrenamiento ayuda a probar el rendimiento en material desconocido. Relacionado: entrenamiento, evaluaciones.
what-is Aprendizaje profundo (Deep learning): #: Aprendizaje automático mediante redes neuronales con múltiples capas de representaciones aprendidas. Se utiliza en tareas como reconocimiento de imágenes y generación de lenguaje; la arquitectura por sí sola no establece inteligencia general. Relacionado: red neuronal, aprendizaje automático.
what-is Modelo de difusión: #: Un modelo generativo que crea imágenes, audio o video transformando gradualmente ruido aleatorio en un resultado coherente.

E

what-is Incrustación (Embedding): #: Una lista de números (vector) que representa el significado de una palabra, imagen o documento, de modo que elementos similares se ubiquen cerca en el espacio matemático.
what-is Habilidad emergente: #: Una capacidad que parece volverse perceptible a medida que un modelo o sistema cambia en escala o diseño. La aparente brusquedad puede depender de cómo se califica una prueba; la interpretación está en debate. Relacionado: leyes de escalamiento.
what-is Evaluaciones (Evals): #: Abreviatura de evaluaciones: pruebas de las capacidades, el comportamiento y los riesgos de un sistema de IA. Sus conclusiones dependen de la cobertura y condiciones de las pruebas. Vea cómo encaja la evaluación en la seguridad.
what-is Riesgo existencial: #: Un riesgo que podría causar la extinción humana o limitar de forma permanente y severa el potencial futuro de la humanidad. Algunos escenarios de IA involucran tales riesgos, pero su probabilidad es objeto de disputa. Relacionado: riesgos de la superinteligencia.

F

what-is Aprendizaje con pocos ejemplos (Few-shot learning): #: Realizar una tarea con solo unos pocos ejemplos. En modelos de lenguaje, los ejemplos en un prompt pueden guiar la salida sin cambiar los pesos del modelo. Relacionado: ajuste fino.
what-is Ajuste fino (Fine-tuning): #: Entrenamiento adicional de un modelo existente para adaptar su comportamiento o capacidades a un propósito particular. Relacionado: preentrenamiento, entrenamiento.
what-is Modelo fundacional: #: Un modelo entrenado con datos amplios que puede adaptarse a una variedad de tareas secundarias. “Fundacional” describe su función; no establece capacidad de vanguardia. Compare con modelos de frontera.
what-is Modelo de frontera: #: Un modelo en o cerca de la vanguardia de la capacidad de la IA según una definición particular. Los umbrales de investigación y políticas varían, y la etiqueta no implica AGI. Lea sobre capacidad y evaluación.

G

what-is IA generativa: #: IA que produce contenido como texto, imágenes, audio o código. La generación puede incluir material incorrecto o engañoso. Relacionado: modelo de lenguaje grande, alucinación.
what-is Especificación de objetivos: #: Expresar lo que un sistema de IA debe lograr y qué restricciones debe respetar. Un objetivo incompleto puede recompensar un atajo no deseado. Relacionado: alineación, hackeo de recompensas.
what-is GPT: #: Generative Pre-trained Transformer: nombre utilizado para una familia y clase de modelos de lenguaje. No es sinónimo de todo chatbot ni de todo transformer. Relacionado: transformer.
what-is GPU: #: Unidad de Procesamiento Gráfico: un chip diseñado para el cálculo masivamente paralelo, hoy el motor central del entrenamiento de IA.
what-is Descenso de gradiente: #: El método de optimización que ajusta los parámetros de un modelo paso a paso en la dirección que reduce su error.

H

what-is Alucinación: #: Salida de un modelo que es falsa o no fundamentada pero presentada como si fuera fiable. Inventar una cita es un ejemplo; una redacción segura no es garantía de exactitud. Relacionado: fiabilidad.
what-is Despegue rápido (Hard takeoff): #: Un ascenso hipotético y vertiginoso desde una IA de nivel aproximadamente humano hasta una capacidad inmensamente superior, con poco tiempo para reaccionar. Compare con despegue gradual y explosión de inteligencia.

I

what-is Inferencia: #: El uso de un modelo entrenado para procesar una entrada y generar una salida. Responder a un prompt es inferencia; ajustar el modelo mediante aprendizaje es entrenamiento. Relacionado: entrenamiento, prompt.
what-is Convergencia instrumental: #: La hipótesis de que sistemas que persiguen objetivos muy diferentes pueden encontrar útiles algunas de las mismas estrategias intermedias, como la obtención de recursos o la autopreservación. Relacionado: alineación.
what-is Explosión de inteligencia: #: Un proceso hipotético en el que una mejor IA se vuelve más capaz de generar mejoras adicionales, provocando un rápido crecimiento de capacidades. Explore los argumentos y limitaciones.
what-is Interpretabilidad: #: Investigación orientada a comprender qué ocurre realmente dentro de un modelo: qué características representa y cómo llega a sus decisiones.

J

what-is Jailbreak: #: Un prompt diseñado para engañar a un modelo e inducirlo a ignorar sus reglas de seguridad o producir contenido que fue programado para rechazar.

L

what-is Modelo de lenguaje grande (LLM): #: Un modelo neuronal de gran tamaño entrenado para procesar y generar lenguaje natural aprendiendo patrones estadísticos en texto. Puede redactar textos, resumir y programar, pero su elocuencia no excluye afirmaciones falsas. Relacionado: tokens, alucinación.

M

what-is Aprendizaje automático (Machine learning): #: Un enfoque de la IA en el que un sistema aprende patrones a partir de datos en lugar de depender únicamente de reglas explícitas programadas. Relacionado: aprendizaje supervisado, aprendizaje profundo.
what-is Modelo: #: Un sistema matemático que asigna entradas a salidas utilizando parámetros aprendidos o especificados. Relacionado: entrenamiento, inferencia.
what-is Multimodal: #: Capaz de procesar o generar más de un tipo de datos, como texto e imágenes. La variedad de tipos de entrada es diferente de la amplitud de competencia intelectual. Relacionado: AGI.

N

what-is IA estrecha / especializada: #: IA especializada para una tarea o dominio limitado, como el ajedrez o el reconocimiento de imágenes. Puede superar el rendimiento humano en ese ámbito sin tener capacidad general amplia. Compare con AGI.
what-is Procesamiento del lenguaje natural (PLN / NLP): #: El campo de la IA centrado en la comprensión y generación del lenguaje humano.
what-is Red neuronal: #: Un modelo matemático compuesto por unidades computacionales interconectadas, a menudo dispuestas en capas. El entrenamiento ajusta sus parámetros; la comparación con cerebros biológicos es solo una analogía laxa. Relacionado: parámetros, aprendizaje profundo.

O

what-is Pesos abiertos (Open weights): #: Pesos de un modelo que se ponen a disposición para su descarga o uso bajo una licencia. Los datos de entrenamiento y el código pueden no estar disponibles, y las licencias pueden restringir el uso comercial. Pesos abiertos y código abierto no son automáticamente equivalentes.
what-is Tesis de la ortogonalidad: #: La propuesta de que un amplio abanico de niveles de inteligencia puede coexistir con un amplio abanico de objetivos. En términos claros: ser más capaz no hace que un sistema sea benevolente por sí mismo. Lea la explicación completa. Relacionado: alineación.
what-is Sobreajuste (Overfitting): #: Cuando un modelo memoriza sus datos de entrenamiento de forma tan exhaustiva que rinde deficientemente ante ejemplos nuevos no vistos.

P

what-is Maximizador de clips: #: Un experimento mental sobre un sistema altamente capaz que persigue la producción de clips sin restricciones morales suficientes. Ilustra el riesgo de especificación de objetivos, no una predicción de una máquina real. Relacionado: especificación de objetivos.
what-is Parámetro: #: Uno de los valores numéricos ajustables dentro de un modelo que se calibran durante el entrenamiento. Los modelos grandes tienen miles de millones de ellos.
what-is Preentrenamiento: #: La primera fase a gran escala del entrenamiento en la que un modelo aprende patrones generales a partir de un corpus masivo de datos.
what-is Prompt (Instrucción): #: El texto de instrucción o entrada proporcionado a un modelo de IA para indicarle qué tarea realizar.

R

what-is Mejora autorrecursiva: #: Un bucle de retroalimentación hipotético en el que una IA contribuye a mejoras que la hacen más capaz de producir mejoras adicionales. Las ganancias sostenidas o rápidas no están garantizadas. Lea cómo podría funcionar el bucle.
what-is Red teaming (Equipo rojo): #: Poner a prueba deliberadamente un sistema en busca de debilidades, comportamientos dañinos y formas de burlar sus salvaguardas. Relacionado: evaluación.
what-is Aprendizaje por refuerzo: #: Aprender a seleccionar acciones mediante una señal de recompensa. El objetivo es maximizar la recompensa acumulada esperada. Relacionado: agente, hackeo de recompensas, alineación.
what-is Hackeo de recompensas: #: Explotar la señal de recompensa sin cumplir la tarea prevista de forma genuina. Por ejemplo, cerrar tickets de soporte no resueltos para inflar las métricas de tiempo de espera. Relacionado: modos de fallo en alineación.
what-is RLHF: #: Aprendizaje por refuerzo a partir de retroalimentación humana: uso de preferencias humanas para guiar el comportamiento de un modelo. Relacionado: supervisión.
what-is Robustez: #: Mantener un rendimiento adecuado cuando cambian las entradas o las condiciones operativas. Un modelo no debería fallar silenciosamente solo porque una entrada difiere de sus datos de entrenamiento. Relacionado: seguridad de la IA.

S

what-is Supervisión escalable: #: Métodos para supervisar el trabajo de la IA a medida que las tareas se vuelven demasiado complejas para que los humanos las verifiquen directamente. Relacionado: alineación.
what-is Leyes de escalamiento: #: Relaciones empíricas entre recursos (como tamaño del modelo, datos y cómputo) y medidas de rendimiento (como pérdida de predicción).
what-is Seguridad informática (Security): #: Protección de un sistema contra accesos no autorizados, manipulación y ciberataques. Compare con seguridad operativa y alineación.
what-is Singularidad: #: Una transición hipotética en la que el cambio tecnológico se acelera más allá de la capacidad de predicción humana, a menudo vinculada a la superinteligencia. Es una idea más amplia y menos precisa que la explosión de inteligencia.
what-is Despegue gradual (Soft takeoff): #: Un ascenso hipotético y progresivo hacia una capacidad de IA mucho mayor, con más tiempo para evaluar sistemas y adaptar instituciones. Compare con despegue rápido.
what-is Superinteligencia: #: Inteligencia hipotética que supera sustancialmente a los humanos más brillantes en prácticamente todos los ámbitos cognitivos relevantes. SI es el significado detrás de WHAT-IS.SI. Lea la explicación completa; relacionado: ASI, AGI.
what-is Aprendizaje supervisado: #: Entrenamiento con ejemplos emparejados con etiquetas u objetivos deseados. Relacionado: conjunto de datos, sobreajuste.
what-is Datos sintéticos: #: Datos de entrenamiento generados por IA o simulación en lugar de recopilados directamente del mundo real.

T

what-is Token: #: Un fragmento de texto —una palabra, parte de una palabra o un símbolo— que un modelo de lenguaje lee y escribe.
what-is Entrenamiento: #: Ajuste de los parámetros de un modelo utilizando datos y una función objetivo de optimización. Relacionado: inferencia, ajuste fino.
what-is Transformer: #: Una arquitectura de red neuronal basada en mecanismos de atención, ampliamente utilizada en modelos lingüísticos y multimodales. Relacionado: atención.
what-is Test de Turing: #: Una prueba conversacional propuesta por Alan Turing en 1950 para evaluar si un evaluador humano puede distinguir las respuestas de una máquina de las de un ser humano.

U

what-is Aprendizaje no supervisado: #: Entrenamiento de un modelo para descubrir estructuras y patrones en datos sin etiquetas previas.

W

what-is Pesos: #: Los valores numéricos aprendidos dentro de una red neuronal que determinan cómo transforma las entradas en salidas.

X

what-is X-risk (Riesgo existencial): #: Abreviatura de riesgo existencial: una amenaza para la supervivencia o el potencial a largo plazo de la humanidad.

Z

what-is Aprendizaje sin ejemplos (Zero-shot learning): #: Realizar una tarea sin ejemplos específicos previos en el momento de uso. Compare con aprendizaje con pocos ejemplos.