Apéndice

Glosario de IA

Los términos que oirá en la sala, definidos con claridad.

Inteligencia artificial (IA): Sistemas diseñados para realizar tareas asociadas con la inteligencia humana, como la predicción, la clasificación, la generación o la planificación.
Aprendizaje automático: Método mediante el cual un sistema aprende patrones a partir de ejemplos, en lugar de recibir cada regla de forma explícita.
Modelo: Sistema matemático aprendido que asigna entradas a salidas.
Modelo lingüístico grande (LLM): Modelo entrenado con grandes colecciones de texto para predecir y generar lenguaje.
IA generativa: IA que produce texto, imágenes, audio, código u otros resultados nuevos.
Sistema agéntico / agente de IA: Modelo conectado a herramientas, memoria, instrucciones y bucles de acción para poder completar varios pasos.
Automatización: Uso de un sistema para realizar una tarea con intervención humana directa limitada.
Aumento: Uso de la IA para apoyar el trabajo humano, no para sustituirlo.
Humano en el bucle: Una persona examina, aprueba o interviene en un proceso asistido por IA.
Humano sobre el bucle: Una persona supervisa un sistema sin examinar cada acción.
Humano fuera del bucle: Un sistema actúa sin que una persona examine cada decisión o acción.
Datos de entrenamiento: Ejemplos utilizados para ajustar los parámetros de un modelo durante el entrenamiento.
Conjunto de datos: Colección organizada de datos utilizada para entrenamiento, pruebas o análisis.
Procedencia de los datos: Información sobre el origen de los datos y sobre cómo se recopilaron o modificaron.
Linaje de los datos: Historial de cómo los datos se desplazan a través de sistemas y transformaciones.
Datos estructurados: Datos organizados en campos, filas, categorías o esquemas definidos.
Datos no estructurados: Material como texto, imágenes, audio o vídeo sin una estructura tabular fija.
Datos sintéticos: Datos generados artificialmente y diseñados para asemejarse a datos reales.
Verdad de referencia: Etiqueta o resultado de referencia tratado como correcto para fines de evaluación.
Base de conocimientos: Colección curada de información que un sistema puede recuperar.
Conocimiento paramétrico: Información codificada en los parámetros aprendidos de un modelo.
Conocimiento fáctico: Información sobre hechos o relaciones que un modelo puede haber aprendido de sus datos de entrenamiento.
Generación aumentada por recuperación (RAG): Sistema que recupera documentos o registros antes de generar una respuesta.
Conocimiento local: Conocimiento fundamentado en la experiencia de un lugar o una comunidad determinados.
Conocimientos indígenas: Sistemas de conocimiento desarrollados y mantenidos por los pueblos y las comunidades indígenas.
Soberanía de los datos: Principio según el cual los datos se rigen conforme a las leyes, los derechos y la autoridad de las personas o del lugar a que se refieren.
Minimización de datos: Recopilación y conservación únicamente de los datos necesarios para un propósito declarado.
Datos sensibles: Datos cuya divulgación o uso indebido podría causar daño.
Entrada / prompt: Instrucción o material proporcionado a un modelo.
Salida: Texto, predicción, clasificación, imagen o acción producidos por un sistema.
Inferencia: Ejecución de un modelo entrenado para producir una salida.
Ventana de contexto: Cantidad de texto u otro material que un modelo puede considerar a la vez.
Token: Unidad de texto u otros datos procesada por un modelo lingüístico.
Incrustación: Representación numérica de texto, imágenes u otros datos utilizada para comparar relaciones.
Clasificación: Asignación de un elemento a una o más categorías.
Predicción: Estimación de un resultado probable a partir de los datos disponibles.
Pronóstico: Predicción sobre un estado o acontecimiento futuro.
Recomendación: Salida que sugiere una línea de acción.
Optimización: Búsqueda del mejor resultado de acuerdo con un objetivo y unas restricciones definidos.
Función objetivo: Magnitud formal que un sistema intenta maximizar o minimizar.
Variable sustitutiva: Medida indirecta utilizada en lugar de un objetivo más difícil de medir.
Banco de pruebas: Prueba utilizada para comparar el desempeño de los modelos.
Evaluación: Medición de un modelo o sistema con respecto a criterios definidos.
Incertidumbre: Grado en que una salida puede ser errónea o incompleta.
Puntuación de confianza: Estimación numérica asociada con una predicción o clasificación.
Calibración: Relación entre la confianza predicha y la exactitud real.
Explicabilidad: Capacidad de proporcionar una explicación comprensible de cómo se produjo una salida.
Interpretabilidad: Grado en que puede comprenderse el comportamiento interno de un sistema.
Caja negra: Sistema cuyo funcionamiento interno es difícil de inspeccionar.
Alucinación: Salida de un modelo que es fluida pero no respaldada, falsa o fabricada.
Sesgo: Error sistemático o desempeño desigual asociado con los datos, el diseño o el uso.
Equidad: Enfoques para evaluar y abordar el trato o los resultados desiguales.
Robustez: Capacidad de funcionar de manera fiable en condiciones modificadas o imperfectas.
Ataque adversarial: Entrada diseñada deliberadamente para hacer que un sistema falle o se comporte de forma inesperada.
Red neuronal: Sistema computacional compuesto por capas conectadas que transforman entradas en salidas.
Perceptrón: Modelo matemático temprano de una sola célula cerebral, y base de investigaciones posteriores sobre redes neuronales.
Transformer: Arquitectura de red neuronal que utiliza la atención para procesar relaciones entre tokens.
Pesos: Números que un modelo aprendió durante el entrenamiento. En la práctica, los pesos son el modelo.
Pesos abiertos: Pesos publicados para que cualquiera pueda ejecutar, inspeccionar o alojar el modelo por sí mismo.
Pesos cerrados: Pesos conservados en los servidores del proveedor y accesibles únicamente a través de su servicio.
Preentrenamiento: Entrenamiento inicial con un gran corpus de datos, normalmente mediante la predicción de contenido faltante o subsiguiente.
Ajuste fino: Entrenamiento adicional con un conjunto de datos o una tarea más acotados.
Posentrenamiento: Procesos aplicados después del preentrenamiento para mejorar la utilidad, el comportamiento o la alineación.
Aprendizaje por refuerzo (RL): Entrenamiento mediante retroalimentación que recompensa algunas acciones y penaliza otras.
Aprendizaje por refuerzo a partir de retroalimentación humana (RLHF): Aprendizaje por refuerzo que utiliza preferencias o evaluaciones humanas.
Modelo de razonamiento: Modelo o sistema optimizado para dedicar computación adicional a problemas de varios pasos.
Cadena de pensamiento: Texto de razonamiento intermedio generado durante la resolución de problemas.
Leyes de escalamiento: Relaciones observadas entre el desempeño del modelo, el tamaño del modelo, los datos de entrenamiento y la capacidad de cómputo.
Mixture of experts (MoE): Arquitectura que contiene múltiples subredes especializadas, de las cuales solo algunas se utilizan para cada entrada.
Alineación: Diseño de un sistema para que su comportamiento refleje objetivos o valores especificados.
Seguridad de la IA: Investigación y prácticas orientadas a reducir comportamientos dañinos o no controlados de los sistemas.
Gobernanza de la IA: Reglas, instituciones, procesos y prácticas que configuran el desarrollo y el uso de la IA.
IA responsable: Desarrollo y uso de la IA prestando atención a sus impactos sociales, éticos, jurídicos y ambientales.
Diseño sensible a los valores: Diseño de tecnología con atención explícita a los valores humanos y a los intereses afectados.
IA alineada con la soberanía: IA diseñada y gobernada para preservar la capacidad de acción de una comunidad o un lugar definidos.
Permisos granulares: Restricciones sobre las herramientas, archivos, datos o acciones a los que puede acceder un sistema.
Entorno aislado: Entorno separado en el que un sistema puede operar con acceso limitado.
Punto de aprobación humana: Autorización humana requerida antes de que una acción continúe.
Registro de auditoría: Registro de entradas, salidas, acciones y cambios del sistema.
Ficha del modelo: Documentación que describe el uso previsto, las limitaciones y la evaluación de un modelo.
Ficha del sistema: Documentación que abarca un sistema desplegado más amplio, incluidos los riesgos y las medidas de mitigación.
Deriva del modelo: Cambio en el desempeño a medida que los datos, el comportamiento o las condiciones cambian con el tiempo.
Control de versiones: Seguimiento de los cambios en modelos, datos, prompts y software.
Reversión: Restablecimiento de un sistema o despliegue a una versión anterior.
Autoalojamiento: Ejecución de un modelo en hardware que usted o su institución controlan.
Retención nula de datos: Promesa contractual de que un proveedor no almacena nada de lo que usted le envía.