Apéndice

Glosario de IA

Los términos que oirá en la sala, definidos con claridad.

Inteligencia artificial (IA): Sistemas informáticos que hacen tareas que solemos asociar al pensamiento humano, como predecir, clasificar, escribir o planificar.
Aprendizaje automático: Una forma de crear sistemas que aprenden patrones a partir de ejemplos, en vez de recibir cada regla.
Modelo: Un sistema que ha aprendido de datos y convierte una entrada en una salida.
Modelo de lenguaje de gran tamaño (LLM): Un modelo entrenado con enormes cantidades de texto para predecir y escribir lenguaje.
IA generativa: IA que crea texto, imágenes, audio, código u otros contenidos nuevos.
Sistema de agentes / agente de IA: Un modelo conectado a herramientas, memoria e instrucciones, para que pueda realizar una tarea en varios pasos.
Automatización: Dejar que un sistema haga una tarea con poca ayuda directa de una persona.
Ampliación de capacidades: Usar IA para ayudar a las personas a trabajar, en vez de sustituirlas.
Intervención humana en el proceso: Una persona revisa, aprueba o interviene durante un proceso que usa IA.
Supervisión humana del proceso: Una persona supervisa un sistema, pero no revisa cada acción.
Proceso sin intervención humana: Un sistema actúa sin que una persona revise cada decisión o acción.
Datos de entrenamiento: Los ejemplos de los que aprende un modelo.
Conjunto de datos: Una colección organizada de datos que se usa para entrenar, probar o estudiar algo.
Procedencia de los datos: De dónde vienen los datos y cómo se recopilaron o modificaron.
Linaje de los datos: El recorrido de los datos por distintos sistemas y lo que les ocurre por el camino.
Datos estructurados: Datos en campos fijos, como en una hoja de cálculo o una base de datos.
Datos no estructurados: Texto, imágenes, audio o vídeo que no encajan en una tabla.
Datos sintéticos: Datos inventados para parecerse a datos reales.
Verdad de referencia: La respuesta que se toma como correcta al probar un sistema.
Base de conocimiento: Una colección seleccionada de información en la que un sistema puede buscar.
Conocimiento paramétrico: Lo que un modelo guarda en los valores numéricos que ha aprendido, frente a lo que consulta.
Conocimiento factual: Hechos y relaciones que un modelo puede haber aprendido de sus datos de entrenamiento.
Generación aumentada por recuperación (RAG): El sistema primero busca documentos o registros y luego escribe su respuesta a partir de ellos.
Conocimiento local: Conocimiento que viene de la experiencia de un lugar o una comunidad.
Conocimientos indígenas: Conocimientos acumulados y conservados por los pueblos y comunidades indígenas.
Soberanía de los datos: La idea de que los datos deben regirse por las leyes, los derechos y la autoridad de las personas o el lugar al que se refieren.
Minimización de datos: Recopilar y conservar solo los datos que necesitas para un fin declarado.
Datos sensibles: Datos que podrían causar daño si se comparten o se usan mal.
Entrada / instrucción: La instrucción o el material que das a un modelo.
Salida: Lo que produce el sistema: texto, una predicción, una categoría, una imagen o una acción.
Inferencia: Ejecutar un modelo entrenado para obtener una respuesta.
Ventana de contexto: Cuánto texto u otro material puede recibir un modelo a la vez.
Token: Un pequeño fragmento de texto, a menudo parte de una palabra, que un modelo lee y escribe.
Representación vectorial: Una lista de números que representa un texto o una imagen para que un ordenador pueda comparar significados.
Clasificación: Asignar un elemento a una o más categorías.
Predicción: La mejor estimación de un resultado, basada en los datos disponibles.
Pronóstico: Una predicción sobre el futuro.
Recomendación: Una salida que sugiere qué hacer.
Optimización: Buscar el mejor resultado, con un objetivo y unos límites.
Función objetivo: El valor numérico concreto que un sistema intenta elevar o reducir al máximo.
Indicador indirecto: Algo fácil de medir que se usa en lugar de un objetivo difícil de medir.
Prueba de referencia: Una prueba estándar para comparar modelos.
Evaluación: Medir qué tan bien funciona un modelo o sistema según unos criterios fijados.
Incertidumbre: La probabilidad de que una salida sea incorrecta o incompleta.
Puntuación de confianza: Un número que indica cuánta seguridad tiene un sistema en una predicción.
Calibración: Si la confianza de un sistema coincide con la frecuencia con la que acierta.
Explicabilidad: Poder explicar con claridad cómo llegó un sistema a una salida.
Interpretabilidad: Qué tan bien pueden las personas entender lo que ocurre dentro de un sistema.
Caja negra: Un sistema cuyo funcionamiento interno es difícil de ver o comprobar.
Alucinación: Una respuesta fluida que es falsa, inventada o que ninguna fuente respalda.
Sesgo: Errores que favorecen o perjudican de forma constante a ciertos grupos, por los datos, el diseño o el uso del sistema.
Equidad: Formas de medir y corregir el trato o los resultados desiguales.
Robustez: Funcionar de forma fiable incluso cuando cambian las condiciones o las entradas están desordenadas.
Ataque adversario: Una entrada diseñada para hacer que un sistema falle o se comporte mal.
Red neuronal: Un sistema informático formado por capas conectadas que convierten entradas en salidas.
Perceptrón: Un modelo matemático temprano de una sola célula cerebral. De él surgieron las redes neuronales posteriores.
Transformador: El diseño en el que se basan la mayoría de los modelos de lenguaje modernos. Calcula qué palabras de un texto son relevantes entre sí.
Pesos: Los valores numéricos que un modelo aprendió durante el entrenamiento. En la práctica, los pesos son el modelo.
Pesos abiertos: Pesos publicados para que cualquiera pueda ejecutar, estudiar o alojar el modelo por su cuenta.
Pesos cerrados: Pesos guardados en los servidores de la empresa. Solo puedes usar el modelo a través de su servicio.
Preentrenamiento: La primera y mayor etapa del entrenamiento, normalmente para predecir el siguiente fragmento de texto.
Ajuste fino: Entrenamiento adicional con un conjunto de datos más pequeño o una tarea específica.
Posentrenamiento: Entrenamiento tras el preentrenamiento que hace que un modelo sea más útil y se comporte mejor.
Aprendizaje por refuerzo (RL): Entrenamiento que recompensa algunas acciones y penaliza otras.
Aprendizaje por refuerzo con retroalimentación humana (RLHF): Aprendizaje por refuerzo en el que las recompensas vienen de las valoraciones de las personas.
Modelo de razonamiento: Un modelo que dedica más esfuerzo a resolver problemas de varios pasos antes de responder.
Cadena de pensamiento: Los pasos que un modelo escribe mientras resuelve un problema.
Leyes de escalado: El hallazgo de que los modelos mejoran de forma predecible al crecer, recibir más datos y usar más capacidad de cálculo.
Mezcla de expertos (MoE): Un modelo formado por muchas partes especializadas, de las que solo se usan unas pocas para cada entrada. Esto reduce el coste de ejecutarlo.
Alineación: Hacer que un sistema se comporte según unos objetivos o valores elegidos.
Seguridad de la IA: Investigación y práctica para evitar que los sistemas de IA causen daño o se salgan de control.
Gobernanza de la IA: Las reglas, instituciones y procesos que definen cómo se crea y se usa la IA.
IA responsable: Crear y usar IA teniendo en cuenta sus efectos sociales, éticos, jurídicos y ambientales.
Diseño sensible a los valores: Diseñar tecnología teniendo en cuenta los valores humanos y los intereses de las personas afectadas.
IA alineada con la soberanía: IA creada y gobernada para que una comunidad o un lugar mantenga el control sobre ella.
Permisos detallados: Límites que precisan qué herramientas, archivos, datos o acciones puede usar un sistema.
Entorno aislado: Un espacio separado donde un sistema puede ejecutarse con acceso limitado.
Punto de aprobación humana: Un paso en el que una persona debe dar su aprobación antes de realizar una acción.
Registro de auditoría: Un registro de lo que entró en un sistema, lo que salió y lo que hizo.
Ficha del modelo: Un documento que describe para qué sirve un modelo, sus límites y cómo se probó.
Ficha del sistema: Un documento que describe un sistema completo en uso, incluidos sus riesgos y medidas de protección.
Deriva del modelo: Cuando el rendimiento de un modelo cambia con el tiempo porque cambian los datos o las condiciones.
Control de versiones: Llevar un registro de los cambios en modelos, datos, instrucciones y software.
Reversión: Volver a una versión anterior de un sistema.
Alojamiento propio: Ejecutar un modelo en equipos que tú o tu institución controlan.
Retención cero de datos: Una promesa escrita de un proveedor de que no guarda nada de lo que envías.