Apêndice

Glossário de IA

Os termos que você vai ouvir na sala, definidos de forma simples.

Inteligência artificial (IA): Sistemas concebidos para executar tarefas associadas à inteligência humana, como previsão, classificação, geração ou planeamento.
Aprendizagem automática: Método pelo qual um sistema aprende padrões a partir de exemplos, em vez de receber explicitamente todas as regras.
Modelo: Sistema matemático aprendido que mapeia entradas em saídas.
Large language model (LLM): Modelo treinado em grandes coleções de texto para prever e gerar linguagem.
IA generativa: IA que produz novo texto, imagens, áudio, código ou outros resultados.
Sistema agêntico / agente de IA: Modelo ligado a ferramentas, memória, instruções e ciclos de ação para poder concluir várias etapas.
Automatização: Utilização de um sistema para executar uma tarefa com intervenção humana direta limitada.
Aumento: Utilização da IA para apoiar, em vez de substituir, o trabalho humano.
Humano no ciclo: Uma pessoa revê, aprova ou intervém num processo assistido por IA.
Humano sobre o ciclo: Uma pessoa supervisiona um sistema sem rever cada ação.
Humano fora do ciclo: Um sistema atua sem que uma pessoa reveja cada decisão ou ação.
Dados de treino: Exemplos utilizados para ajustar os parâmetros de um modelo durante o treino.
Conjunto de dados: Coleção organizada de dados utilizada para treino, teste ou análise.
Proveniência dos dados: Informação sobre a origem dos dados e sobre a forma como foram recolhidos ou alterados.
Linhagem dos dados: Histórico de como os dados se deslocam através de sistemas e transformações.
Dados estruturados: Dados organizados em campos, linhas, categorias ou esquemas definidos.
Dados não estruturados: Material como texto, imagens, áudio ou vídeo sem uma estrutura tabular fixa.
Dados sintéticos: Dados gerados artificialmente, concebidos para se assemelharem a dados reais.
Verdade de referência: Rótulo ou resultado de referência tratado como correto para efeitos de avaliação.
Base de conhecimento: Coleção curada de informação que um sistema pode recuperar.
Conhecimento paramétrico: Informação codificada nos parâmetros aprendidos de um modelo.
Conhecimento factual: Informação sobre factos ou relações que um modelo pode ter aprendido a partir dos seus dados de treino.
Geração aumentada por recuperação (RAG): Sistema que recupera documentos ou registos antes de gerar uma resposta.
Conhecimento local: Conhecimento enraizado na experiência de um lugar ou comunidade específicos.
Conhecimento indígena: Sistemas de conhecimento desenvolvidos e mantidos por povos e comunidades indígenas.
Soberania dos dados: Princípio segundo o qual os dados são governados de acordo com as leis, os direitos e a autoridade das pessoas ou do lugar a que dizem respeito.
Minimização dos dados: Recolha e conservação apenas dos dados necessários para uma finalidade declarada.
Dados sensíveis: Dados cuja divulgação ou utilização indevida poderia causar danos.
Entrada / prompt: Instrução ou material fornecido a um modelo.
Saída: Texto, previsão, classificação, imagem ou ação produzido por um sistema.
Inferência: Execução de um modelo treinado para produzir uma saída.
Janela de contexto: Quantidade de texto ou outro material que um modelo pode considerar de uma só vez.
Token: Unidade de texto ou de outros dados processada por um modelo de linguagem.
Embedding: Representação numérica de texto, imagens ou outros dados utilizada para comparar relações.
Classificação: Atribuição de um item a uma ou mais categorias.
Previsão: Estimativa de um resultado provável a partir dos dados disponíveis.
Projeção: Previsão sobre um estado ou acontecimento futuro.
Recomendação: Saída que sugere uma linha de ação.
Otimização: Procura do melhor resultado de acordo com um objetivo e restrições definidos.
Função objetivo: Quantidade formal que um sistema procura maximizar ou minimizar.
Proxy: Medida indireta utilizada em lugar de um objetivo mais difícil de medir.
Benchmark: Teste utilizado para comparar o desempenho de modelos.
Avaliação: Medição de um modelo ou sistema em relação a critérios definidos.
Incerteza: Grau em que uma saída pode estar errada ou incompleta.
Pontuação de confiança: Estimativa numérica associada a uma previsão ou classificação.
Calibração: Relação entre a confiança prevista e a exatidão real.
Explicabilidade: Capacidade de fornecer uma explicação compreensível de como uma saída foi produzida.
Interpretabilidade: Medida em que o comportamento interno de um sistema pode ser compreendido.
Caixa preta: Sistema cuja operação interna é difícil de inspecionar.
Alucinação: Saída de modelo fluente, mas sem suporte, falsa ou fabricada.
Viés: Erro sistemático ou desempenho desigual associado aos dados, à conceção ou à utilização.
Equidade: Abordagens para avaliar e tratar tratamentos ou resultados desiguais.
Robustez: Capacidade de funcionar de forma fiável em condições alteradas ou imperfeitas.
Ataque adversarial: Entrada concebida deliberadamente para levar um sistema a falhar ou a comportar-se de forma inesperada.
Rede neural: Sistema computacional composto por camadas ligadas que transformam entradas em saídas.
Perceptrão: Modelo matemático inicial de uma única célula cerebral e base para investigação posterior sobre redes neurais.
Transformer: Arquitetura de rede neural que utiliza atenção para processar relações entre tokens.
Pesos: Números que um modelo aprendeu durante o treino. Na prática, os pesos são o modelo.
Pesos abertos: Pesos publicados para que qualquer pessoa possa executar, inspecionar ou alojar o modelo por si própria.
Pesos fechados: Pesos mantidos nos servidores do fornecedor e acessíveis apenas através do seu serviço.
Pré-treino: Treino inicial num grande corpo de dados, geralmente por previsão de conteúdo em falta ou subsequente.
Ajuste fino: Treino adicional num conjunto de dados ou tarefa mais restritos.
Pós-treino: Processos aplicados após o pré-treino para melhorar a utilidade, o comportamento ou o alinhamento.
Aprendizagem por reforço (RL): Treino por meio de retorno que recompensa algumas ações e penaliza outras.
Aprendizagem por reforço a partir de feedback humano (RLHF): Aprendizagem por reforço que utiliza preferências ou avaliações humanas.
Modelo de raciocínio: Modelo ou sistema otimizado para dedicar computação adicional a problemas de múltiplas etapas.
Cadeia de pensamento: Texto de raciocínio intermédio gerado durante a resolução de problemas.
Leis de escala: Relações observadas entre desempenho do modelo, dimensão do modelo, dados de treino e capacidade computacional.
Mixture of experts (MoE): Arquitetura que contém várias sub-redes especializadas, das quais apenas algumas são utilizadas para cada entrada.
Alinhamento: Conceção de um sistema para que o seu comportamento reflita objetivos ou valores especificados.
Segurança da IA: Investigação e práticas destinadas a reduzir comportamentos nocivos ou não controlados dos sistemas.
Governação da IA: Regras, instituições, processos e práticas que moldam o desenvolvimento e a utilização da IA.
IA responsável: Desenvolvimento e utilização da IA com atenção aos impactos sociais, éticos, jurídicos e ambientais.
Conceção sensível a valores: Conceção de tecnologia com atenção explícita aos valores humanos e aos interesses afetados.
IA alinhada com a soberania: IA concebida e governada para preservar a agência de uma comunidade ou lugar definidos.
Permissões granulares: Restrições sobre as ferramentas, ficheiros, dados ou ações a que um sistema pode aceder.
Sandbox: Ambiente isolado no qual um sistema pode operar com acesso limitado.
Portão de aprovação humana: Autorização humana exigida antes de uma ação prosseguir.
Registo de auditoria: Registo das entradas, saídas, ações e alterações de um sistema.
Cartão de modelo: Documentação que descreve a utilização prevista, as limitações e a avaliação de um modelo.
Cartão de sistema: Documentação que abrange um sistema implantado mais amplo, incluindo riscos e medidas de mitigação.
Deriva do modelo: Alteração do desempenho à medida que dados, comportamentos ou condições mudam ao longo do tempo.
Controlo de versões: Acompanhamento de alterações a modelos, dados, prompts e software.
Reversão: Regresso de um sistema ou implantação a uma versão anterior.
Alojamento próprio: Execução de um modelo em hardware controlado por si ou pela sua instituição.
Retenção zero de dados: Promessa contratual de que um fornecedor não armazena nada do que lhe é enviado.