Em 26 de julho de 2024, o Instituto Nacional de Padrões e Tecnologia dos Estados Unidos, o NIST, publicou um perfil para ajudar organizações a reconhecer e tratar riscos específicos da inteligência artificial generativa. A versão em PDF do NIST AI 600-1 enumera 12 grupos de risco, enquanto a página resumida do NIST AI Resource Center menciona 13, e propõe mais de 400 ações. Ele não certifica produtos, não declara que uma ferramenta é segura e não transforma recomendações em obrigação legal. Seu valor está em oferecer perguntas e práticas que podem ser ligadas a responsáveis, testes, fornecedores e decisões de uso.
Imagem de destaque: ilustração editorial original criada para o Bastidores da IA. Não é imagem oficial do NIST, captura de sistema, certificado nem prova de conformidade.
Quando isso aconteceu
O NIST publicou o Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile em 26 de julho de 2024. A publicação recebeu o número NIST AI 600-1 e foi apresentada como recurso complementar ao AI Risk Management Framework 1.0, lançado em janeiro de 2023.
A página oficial da publicação informa que foi atualizada em 8 de abril de 2026, mas mantém 26 de julho de 2024 como data do documento. Já a página atual do AI Risk Management Framework diz que a versão 1.0 está em revisão. Portanto, esta matéria trata de uma orientação histórica ainda disponível, sem sugerir que o texto de 2024 seja uma norma imutável ou a última palavra sobre governança de IA.
A matéria foi preparada em 21 de agosto de 2026. A data original é importante porque o perfil nasceu em um momento de expansão rápida de modelos generativos e continua útil como estrutura de trabalho, mesmo enquanto o framework principal passa por revisão.
O que o NIST publicou
O perfil é um documento transversal. Ele não foi escrito para um único setor, produto ou tipo de organização. A proposta é adaptar as funções do AI RMF a riscos que surgem ou ficam mais intensos com sistemas capazes de gerar texto, imagem, áudio, vídeo e outros conteúdos.
Segundo o NIST AI Resource Center, o trabalho recebeu contribuições de um grupo público com 2.500 participantes. A página resume a orientação como centrada em 13 riscos e mais de 400 ações sugeridas. O PDF atualmente disponível, porém, enumera 12 grupos. A diferença aparece em duas páginas oficiais consultadas na mesma data. Por isso, esta matéria usa a enumeração do documento e registra a divergência, em vez de apresentar o total como se as fontes fossem uniformes. A quantidade de ações descreve a abrangência do material, não uma lista que toda organização precise executar integralmente.
O próprio documento NIST AI 600-1 em PDF explica que a aplicação depende do tipo de risco, das características do sistema, da fase do ciclo de vida e dos atores envolvidos. Uma ação adequada para quem desenvolve um modelo pode não ser a mesma para quem apenas contrata um serviço pronto.
Os riscos enumerados no perfil
O NIST reúne riscos diferentes em uma mesma visão para evitar que a avaliação fique limitada a respostas factualmente erradas. A lista inclui:
- informações ou capacidades químicas, biológicas, radiológicas e nucleares;
- confabulação, quando o sistema produz conteúdo incorreto ou falso com aparência plausível;
- conteúdo perigoso, violento ou de ódio;
- privacidade de dados;
- impactos ambientais;
- viés prejudicial e homogeneização;
- configuração da relação entre pessoas e IA;
- integridade da informação;
- segurança da informação;
- propriedade intelectual;
- conteúdo obsceno, degradante ou abusivo;
- integração da cadeia de valor e de componentes.
A lista é útil porque mostra que o risco não mora apenas no modelo. Ele também pode surgir dos dados, da interface, das permissões, do comportamento do usuário, da integração com terceiros e do contexto em que uma saída é aceita ou executada.
Governar, mapear, medir e gerenciar
As ações são organizadas pelas quatro funções do AI RMF: governar, mapear, medir e gerenciar. Elas funcionam melhor como ciclo do que como checklist de compra.
Governar significa definir papéis, políticas, critérios de aprovação e responsabilidade. Mapear exige descrever o uso, as pessoas afetadas, os dados, os fornecedores e as consequências possíveis. Medir envolve testes, indicadores, comparação com o contexto real e registro de limitações. Gerenciar transforma as evidências em decisões, controles, resposta a incidentes e até retirada do sistema.
Uma equipe que pula diretamente para medir pode produzir muitos testes sem saber qual dano tenta evitar. Outra que escreve políticas sem mapear o uso pode criar regras genéricas que ninguém consegue aplicar. A sequência ajuda a ligar uma preocupação abstrata a uma decisão operacional.
O que muda para quem contrata IA pronta
Grande parte das organizações não treina modelos. Elas usam APIs, assistentes corporativos, extensões, recursos embutidos em softwares ou componentes de código aberto. O perfil continua relevante porque trata explicitamente de aquisição e terceiros.
Entre as ações sugeridas estão inventariar terceiros com acesso ao conteúdo da organização, manter listas de tecnologias e fornecedores aprovados, revisar contratos e acordos de nível de serviço e avaliar serviços contra bases de incidentes ou vulnerabilidades. O documento também recomenda identificar dependências excessivas e preparar alternativas para falhas de dados ou sistemas de terceiros.
Na prática, isso muda a pergunta de “qual IA responde melhor?” para “quais dados serão enviados, quem mais participa da cadeia, como uma mudança do fornecedor será detectada e o que acontece quando o serviço falhar?”. A primeira pergunta ainda importa, mas não cobre o risco operacional.
Confabulação exige teste ligado ao uso
O NIST usa o termo confabulação para tratar de conteúdo incorreto ou falso apresentado de forma convincente. Uma avaliação responsável não deveria depender de algumas conversas bem-sucedidas ou de uma demonstração preparada.
O perfil recomenda avaliar alegações de capacidade com métodos empiricamente validados, testar em condições semelhantes às de implantação e evitar extrapolar desempenho a partir de avaliações estreitas, não sistemáticas ou anedóticas. Também sugere documentar onde o conhecimento humano entra no sistema, como na curadoria, em regras de negócio, na recuperação de documentos ou na moderação.
Para uma equipe pequena, isso pode começar com um conjunto de casos reais, respostas esperadas, critérios de erro e registro de correções. Um assistente usado para resumir contratos precisa ser testado com contratos e riscos contratuais, não apenas com perguntas gerais.
Privacidade começa antes do prompt
O documento recomenda diligência sobre dados de treinamento e uso, proteção de informações proprietárias ou sensíveis e técnicas para detectar dados pessoais em saídas de texto, imagem, vídeo ou áudio. Também cita anonimização, privacidade diferencial e outras tecnologias de proteção, conforme o contexto.
Essas medidas não significam que retirar nomes de uma planilha resolve todo risco. Uma combinação de cargo, local, data e evento pode identificar uma pessoa mesmo sem nome explícito. A análise precisa considerar reidentificação, finalidade, retenção, acesso e possibilidade de o conteúdo aparecer novamente em uma saída.
Antes de conectar um sistema, a organização deve saber quais campos realmente precisa enviar, quais podem ser reduzidos ou substituídos e quem terá permissão para consultar o resultado. O Bastidores já detalhou essa lógica no guia Como separar arquivos e contextos de clientes antes de usar IA.
Proveniência e integridade não são a mesma coisa que verdade
O perfil dá atenção à origem e às alterações do conteúdo. Ele sugere rastrear proveniência, verificar assinaturas e anomalias, documentar fontes e testar se operadores e usuários entendem a linhagem do material.
Conhecer a origem ajuda a investigar e atribuir responsabilidade, mas não torna o conteúdo automaticamente correto. Um texto pode ter autoria conhecida e conter erro. Uma imagem pode carregar metadados de origem e ainda representar uma afirmação enganosa. Proveniência, verificação factual e contexto precisam trabalhar juntos.
O NIST também recomenda técnicas de checagem para informação gerada, especialmente quando as fontes são múltiplas ou desconhecidas. Para uso editorial, jurídico, financeiro, médico ou administrativo, abrir a fonte continua sendo uma etapa separada da leitura da resposta.
Teste antes da implantação e monitoramento depois
O perfil não encerra a avaliação no momento do lançamento. Ele sugere testes adversariais regulares, observação do desempenho em cenários reais, acompanhamento de relatos de conteúdo problemático e integração do aprendizado nas atualizações do sistema.
Isso importa porque modelos, políticas de segurança, integrações e bases mudam. Um teste aprovado em janeiro não garante o mesmo comportamento depois de uma troca de versão, uma nova fonte de dados ou uma ampliação de permissões.
Uma prática simples é registrar modelo, versão disponível, conjunto de testes, data, resultado, decisão e responsável. Quando um componente mudar, a equipe pode repetir os casos críticos e comparar o comportamento, em vez de confiar na memória de quem usou a ferramenta.
Fatos confirmados
- O NIST publicou o perfil NIST AI 600-1 em 26 de julho de 2024.
- O documento é complementar ao AI RMF 1.0 e foi apresentado para uso voluntário.
- O material é transversal e trata de IA generativa em diferentes setores e fases do ciclo de vida.
- O PDF enumera 12 grupos de risco, enquanto o resumo do NIST AI Resource Center menciona 13; ambos são fontes oficiais consultadas na mesma data.
- O NIST AI Resource Center informa mais de 400 ações sugeridas.
- O NIST informa que o grupo público que contribuiu para o perfil teve 2.500 participantes.
- As ações são ligadas às funções governar, mapear, medir e gerenciar.
- A página atual do NIST informa que o AI RMF 1.0 está em revisão.
O que o documento não prova
O perfil não prova que uma empresa implementou seus controles. Também não prova que um produto é seguro, imparcial, privado ou adequado a uma finalidade. Citar o NIST em uma política ou apresentação não substitui evidências de teste, registros, responsáveis e decisões.
O documento também não oferece uma pontuação universal. Risco depende do contexto, da probabilidade, da gravidade e das pessoas afetadas. Uma falha tolerável em brainstorming pode ser inaceitável em uma decisão sobre crédito, saúde, emprego ou acesso a serviço público.
Por fim, orientação voluntária não elimina leis, contratos e regras setoriais aplicáveis. A equipe precisa relacionar o perfil às obrigações do país, do setor e dos dados envolvidos.
O que é análise editorial
É análise do Bastidores da IA que o maior valor do perfil está em transformar “usar IA com responsabilidade” em trabalho verificável. Inventário de fornecedores, teste ligado ao contexto, registro de incidentes e responsáveis nomeados permitem revisar uma decisão. Slogans não permitem.
Também é análise editorial que uma implementação pequena e bem documentada pode ser mais responsável do que um programa amplo baseado apenas em formulários. O objetivo não é marcar centenas de ações sem prioridade, mas selecionar riscos relevantes, justificar controles e acompanhar se eles funcionam.
Por que isso ainda importa
Dois anos depois da publicação original, organizações continuam conectando IA generativa a documentos, contas, códigos e decisões. O perfil permanece útil porque obriga a olhar além da qualidade aparente da resposta.
Para começar, uma equipe pode escolher um único caso de uso e responder cinco perguntas: qual decisão será apoiada, quais dados entram, quais terceiros participam, como o resultado será testado e quem pode interromper o uso. Depois, os riscos e as ações do NIST ajudam a aprofundar o controle sem fingir que todos os contextos são iguais.
O ponto não é adotar um documento norte-americano como selo. É usar uma estrutura pública e rastreável para tornar explícito o que será protegido, medido e revisado.
Fontes primárias consultadas em 21 de agosto de 2026
- NIST: página oficial da publicação NIST AI 600-1, publicada em 26 de julho de 2024 e atualizada em 8 de abril de 2026.
- NIST AI 600-1: perfil de IA generativa em PDF.
- NIST: página do AI Risk Management Framework, consultada para o estado atual de revisão do framework.
- NIST AI Resource Center: relatórios técnicos, consultado para a síntese de riscos, ações e participação pública.
Transparência: o Bastidores da IA não auditou uma implementação baseada no perfil e não atribui certificação a produtos ou organizações. A matéria resume fontes oficiais do NIST e separa os fatos publicados da análise prática.