IA responsável em 2026: a realidade de compliance por trás do discurso de ética

Por que "ética" virou "compliance"

A conversa sobre ética em IA de 2020 a 2024 era filosófica: princípios, marcos, compromissos voluntários. A conversa de 2025 a 2026 é operacional: controles documentados, evidência de auditoria, ações de fiscalização.

Três fatores forçaram a mudança:

1. EU AI Act (proibições desde 2 de fevereiro de 2025; obrigações de alto risco a partir de 2 de dezembro de 2027 depois do AI Omnibus). Multas de até € 35 milhões ou 7% do faturamento mundial, o que for maior (art. 99).

2. NIST AI RMF (marco voluntário, mas cada vez mais exigido para contratos federais nos EUA e aquisições corporativas).

3. ISO/IEC 42001 (norma de sistema de gestão de IA). Publicada em dezembro de 2023, é a primeira norma internacional de sistema de gestão escrita para IA, e é certificável, o que dá ao comprador evidência em vez de garantias verbais. O outro calendário que vale ter à mão é o cronograma de aplicação do AI Act da UE: as obrigações para modelos de propósito geral valem desde 2 de agosto de 2025, e a Comissão pode exigi-las, com multas, a partir de 2 de agosto de 2026.

O trabalho não é "a IA deveria ser justa". O trabalho é evidência documentada de que o seu sistema específico de IA atende a requisitos específicos. A maioria das empresas está atrasada nessa evidência.

Os três marcos, lado a lado

Os três se sobrepõem de modo significativo, e muitos controles escritos para um servem aos outros. Estratégia razoável: buscar a certificação ISO 42001 e mapear os controles dela para os requisitos do EU AI Act e as práticas do NIST AI RMF que se aplicam a você.

O que significa "alto risco" sob o EU AI Act

O Anexo III do EU AI Act lista os domínios de IA de alto risco. Se o seu sistema atua em qualquer um deles, aplica-se a avaliação de conformidade completa:

• Identificação e categorização biométrica de indivíduos.
• Gestão de infraestrutura crítica (energia, água, transporte).
• Educação e formação profissional (ex.: admissões, correção de provas).
• Emprego e força de trabalho (contratação, avaliação de desempenho, atribuição de tarefas).
• Acesso a serviços essenciais (pontuação de crédito, elegibilidade a benefícios públicos).
• Aplicação da lei (policiamento preditivo, avaliação de risco).
• Migração e fronteiras.
• Administração da justiça (priorização de casos, avaliação de provas).

A maioria dos sistemas de SaaS B2B é de risco limitado, não de alto risco. Sistemas de risco limitado têm requisitos mais leves: divulgações de transparência (chatbots devem revelar que são IA), resumos dos dados de treinamento, documentação básica de risco. O custo de compliance é baixo se o escopo for definido corretamente.

A pilha de documentação

Para cada sistema de IA no escopo, um auditor espera ver:

Documentos de governança

• Política de IA (uma página): escopo, princípios, responsável nomeado.
• Papéis e responsabilidades: quem é dono de cada sistema, quem revisa as mudanças, quem responde aos incidentes.
• Critérios de aquisição para fornecedores externos de IA.

Evidência técnica

• Documentação do modelo (model card): finalidade, entradas, saídas, fontes dos dados de treinamento, acurácia, limitações.
• Resultados de testes de viés: análise por atributo protegido, paridade de desempenho entre grupos.
• Testes de robustez: testes com entradas adversariais, comportamento em casos extremos.
• Testes de segurança: auditoria do OWASP LLM Top 10 (para sistemas baseados em LLM).
• Registros de monitoramento de drift: drift de entrada, drift de previsão, acurácia ao longo do tempo.

Evidência operacional

• Registro de resposta a incidentes: o que deu errado, quando, qual foi a resposta, quais lições.
• Registro de mudança de modelo: cada implantação com motivo, validação e caminho de rollback.
• Registro de supervisão humana: onde humanos revisaram a saída da IA e o que sobrescreveram.
• Transparência voltada ao cliente: model cards publicadas ou disponíveis sob solicitação.

A maioria das empresas tem parte dessa evidência por acidente. Construir o resto é o trabalho de uma implementação de ISO 42001.

Testes de viés em 2026

A versão de 2024 dos testes de viés era "rodamos o conjunto de dados COMPAS". A versão de 2026 é operacional: cada modelo no escopo é testado nos atributos protegidos relevantes para seu uso antes da implantação e em cadência trimestral em produção.

Três categorias de atributos protegidos que importam:

1. Demográficos (gênero, idade, raça, onde for legalmente coletável). Teste a paridade de desempenho (acurácia, taxa de falsos positivos, taxa de falsos negativos) entre grupos.

2. Geográficos (país, região). Frequentemente é um proxy para o demográfico, mas também relevante para implantações internacionais.

3. Específicos do caso de uso (ex.: clientes novos versus recorrentes, contas grandes versus pequenas no B2B). É onde costuma se esconder o viés relevante para o negócio.

Ferramentas: Aequitas, Fairlearn, IBM AIF360. A saída é um relatório que mostra desempenho por grupo com significância estatística. Vai para o pacote de evidência de auditoria.

O que coloca as empresas em apuros

Três padrões que vemos em ações regulatórias e falhas de aquisição:

1. Funcionalidades de IA implantadas sem classificação. Uma empresa de SaaS adiciona "pontuação por IA" ao seu produto de contratação. A funcionalidade entra no escopo dos controles de alto risco do EU AI Act. A empresa não classificou a funcionalidade. Um cliente da UE pede evidência de compliance. Não há nenhuma. O cliente cancela; o regulador vem em seguida.

2. Afirmações de viés sem testes de viés. O texto de marketing diz "IA justa". O time de vendas repete em demonstrações. Não há evidência de testes de viés. Um cliente solicita evidência durante a aquisição. O negócio empaca.

3. APIs de IA de terceiros sem evidência contratual. A empresa usa a API da OpenAI ou da Anthropic como backend. A empresa não obteve a documentação de compliance do fornecedor a montante (SOC 2, ISO 42001, conformidade EU AI Act). Um comprador corporativo a exige. O negócio empaca.

As correções são inventário, testes e contratos - nessa ordem.

Um sprint de compliance para SaaS B2B

Mês 1: inventário. Liste cada funcionalidade de IA. Classifique cada uma por categoria de risco do EU AI Act. Identifique quais usam IA de terceiros versus modelos internos. O mesmo inventário serve de base para integração de IA no negócio.

Mês 2: controles de linha de base. Testes de viés em modelos de classificação. Divulgações de transparência para chatbots (cf. chatbots de IA em atendimento). Supervisão humana para saídas de alto impacto. Documentos de compliance dos fornecedores coletados.

Meses 3-4: documentação. Model cards para cada sistema. Plano de gestão de risco. Procedimento de resposta a incidentes. Modelos de evidência de auditoria preenchidos.

Meses 5-6: prontidão para a ISO 42001. Auditoria interna, análise de lacunas, amadurecimento dos controles. Contrate auditor externo para a revisão de estágio 1.

Meses 7-9: certificação. Auditoria de estágio 2, remediação de constatações, certificado emitido. ISO 42001 com boa evidência costuma entregar automaticamente o compliance ao EU AI Act para sistemas de risco limitado.

Peça o preço da auditoria de certificação e das auditorias anuais de vigilância a organismos acreditados e compare com uma multa de até € 15 milhões ou 3% do faturamento mundial, o que for maior. O retorno aparece no nosso modelo de medindo ROI de IA.

A conclusão

A ética em IA em 2026 é, em grande parte, compliance. Os três marcos (EU AI Act, NIST AI RMF, ISO 42001) se sobrepõem bastante nos controles. O trabalho é evidência documentada: governança, técnica, operacional. A maioria das empresas está atrasada, e juntar evidência depois é mais difícil do que construí-la desde o início. A certificação ISO 42001 é o movimento de maior alavancagem: os controles dela se encaixam nos outros marcos, e um certificado é algo que o comprador pode verificar. Trate o compliance como engenharia, não como filosofia. As auditorias são reais, e as multas são grandes.

A metade operacional disto, quais decisões um sistema automatizado pode tomar sem uma pessoa, está em o que a sua IA não tem permissão para decidir.