Durante muito tempo, a governança de tecnologia foi vista como uma etapa posterior: primeiro se constrói, depois alguém verifica se está tudo em ordem. Com a Inteligência Artificial, essa lógica deixou de funcionar. Sistemas de IA aprendem com dados, mudam de comportamento ao longo do tempo e podem influenciar decisões sobre pessoas em escala. Quando um problema aparece, costuma ser tarde e caro para corrigir.
Governança de IA é o conjunto de práticas, papéis e controles que ajudam uma organização a desenvolver e usar IA de forma segura, confiável e alinhada a valores. E, ao contrário do que muita gente imagina, ela não é assunto exclusivo do jurídico ou da auditoria. Começa no trabalho de quem desenha, treina, avalia e opera os sistemas.
Por que isso importa para quem é técnico
Três motivos tornam a governança de IA uma competência profissional, e não apenas institucional.
O primeiro é o impacto sobre pessoas. Um modelo que prioriza atendimentos, recomenda crédito ou filtra currículos pode reproduzir ou ampliar vieses presentes nos dados de treino. Quem constrói o modelo está na melhor posição para perceber esses riscos cedo.
O segundo é a confiabilidade. Sistemas que não são monitorados degradam silenciosamente. Um modelo que funcionava bem pode começar a errar porque o comportamento dos usuários mudou, porque uma fonte de dados foi alterada ou porque o contexto de negócio é outro.
O terceiro é o ambiente regulatório. Diferentes países discutem ou já adotaram marcos para o uso de IA, e a proteção de dados pessoais, no Brasil regida pela Lei Geral de Proteção de Dados (LGPD), já se aplica a muitos sistemas que tratam informações de pessoas. Como esse cenário muda com frequência, a recomendação é acompanhar diretamente as fontes oficiais e contar com orientação jurídica especializada para cada caso.
Comece pelo inventário
É impossível governar o que não se conhece. Um primeiro passo simples e muito eficaz é manter um inventário dos sistemas de IA da organização, incluindo aqueles adquiridos de terceiros e as ferramentas de IA generativa usadas no dia a dia.
Para cada sistema, vale registrar:
- qual problema ele resolve e quem são os usuários;
- quais decisões ele influencia e se elas afetam pessoas diretamente;
- quais dados utiliza, de onde vêm e se incluem dados pessoais;
- quem é responsável por ele, técnica e institucionalmente;
- em que estágio está: experimento, piloto ou produção.
Esse inventário, por si só, já revela prioridades: sistemas que tomam decisões sobre pessoas, usam dados sensíveis ou operam em larga escala merecem mais atenção.
Classifique riscos de forma proporcional
Nem todo sistema de IA precisa do mesmo nível de controle. Um modelo que sugere a ordem de produtos em uma vitrine tem riscos muito diferentes de um que apoia decisões de saúde. A governança funciona melhor quando é proporcional ao risco.
Uma classificação prática considera perguntas como: o que acontece se o sistema errar? Quem é afetado? O erro pode ser percebido e corrigido rapidamente? Existe uma pessoa revisando as decisões antes que produzam efeito? Quanto maior o potencial de dano e menor a supervisão humana, mais rigorosos devem ser os controles.
Defina papéis e responsabilidades
Governança sem responsáveis é só um documento. Algumas funções aparecem com frequência em organizações que levam o tema a sério:
- Dono do sistema, que responde pelo seu uso e pelos resultados que ele produz.
- Time técnico, que garante qualidade, testes, documentação e monitoramento.
- Governança e risco, que define critérios, revisa sistemas de maior impacto e acompanha incidentes.
- Privacidade e jurídico, que avaliam o tratamento de dados pessoais e a conformidade com a legislação.
Em organizações menores, uma mesma pessoa pode acumular funções. O importante é que cada responsabilidade tenha um nome associado.
Documente o essencial
Documentação é uma das ferramentas mais subestimadas da governança. Ela permite que outras pessoas entendam, revisem e questionem um sistema, inclusive muito tempo depois de quem o construiu ter mudado de projeto.
Um registro mínimo de um modelo costuma incluir: objetivo e uso pretendido, usos que devem ser evitados, dados de treino e suas limitações, métricas de avaliação, resultados por grupos relevantes, riscos conhecidos e medidas de mitigação. Para aplicações com IA generativa, vale acrescentar como as respostas são avaliadas e quais proteções existem contra usos indevidos.
Avalie antes e monitore depois
A avaliação antes da produção deve ir além da métrica principal. Um modelo com ótima acurácia média pode ter desempenho muito pior para um grupo específico. Testar com dados representativos, comparar resultados entre grupos e envolver especialistas do domínio são práticas que evitam surpresas.
Depois da entrada em produção, o trabalho continua. Monitorar a qualidade dos dados de entrada, a distribuição das previsões, os erros reportados e os indicadores de negócio ajuda a detectar degradação cedo. Aqui, a governança se encontra com as práticas de MLOps e LLMOps.
Tenha um plano para quando algo der errado
Incidentes acontecem, mesmo em sistemas bem governados. O que diferencia uma organização madura é a capacidade de responder rápido. Isso significa ter canais para que usuários e equipes reportem problemas, critérios para suspender ou reverter um sistema, e o hábito de registrar o que aconteceu e o que foi aprendido.
Governança como prática profissional
Governança de IA não precisa começar com grandes estruturas. Pode começar com perguntas simples feitas no momento certo: para que serve este sistema, quem pode ser prejudicado, como vamos saber se ele parou de funcionar bem?
Na ABPDia, governança e uso responsável de IA fazem parte dos princípios da associação e estão entre os temas dos comitês técnicos previstos. Se você trabalha com o tema, ou quer aprender com quem trabalha, conheça a governança da ABPDia e faça parte.
