De acordo com aula de Literacia de IA (08:27), não é possível eliminar viéis e sim mitigar. Isso está correto?
Você está vendo a versão anterior da nova experiência da Alura que estamos preparando para você. Em breve, ela ganha uma identidade visual novinha totalmente pensada em potencializar seus estudos!
De acordo com aula de Literacia de IA (08:27), não é possível eliminar viéis e sim mitigar. Isso está correto?
Olá, Luiz, como vai?
Sim, exatamente. Em sistemas de Inteligência Artificial, o viés não pode ser eliminado completamente, pois ele pode surgir em diferentes etapas, como na coleta dos dados, na seleção das amostras, na definição dos objetivos do modelo ou até na interpretação dos resultados. Mesmo quando um conjunto de dados é cuidadosamente preparado, ainda podem existir padrões que reflitam características ou desigualdades presentes no contexto em que esses dados foram gerados. Por esse motivo, a governança em IA busca identificar, monitorar e mitigar esses vieses, reduzindo seus impactos ao longo do ciclo de vida do sistema.
Um exemplo é um modelo utilizado para análise de currículos. Caso os dados históricos contenham uma representação desigual de determinados grupos, o modelo pode reproduzir esse comportamento. Para diminuir esse risco, podem ser aplicadas técnicas de balanceamento dos dados, métricas de justiça, revisões periódicas e supervisão humana durante o processo de tomada de decisão. Essas práticas reduzem os efeitos do viés, mas não garantem sua eliminação completa.
Na sua visão, quais mecanismos de monitoramento poderiam ser adotados para identificar possíveis vieses depois que um sistema de IA já está em produção?
Obrigado por compartilhar sua dúvida. Continue participando do fórum sempre que surgir uma nova questão, pois esse espaço está à disposição para apoiar seu aprendizado.
Para saber mais:
Conte com o apoio da comunidade Alura na sua jornada. Abraços e bons estudos!