IA na administração dos planos: o que o algoritmo enviesado pede de quem lidera

Em 26 de outubro, a Previc publicou no Diário Oficial a Portaria 834/2026, que institui o Plano Nacional de Fomento da previdência complementar fechada para 2027 a 2030. São 28 propostas, em cinco eixos. Entre as iniciativas está o incentivo ao uso de novas tecnologias, como inteligência artificial, na administração do sistema.¹

A nota da Previc sobre o plano situa o tema no eixo Inovação, que fala do uso de dados e de inteligência artificial. Parte das medidas cabe à própria Previc; outras dependem de outros órgãos e instituições.² Ou seja: o incentivo está dado, mas a decisão de usar, onde e com que cuidado, será de cada entidade.

Antes de decidir, vale olhar um caso que ficou conhecido por mostrar o que a ferramenta aprende quando ninguém pergunta o que ela aprendeu.

1O que a Amazon descobriu sobre a própria ferramenta

Em outubro de 2018, a Reuters contou que a Amazon tinha construído uma ferramenta para triar currículos. O sistema foi treinado com os currículos enviados à empresa ao longo de dez anos. A maioria vinha de homens, reflexo do predomínio masculino no setor de tecnologia.³

O resultado: a ferramenta passou a penalizar currículos que continham a palavra “women's”, como em “capitã do clube de xadrez feminino”. Também rebaixava formadas em duas faculdades só para mulheres. Segundo pessoas ligadas ao projeto, ouvidas pela Reuters sem se identificar, a Amazon acabou desfazendo a equipe, porque os executivos perderam a esperança no projeto, e os recrutadores olhavam as recomendações da ferramenta, mas nunca se apoiavam só nelas.³

Ninguém programou o preconceito. A ferramenta aprendeu o que os dados mostravam sobre quem a empresa tinha contratado no passado. A IA herdou a história da organização, inclusive os erros.

2Automatizar um processo enviesado é escalar o viés

A lição para uma entidade de previdência não é sobre recrutamento. É sobre a ordem das coisas. Se o processo que a ferramenta vai copiar tem um desvio, ela o reproduzirá, mais rápido e em maior volume. Revisar o processo vem antes da ferramenta.

Isso vale para qualquer uso que o plano de fomento possa inspirar: triagem de pedidos, atendimento a participantes, análise de cadastro, classificação de demandas. Em todos, o histórico de decisões é o material de treino. Se esse histórico tem critérios que ninguém mais defenderia, a máquina os trará de volta com ar de objetividade.

Há um segundo risco, mais sutil: a confiança. Um resultado que vem de um sistema parece neutro, e quem recebe a recomendação tende a questioná-la menos. Por isso o desenho do processo importa tanto quanto a ferramenta. Quem revisa a recomendação? Com que autonomia para discordar? Que casos precisam, sempre, de olhos humanos? São perguntas de governança, não de tecnologia, e cabem a quem lidera a área.

Um caminho prudente é começar pequeno. Uma ferramenta que apoia uma tarefa de baixo risco, com acompanhamento de perto, ensina à entidade como ela se comporta antes de ser usada onde uma decisão errada custa caro para o participante.

3Quem responde quando a ferramenta erra?

Contratar um fornecedor não transfere a responsabilidade. A LGPD, que vale quando há dados pessoais (e os dados de participantes são dados pessoais), diz que o controlador ou o operador que, ao tratar dados, causar dano a outra pessoa, em violação da lei, é obrigado a repará-lo.⁴ Entre os princípios da lei estão a não discriminação, que impede o tratamento para fins discriminatórios ilícitos ou abusivos, e a responsabilização e prestação de contas, que exige demonstrar medidas eficazes de cumprimento.⁴

Para decisões tomadas unicamente por tratamento automatizado, a lei dá ao titular o direito de pedir revisão. O controlador deve fornecer, quando solicitado, informações claras e adequadas sobre os critérios e os procedimentos usados, respeitados os segredos comercial e industrial. Se negar a informação com base nesse segredo, a autoridade nacional pode fazer auditoria para verificar aspectos discriminatórios.⁴

Na prática, o contrato com o fornecedor precisa permitir que a entidade responda a essas perguntas. Se o fornecedor não explica como a ferramenta decide, quem a usa não consegue prestar contas.

Quem usa a ferramenta responde pela decisão. O fornecedor pode ajudar a explicá-la, mas não a assume no lugar da entidade.

4Perguntas antes de automatizar

Quem lidera não precisa entender de algoritmos. Precisa saber perguntar, e exigir respostas que fiquem registradas. Uma boa prática é pedir à equipe responsável, antes da contratação, um documento curto que diga para que serve a ferramenta, que dados usa, quem responde por ela e como será acompanhada. Depois, um relatório periódico, em linguagem simples, com os indicadores combinados. Eu levaria estas perguntas:

1. Que processo estamos automatizando, e ele foi revisado antes?
2. Com que dados a ferramenta aprendeu? Quem os escolheu e o que eles deixam de fora?
3. Como detectaríamos um desvio? Que indicador, por qual grupo de participantes, com que periodicidade?
4. Há uma pessoa responsável pelo resultado, dentro da entidade, com autoridade para suspender o uso?
5. O contrato nos dá acesso aos critérios e permite auditar a ferramenta?
6. Se um participante pedir a revisão de uma decisão, conseguimos explicá-la?

5O que fica

O plano de fomento abre a porta para a inteligência artificial na administração do sistema. A história da Amazon não mostra que a porta deva ficar fechada. Mostra que a ferramenta reflete a organização que a treinou.

Cabe, então, uma pergunta a quem lidera, antes de assinar o contrato e não depois do primeiro problema: se a ferramenta aprender com o que a nossa entidade fez até hoje, é isso que queremos ver repetido em escala?