Percurso Decisores · Módulo 03 · 12 minutos
Viés: quando a IA decide sobre pessoas
A máquina sugere, a pessoa confere.
A IA não é objetiva por ser máquina. Aprende com dados do passado, e esses dados trazem os preconceitos da época. Quando os dados não representam toda a gente, quem ficou de fora é mal servido.
Onde toca numa PME
| Decisão | O risco |
|---|---|
| Recrutamento | Filtrar currículos pode penalizar sistematicamente certos candidatos |
| Conteúdo e imagem | Textos e imagens reproduzem estereótipos: quem é chefe, quem é assistente |
| Atendimento e condições | Tratar clientes de forma desigual sem dar por isso |
Três decisões de gestão
- Não automatizar decisões sobre pessoas sem revisão humana. Recrutamento, avaliação e crédito são onde o risco legal é maior.
- Exigir explicação. Se não se percebe porque a ferramenta sugeriu algo, não se decide com base nisso.
- Testar e registar. Verificar resultados em perfis diferentes e guardar evidência do controlo.