Percurso Decisores · Módulo 04 · 13 minutos
Segurança e regras internas de uso
Os maiores riscos são banais e evitáveis.
Os riscos práticos de uma PME não são ficção científica. São dar à IA dados que não devia ver e confiar sem verificar no que ela devolve.
Os três riscos práticos
| Risco | O que pode acontecer | Regra |
|---|---|---|
| Fuga de dados | Informação colada numa ferramenta aberta sai do controlo da empresa | Dados pessoais, financeiros e segredos do negócio não entram |
| Alucinações | Um facto falso com ar de verdadeiro chega a um cliente ou a uma decisão | O que é importante confirma-se na fonte |
| Atribuição | Ninguém sabe quem fez o quê nem com que apoio | Quem publica revê e assume; registo nas decisões importantes |
Uma política de uso numa página
Não precisa de um departamento de conformidade. Precisa de regras simples, escritas e conhecidas:
- Ferramentas autorizadas e as que não são (por exemplo, versões gratuitas que treinam com os dados colados).
- Dados que nunca entram, numa lista explícita.
- Quem revê o quê, e quando a revisão humana é obrigatória.
- Como se regista o uso de IA em decisões que o exijam.
É isto que o AI Act pede, de forma proporcional ao risco. E é também um argumento de confiança perante clientes.