Submódulo 2: Limites, incerteza e alucinações: gerenciando o que a IA não pode fazer
Estratégias práticas para gerenciar riscos no dia a dia
🛡️ Estratégias práticas para reduzir riscos e incorporar supervisão humana
Nós vamos consolidar um conjunto de práticas fáceis de aplicar no dia a dia, com foco em zero-código e apropriadas para quem não é técnico. A ideia é manter a IA como assistente e nunca como substituta em decisões críticas — recomendação presente nas políticas de IA confiável (1).
Checklist mínimo antes de usar um resultado em produção:
- Verificação factual: confirme 2 fontes independentes.
- Privacidade: não envie dados pessoais sensíveis (identificadores, números, dados de saúde/confidenciais).
- Avaliação de qualidade: aplique critérios — clareza, factualidade, adequação ao público, tom, referências e direitos autorais.
- Registro e auditoria: salve entradas, saídas, prompts e decisões humanas associadas.
- Plano de mitigação: defina o que fazer se o output for incorreto (corrigir, descartar, notificar responsável).
Ferramentas e políticas: grandes organizações e órgãos internacionais defendem a governança baseada em risco e a capacidade de auditoria para sistemas de IA, bem como proteção de dados e transparência (2)(3).
🧩 Atividade prática: Crie uma mini-política pessoal de 5 itens para seu uso diário (ex.: quais tipos de tarefas você permite automatizar; quando exigir revisão humana; como armazenar registros). Teste com um caso real do seu trabalho: execute o prompt, valide fontes e aplique a política.
❗ Reflita sobre ética e direitos: Há situações em que usar IA pode ferir direitos autorais, privacidade ou causar discriminação. Identifique duas situações do seu contexto que exigem cuidado extra e descreva como você vai mitigá-las.
Critérios rápidos de avaliação (usar sempre): clareza, factualidade (checada em 2 fontes), neutralidade de tom, adequação ao público, indicação de fontes, respeito à privacidade. Para assuntos sensíveis, marque como "consulta necessária" e busque especialista humano antes de publicar.