Submódulo 2: Limites, incerteza e alucinações: gerenciando o que a IA não pode fazer
Como detectar e verificar respostas: checklist prática (zero-código)
🛠️ Detectar e verificar: uma rotina prática passo a passo
Antes de confiar em uma resposta, vamos aplicar um fluxo simples: gerar → checar fontes → cruzar informações → iterar. Ferramentas como ChatGPT, Gemini e Claude permitem copiar e colar textos, pedir referências e anexar contexto sem programar — vamos mostrar como. O NIST recomenda abordagens baseadas em risco e verificações por etapas para validar outputs (1).
Checklist prático (aplicável a e-mails, resumos, ideias e pesquisas):
- Peça referências explícitas: solicite links, autor e data. Se o modelo não puder fornecer, trate com cautela.
- Verifique a citação: abra 2 fontes confiáveis (ex.: sites oficiais, relatórios). Se duas não confirmarem, sinalize como incerto.
- Considere a especialidade: para temas sensíveis (saúde, jurídico, financeiro) sempre consulte um especialista humano.
- Cheque vieses: peça ao modelo uma versão neutra ou alternativa da resposta e compare diferenças.
- Registre versões: salve a resposta original e notas sobre checagens para auditoria futura.
📝 Atividade guiada (5 minutos): 1) Escolha um e-mail ou descrição de tarefa; 2) Use um assistente (ChatGPT/Gemini/Claude) para gerar a versão inicial; 3) Peça 3 fontes que confirmem os fatos; 4) Marque se cada fonte confirma, contradiz ou é inconclusiva; 5) Refine o prompt usando COSERAF (ex.: acrescentar 'me dê 3 fontes confiáveis e um resumo de cada').
🧠 Prompt Sugerido
Contexto: Sou coordenador(a) de projetos de uma ONG e preciso escrever um resumo de 200-250 palavras sobre as implicações de usar chatbots para atendimento a beneficiários. Objetivo: gerar um texto claro para um relatório interno. Saída: parágrafo de 200-250 palavras + 3 fontes confiáveis com link e uma frase sobre cada. Exemplos: (modelo de parágrafo curto). Restrições: linguagem clara, tom institucional, sem termos técnicos. Avaliação: clareza, factualidade, fontes citadas. Feedback: iterar em 2 rodadas para ajustar precisão.UNESCO e ICO lembram que, em contextos educacionais e de dados pessoais, é necessário validar ferramentas e proteger privacidade antes do uso em larga escala (2)(3). Use este fluxo sempre que decisões impactarem pessoas ou processos críticos.