Submódulo 3: Ética e responsabilidade no uso diário da IA
Responsabilidade e governança prática: registros, aprovação e auditoria
🧾 Responsabilidade e governança prática
Quando algo dá errado com uma saída de IA — um e-mail com dados pessoais, uma recomendação enviesada, uma estatística incorreta — a pergunta chave é: quem responde? Organizações e indivíduos que usam IA devem ter regras claras de responsabilidade e registros que permitam auditar decisões. O NIST enfatiza a função “Govern” do seu Framework: defina papéis, políticas e processos para monitorar riscos ao longo do ciclo de vida. (1)
Regras e obrigações legais: para quem opera na União Europeia, o AI Act exige transparência e obrigações específicas conforme o nível de risco do sistema usado, incluindo rotinas de avaliação e supervisão humana para aplicações de alto risco — isso influencia boas práticas globais. (2)
Registros e direitos dos titulares: a LGPD exige que titulares possam exercer direitos (acesso, eliminação, portabilidade) e que controladores mantenham práticas que possibilitem correção e responsabilização — por isso, logs simples e rotinas de aprovação são essenciais. (3)
✅ Checklist prático (implemente hoje)
- Nomeie um responsável pelo uso da IA (ex.: 'Responsável de IA' ou DPO para pequenos casos).
- Registre cada uso: data, objetivo, ferramenta (nome do provedor) e exemplos de entrada/saída (anonimizados).
- Defina fluxos de aprovação: decisão automatizada? então revisão humana obrigatória antes de ação.
- Crie um formulário rápido para consentimento (quando necessário) e mantenha cópia arquivada.
- Revise outputs críticos trimestralmente e documente correções aplicadas.
🔎 Reflita
Qual etapa do checklist você implementaria hoje? Quais barreiras práticas prevê na sua rotina (tempo, ferramentas, aprovação)?
Critérios de avaliação de qualidade (use sempre): clareza, factualidade (verificável), adequação ao público, respeito à privacidade, evidência de revisão humana quando impacta pessoas, e indicação de fontes/refêrencias.
Dica final: trate a IA como uma ferramenta que amplia trabalho humano — não como substituto do julgamento. Registros simples (uma planilha com: data, prompt/COSERAF, saída, avaliador, ação) já fazem grande diferença para auditoria e conformidade.