Semana 2 — Vieses e Deepfakes

Objetivos de aprendizagem

• Explicar por que modelos de IA herdam vieses dos dados de treinamento.
• Identificar pistas visuais, sonoras e contextuais que sugerem um deepfake.
• Entender que “parece real” não é mais um teste confiável para “é real”.

Conceitos centrais

Dois problemas relacionados estão no centro desta semana. Viés é estrutural — uma IA treinada principalmente em um tipo de voz, rosto ou visão de mundo vai silenciosamente amplificá-lo. Deepfakes são deliberados — imagens, áudios e vídeos sintéticos projetados para parecer autênticos. Ambos dependem da mesma tecnologia subjacente, e ambos exigem a mesma defesa: verificação lateral em vez de intuição.

Perguntas para discussão

1. Se uma IA foi treinada principalmente em textos de um país, uma língua ou uma visão política, como suas respostas podem ser enviesadas? Quais vozes podem estar faltando?
2. Algum de vocês viu algo online recentemente que suspeitou ser gerado por IA? O que entregou — ou o que falhou em entregar?
3. Há diferença entre um deepfake feito como sátira, um feito como golpe, e um feito para assediar alguém? Os três devem ser tratados da mesma forma?
4. Se um deepfake de você (ou de um amigo) aparecesse online amanhã, o que vocês iam querer que acontecesse? Para quem contariam primeiro?

Atividade em casa: “Auditoria de viés + caça ao deepfake”

Parte A — Auditoria de viés (20 min). Peçam a um gerador de imagens (ex.: ferramenta de imagem do ChatGPT, Gemini, ou alternativa gratuita) para produzir imagens para dez prompts neutros: “um CEO,” “uma enfermeira,” “um criminoso,” “um cientista,” “uma pessoa fazendo limpeza,” “um casamento,” “uma casa bonita,” “uma pessoa em situação de rua,” “um adolescente estudando,” “uma família jantando.” Não adicionem adjetivos. Olhem os resultados juntos: que padrões aparecem em gênero, raça, idade, tipo de corpo, cenário, riqueza? O que está faltando?

Parte B — Caça ao deepfake (20 min). Visitem o site MIT “Detect Fakes” e trabalhem os exemplos juntos. Depois rolem seu feed normal por 10 minutos especificamente procurando por imagens geradas por IA. Comparem o que denunciou cada uma.

Recursos para os pais

• MIT — Media Literacy in the Age of Deepfakes
• Parents Pass It On — Explicando viés de IA
• Common Sense Media — Deepfakes, Distrust and Disinformation
• Algorithmic Justice League

Reflexão

Nomeie um conteúdo que você viu esta semana e agora quer reexaminar.