Aula 09 – Como evitar ‘alucinações’ e verificar informações da IA

Data:

Módulo: Módulo 2: Engenharia de Prompts para Autodidatas | Fase 1: Fundamentos da IA

Duração Estimada: 45 minutos | Nível: Iniciante / Autodidata

Ferramenta do Dia: ChatGPT / Gemini

Pré-requisito: Aula 08 – Prompting Few-Shot: Ensinando a IA por meio de exemplos

1. O Conceito Explicado

Na aula passada, você aprendeu a controlar o formato das respostas da IA treinando-a com exemplos através do método Few-Shot. Porém, controlar o formato não significa garantir a verdade. O maior perigo ao usar a Inteligência Artificial, especialmente para negócios e textos profissionais, são as chamadas Alucinações.

Uma “alucinação” ocorre quando a IA não sabe a resposta para algo, mas, em vez de dizer “eu não sei”, ela inventa um fato, um nome ou um número com absoluta confiança. Isso acontece porque os modelos de linguagem são desenhados para prever palavras e soar naturais, não necessariamente para serem enciclopédias perfeitas. Hoje, você vai aprender a técnica da “Checagem Cruzada” e da “Exigência de Fontes” para forçar a IA a provar o que está dizendo.

💡 Em Resumo: A IA é extremamente confiante, mesmo quando está errada (isso é a “Alucinação”). Para evitar problemas, você deve sempre exigir que ela cite fontes verificáveis ou pedir que uma segunda IA (como o Gemini) valide a resposta da primeira (ChatGPT).

2. Passo a Passo Guiado

  1. Crie a Armadilha (Fato Falso): Vamos testar a ingenuidade do modelo. Abra o ChatGPT e invente um fato histórico absurdo, mas escreva com tom de autoridade (exemplo abaixo).
  2. Identifique a Alucinação: Veja se a IA corrige você ou se ela “embarca” na sua mentira e tenta inventar detalhes adicionais. Se ela embarcar, você acabou de presenciar uma alucinação grave.
  3. Aplique a Vacina: Refaça a pergunta, mas agora usando os “Comandos de Ancoragem”. Exija que ela avalie a veracidade antes de responder e liste links reais.

Comandos para Copiar e Testar:

Passo 1 (Testando a Falha):
“Me fale mais sobre a famosa batalha de pinguins que ocorreu no Deserto do Saara em 1942 durante a Segunda Guerra Mundial.”Passo 2 (O Prompt de Checagem Correto):
“Aja como um checador de fatos rigoroso (Fact-Checker). Analise a seguinte afirmação: ‘Ocorreu uma batalha de pinguins no Deserto do Saara em 1942.’INSTRUÇÃO DE SEGURANÇA: Antes de responder, pesquise na sua base de dados histórica. Se o fato não for comprovadamente real, diga ‘Isso é falso’ e explique o porquê. Se for real, cite pelo menos duas fontes confiáveis.”

3. Seu Desafio Prático de Hoje

Abra o ChatGPT e tente convencê-lo de um fato inventado por você (por exemplo, sobre um livro famoso que nunca existiu ou uma regra de gramática inventada). Veja como ele reage. Depois, copie a resposta que ele te deu, abra o atalho do Gemini (que você salvou na Aula 5) e cole o texto lá, usando o seguinte prompt: “Gemini, aja como um auditor. Leia o texto abaixo gerado por outra IA e me diga se há alguma informação falsa, alucinação ou dado incorreto. O texto é este: [Cole o texto aqui]”.

✅ Como saber se deu certo?
A sua checagem foi bem-sucedida se o Gemini (ou o ChatGPT, após o prompt correto) desmascarar o fato falso imediatamente, declarando que o evento nunca ocorreu, provando que você agora sabe como quebrar o excesso de confiança da máquina.

⚠️ E se der errado? (Erros Comuns)
Modelos mais recentes (como o GPT-4o) já têm filtros embutidos e podem não cair na armadilha dos “pinguins no deserto”. Se o ChatGPT disser logo de cara que é mentira, ótimo! Isso significa que a ferramenta está atualizada. Tente então uma mentira mais sutil e técnica, como “Qual é o artigo da Constituição Brasileira que proíbe o uso de IA?”.

Rosano, Nahuel A.
Rosano, Nahuel A.https://trateaqui.com.br
Rosano lidera a estratégia editorial e de inovação do TRATEAQUI Notícias. Sua missão é transformar informação em narrativas baseadas em fatos, com foco na clareza e na busca pela verdade. Sob sua direção, o compromisso é com um jornalismo neutro, que prioriza a apuração rigorosa e oferece ao leitor uma análise profunda e desprovida de influências partidárias.

Compartilhar :

Propagandaspot_imgspot_img

Marketplace

Populares

Mais como este
Relacionados

Cidades brasileiras apostam na revitalização dos Centros

Projetos em diferentes regiões combinam requalificação de espaços públicos,...

Como Pequenas Empresas Podem Automatizar o Suporte ao Cliente

Inteligência Artificial no Atendimento A inteligência artificial para pequenas empresas...

Como os Juros Afetam os Pequenos Negócios

A relação entre a taxa Selic e os pequenos...

Educação Midiática no Brasil

O Desafio de Consolidar a Integridade da Informação O avanço...

Aula 10 – Criando sua própria biblioteca pessoal de prompts reusáveis

 .curso-ia-container { font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif;...

Aula 09 – Como evitar ‘alucinações’ e verificar informações da IA

.curso-ia-container { font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif;...

Aula 08 – Prompting Few-Shot: Ensinando a IA por meio de exemplos

.curso-ia-container { font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif;...

Aula 07 – Técnica Role-Prompting: Fazendo a IA atuar como especialista

.curso-ia-container { font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, sans-serif;...