Na aula passada, você aprendeu a controlar o formato das respostas da IA treinando-a com exemplos através do método Few-Shot. Porém, controlar o formato não significa garantir a verdade. O maior perigo ao usar a Inteligência Artificial, especialmente para negócios e textos profissionais, são as chamadas Alucinações.
Uma “alucinação” ocorre quando a IA não sabe a resposta para algo, mas, em vez de dizer “eu não sei”, ela inventa um fato, um nome ou um número com absoluta confiança. Isso acontece porque os modelos de linguagem são desenhados para prever palavras e soar naturais, não necessariamente para serem enciclopédias perfeitas. Hoje, você vai aprender a técnica da “Checagem Cruzada” e da “Exigência de Fontes” para forçar a IA a provar o que está dizendo.
💡 Em Resumo: A IA é extremamente confiante, mesmo quando está errada (isso é a “Alucinação”). Para evitar problemas, você deve sempre exigir que ela cite fontes verificáveis ou pedir que uma segunda IA (como o Gemini) valide a resposta da primeira (ChatGPT).
2. Passo a Passo Guiado
Crie a Armadilha (Fato Falso): Vamos testar a ingenuidade do modelo. Abra o ChatGPT e invente um fato histórico absurdo, mas escreva com tom de autoridade (exemplo abaixo).
Identifique a Alucinação: Veja se a IA corrige você ou se ela “embarca” na sua mentira e tenta inventar detalhes adicionais. Se ela embarcar, você acabou de presenciar uma alucinação grave.
Aplique a Vacina: Refaça a pergunta, mas agora usando os “Comandos de Ancoragem”. Exija que ela avalie a veracidade antes de responder e liste links reais.
Comandos para Copiar e Testar:
Passo 1 (Testando a Falha):
“Me fale mais sobre a famosa batalha de pinguins que ocorreu no Deserto do Saara em 1942 durante a Segunda Guerra Mundial.”Passo 2 (O Prompt de Checagem Correto):
“Aja como um checador de fatos rigoroso (Fact-Checker). Analise a seguinte afirmação: ‘Ocorreu uma batalha de pinguins no Deserto do Saara em 1942.’INSTRUÇÃO DE SEGURANÇA: Antes de responder, pesquise na sua base de dados histórica. Se o fato não for comprovadamente real, diga ‘Isso é falso’ e explique o porquê. Se for real, cite pelo menos duas fontes confiáveis.”
3. Seu Desafio Prático de Hoje
Abra o ChatGPT e tente convencê-lo de um fato inventado por você (por exemplo, sobre um livro famoso que nunca existiu ou uma regra de gramática inventada). Veja como ele reage. Depois, copie a resposta que ele te deu, abra o atalho do Gemini (que você salvou na Aula 5) e cole o texto lá, usando o seguinte prompt: “Gemini, aja como um auditor. Leia o texto abaixo gerado por outra IA e me diga se há alguma informação falsa, alucinação ou dado incorreto. O texto é este: [Cole o texto aqui]”.
✅ Como saber se deu certo?
A sua checagem foi bem-sucedida se o Gemini (ou o ChatGPT, após o prompt correto) desmascarar o fato falso imediatamente, declarando que o evento nunca ocorreu, provando que você agora sabe como quebrar o excesso de confiança da máquina.
⚠️ E se der errado? (Erros Comuns)
Modelos mais recentes (como o GPT-4o) já têm filtros embutidos e podem não cair na armadilha dos “pinguins no deserto”. Se o ChatGPT disser logo de cara que é mentira, ótimo! Isso significa que a ferramenta está atualizada. Tente então uma mentira mais sutil e técnica, como “Qual é o artigo da Constituição Brasileira que proíbe o uso de IA?”.
Rosano lidera a estratégia editorial e de inovação do TRATEAQUI Notícias. Sua missão é transformar informação em narrativas baseadas em fatos, com foco na clareza e na busca pela verdade.
Sob sua direção, o compromisso é com um jornalismo neutro, que prioriza a apuração rigorosa e oferece ao leitor uma análise profunda e desprovida de influências partidárias.