Clicked Gallery

O que é uma alucinação de IA?

Subrayado en un documento técnico real. Explicado por Clicked.

Usado numa frase

Engineering Notes · AI Systems

Analysts warn that AI hallucination remains the biggest barrier to deploying chatbots in medicine and law.

O leitor sublinhou uma palavra na documentação. O Clicked tornou o termo técnico «AI hallucination» fácil de entender:

Explicado em três níveis

Os mesmos fatos, outra vibe — Modo slang 😎

O método Clicked

●○○

Overview

Uma alucinação de IA é quando um modelo de IA afirma informação falsa com confiança completa: fatos inventados, citações falsas, eventos que nunca aconteceram. Acontece porque o modelo gera texto que soa plausível em vez de checar fatos. Respostas erradas se leem exatamente como as certas.
●○○

Overview

Uma alucinação de IA é o modelo inventando coisas enquanto soa completamente seguro: processos falsos, números falsos, livros falsos. Ele foi construído para produzir palavras plausíveis, não fatos verificados, e a confiança não vacila em nenhum dos casos. 😎

Uma ideia rápida — muitas vezes é tudo de que você precisa.

●●○

Detail

Alucinações acontecem porque um modelo de linguagem prevê as próximas palavras mais plausíveis com base nos padrões dos dados de treinamento, e plausível não é o mesmo que verdadeiro. Quando o modelo conhece bem um assunto, o que soa certo geralmente está certo. Quando não conhece, as palavras continuam fluindo mesmo assim, igualmente fluentes e confiantes, agora recheadas de coisas que apenas soam certas: um processo judicial falso, uma estatística inventada, um livro que o autor nunca escreveu. O exemplo famoso dos primeiros tempos foi o dos advogados punidos por protocolar uma petição citando seis processos que a IA simplesmente inventou. Duas coisas a tornam perigosa: a confiança nunca cai, então você não consegue ouvir a diferença, e os erros caem com mais força exatamente onde checar é tedioso — citações, números e detalhes técnicos. As correções reduzem em vez de curar: ancorar o modelo em documentos recuperados para que ele cite em vez de lembrar, pedir fontes, baixar o quão criativamente ele sorteia, e manter um humano conferindo qualquer coisa que importe.
●●○

Detail

O modelo é uma máquina de prever a próxima palavra: escreve o que soar mais plausível dado tudo o que já leu, e plausível só é igual a verdadeiro quando ele de fato conhece o assunto. Quando não conhece, o texto continua fluindo mesmo assim, mesmo tom fluente, mesma confiança, agora descrevendo processos judiciais que nunca existiram. Pergunte aos advogados que foram punidos por protocolar uma petição com seis precedentes inventados pela IA. A parte cruel é que você não consegue ouvir acontecendo: o certo e o errado chegam em embalagens idênticas, e as falsificações se concentram exatamente no que ninguém quer verificar — citações, estatísticas, notas de rodapé. As correções são remendos, não curas: fazê-lo citar de documentos reais recuperados em vez de lembrar, exigir fontes, baixar o sorteio criativo, e nunca deixá-lo rodar sem conferência onde a resposta de fato importa. 😎

Quer mais? Um clique aprofunda.

●●●

Analogy

A cirurgiã brilhante no jantar de família. Em medicina ela é genuinamente soberba, e esse é exatamente o problema. A mesma voz de autoridade cobre motores de carro, direito tributário e Roma antiga, assuntos que ela conhece dez vezes menos, porque décadas de estar certa apagaram a noção de onde a expertise dela termina; ela não está mentindo, ela não consegue sentir a fronteira. Tudo o que passa dela sai na mesma voz confiante de cirurgiã, e os convidados só descobrem quais afirmações eram sólidas quando checam depois.
Deepest level reached.
●●●

Analogy

O seu amigo dando direções numa cidade que ele visitou uma vez, anos atrás. Pega a segunda à esquerda depois do posto, não tem erro — entregue com confiança total de GPS. Metade das curvas é real, metade é o que o cérebro dele preencheu em silêncio, e ele genuinamente não sabe dizer quais são quais; por dentro, a confiança é idêntica. Você descobre qual metade era qual quando está perdido.
Deepest level reached.

Conceito novo? Um exemplo do dia a dia faz clicar — novas analogias quando quiser.

Explicações de IA podem conter erros · Não é aconselhamento profissional

Definição formal — O mesmo termo, explicado da forma habitual

Uma alucinação de IA é uma saída de um modelo generativo que é fluente e afirmada com confiança, mas factualmente incorreta ou fabricada, decorrente de os modelos de linguagem otimizarem a plausibilidade estatística do texto em vez da verificação factual. As mitigações incluem ancoragem em recuperação, exigência de citações, temperatura de amostragem reduzida e revisão humana; nenhuma técnica atual elimina o fenômeno por completo.

Quer que o Clicked explique termos como «AI hallucination» direto no seu navegador, até em PDFs?

Adicionar ao Chrome — Grátis

50 explicações grátis · Sem cartão de crédito