---
title: "Shannon não descobriu a informação. Ele a mediu."
description: "A contribuição de 1948 não foi definir informação: foi dar a ela uma unidade, e com isso encerrar setenta anos de discussão qualitativa. O que a área de IA cita é a fórmula. O que ela precisava herdar é o gesto."
author: "Anderson Henrique"
date: "2026-08-30T00:00:00Z"
updated: "2026-09-14T22:27:27.662319Z"
category: "ai"
tags: ["Teoria da Informação","Shannon","Entropia","Métricas","Benchmarks","Perplexidade","Engenharia","NTLabs"]
canonical: "https://www.ntlabs.dev/blog/shannon-nao-descobriu-a-informacao"
locale: "pt"
---

# Shannon não descobriu a informação. Ele a mediu.

*A contribuição de 1948 não foi dizer o que é informação. Foi dar a ela uma unidade, e com isso encerrar setenta anos de discussão qualitativa.*

## A reunião que não terminava

"O sistema está lento?" Toda equipe de software já passou semanas presa nessa pergunta. O suporte diz que sim, porque os chamados subiram. O time de backend diz que não, porque o painel do servidor está tranquilo. Alguém abriu o sistema no celular e achou rápido. Alguém abriu no fim da tarde e achou um horror. Ninguém está mentindo, e ninguém convence ninguém, porque não há nada em disputa além de impressões sobre o mesmo sistema.

O que encerra a conversa é alguém definir o que está sendo medido: o tempo entre o clique e a resposta, visto do lado de quem clica, no percentil 95, em milissegundos. Com essa grandeza no lugar, a média confortável do servidor e as reclamações do suporte deixam de se contradizer. As duas estavam certas sobre coisas diferentes, e só uma delas era a pergunta.

A discussão não é vencida por argumento melhor. É encerrada por uma unidade.

Esse movimento tem nome, data e autor. E a área em que eu trabalho ainda não o executou.

## Setenta anos de comunicação sem uma unidade de informação

Quando Claude Shannon publicou "A Mathematical Theory of Communication" no Bell System Technical Journal, em 1948, a comunicação elétrica já era uma indústria madura. O telégrafo tinha um século. O telefone, setenta anos. O rádio comercial, três décadas. Existiam cabos submarinos, centrais de comutação, redes continentais e uma engenharia inteira ocupada em melhorá-las.

O que não existia era acordo sobre o que estava sendo transmitido.

Engenheiros discutiam a capacidade de um canal, qual meio era mais eficiente, se um sistema aproveitava bem a banda disponível, e discutiam tudo isso sem uma grandeza comum por baixo: cada um media o que seu equipamento deixava medir, em unidades que não convertiam entre si. Palavras por minuto no telégrafo. Largura de banda em hertz no telefone. Relação sinal-ruído em decibéis. Nenhuma dessas responde "quanta informação passou", porque nenhuma delas mede informação: todas medem o aparelho.

Dois trabalhos chegaram perto. Harry Nyquist, em 1924, mostrou que a velocidade telegráfica tinha um teto ligado à banda. Ralph Hartley, em 1928, foi adiante e propôs medir informação pelo logaritmo do número de mensagens possíveis. E, detalhe que importa muito, Hartley argumentou de forma explícita que era preciso excluir os fatores psicológicos para que a coisa fosse mensurável.

Hartley tinha a intuição certa e a ferramenta incompleta. A medida dele trata todas as mensagens possíveis como igualmente prováveis, o que quase nunca acontece em linguagem, em imagem ou em qualquer fonte real. Faltava a peça que Shannon trouxe: probabilidade. Informação deixa de ser quantas mensagens existem e passa a ser quão surpreendente é a que chegou.

## O gesto, em quatro passos

O que Shannon fez pode ser lido como uma fórmula. Vale mais lê-lo como um procedimento, porque procedimento é o que se copia.

**Primeiro, isolar a grandeza.** Informação não é o sinal, não é o canal, não é o aparelho e não é a mensagem. É a redução de incerteza no destinatário. Isso parece uma definição filosófica e não é: é uma escolha de recorte que torna tudo o mais possível. Antes de medir qualquer coisa, é preciso dizer com precisão qual coisa.

**Segundo, despir o que não pertence a ela.** A frase do artigo é direta ao ponto de soar brutal: os aspectos semânticos da comunicação são irrelevantes para o problema de engenharia. Shannon não disse que o sentido não importa. Disse que ele não entra nessa medida, e que insistir em mantê-lo dentro era o motivo de setenta anos sem teoria.

**Terceiro, definir a unidade.** O bit, nome que ele credita a John Tukey numa nota de rodapé. Um bit é a incerteza de uma pergunta de sim ou não com respostas igualmente prováveis. Tudo o mais é conversão. A partir daí, telégrafo, telefone e rádio passam a ser comparáveis, porque passam a ter uma grandeza em comum por baixo.

**Quarto, provar os limites.** Este é o passo que separa uma métrica de uma teoria, e é o mais esquecido. Shannon não parou em propor a entropia: provou o que ela implica. O teorema da codificação de fonte diz que a entropia é o piso da compressão sem perda, e que nenhum esquema, presente ou futuro, desce abaixo dele. O teorema do canal ruidoso diz que todo canal tem uma capacidade, e que abaixo dela é possível comunicar com erro tão pequeno quanto se queira, mesmo que o canal erre o tempo todo.

Esse quarto passo é o que dá poder de recusa a uma medida. Uma métrica descreve o que aconteceu. Uma teoria diz o que não pode acontecer. Quando alguém aparece prometendo compressão sem perda abaixo da entropia da fonte, ninguém precisa auditar o produto: a promessa já está morta na porta.

E a fórmula, aquela que todo mundo cita, é o resíduo desse processo. Ela é o que sobra depois dos quatro passos, não o que os produz. Citá-la sem eles é ficar com a casca.

## Por que despir o significado foi o passo decisivo

O segundo passo é o contraintuitivo, e por isso é o mais copiável.

Para os engenheiros da época, o sentido era o ponto inteiro. Comunicação existe para transmitir significado, e uma teoria da comunicação que declara o significado irrelevante parece ter desistido do problema. Shannon fez o oposto de desistir: percebeu que, enquanto o significado estivesse dentro, não haveria grandeza, porque significado não é aditivo, não é comparável entre pessoas e não sobrevive a uma escala.

Medir é, antes de tudo, decidir o que não contar. Um termômetro que também respondesse se o dia está agradável não seria um termômetro melhor: seria um instrumento sem escala, e portanto não seria um termômetro. O rigor de uma medida vem tanto do que ela captura quanto do que ela recusa a capturar.

Existe um preço, e Shannon o pagou de olhos abertos. A medida passa a dizer coisas desconfortáveis. Uma página de ruído aleatório tem entropia máxima. Uma página de poesia, não. A teoria não distingue entre as duas por valor, só por previsibilidade. Isso soa como um defeito e é exatamente o contrário: é a prova de que a medida está medindo o que declarou medir, e não a opinião de quem a lê.

Vale registrar que ele sabia disso. Em 1951, publicou "Prediction and Entropy of Printed English", onde estimou a entropia do inglês escrito pedindo a pessoas que adivinhassem a letra seguinte de um texto. Chegou a algo em torno de um bit por caractere. O mesmo homem que expulsou o significado da teoria voltou depois para medir o quanto o significado torna um texto previsível. Não é contradição: é a diferença entre excluir uma variável do instrumento e negar que ela exista.

## A área de IA está antes de 1948

Aqui a história deixa de ser história.

Discutimos hoje se um modelo raciocina. Se compreende. Se um sistema é agêntico. Se estamos perto de alguma coisa. Essas discussões têm a mesma forma das que ocupavam a engenharia de comunicação em 1930: gente competente, evidência real dos dois lados, e nenhuma grandeza em disputa. Cada um mede o que seu equipamento deixa medir, e as conclusões não convertem entre si.

Benchmark não resolve isso, e vale ser preciso sobre por quê. Um benchmark é um instrumento, não uma escala. Ele sofre de contaminação, porque o teste vaza para o treino e a medida perde o significado sem perder a aparência. Sofre de saturação, porque quando todos acertam quase tudo ele parou de medir a diferença que interessa e continua produzindo números. E sofre de incomparabilidade: dois benchmarks que declaram medir a mesma capacidade ordenam os modelos de maneiras diferentes, e não existe conversão entre eles, porque não há grandeza comum por baixo. Um termômetro e um barômetro também discordam.

Eval também não resolve, e confundir os dois é um erro caro. Eval mede sucesso em tarefa. É útil, é necessário, e eu construo. Mas sucesso em tarefa é uma propriedade do par modelo-tarefa, não da grandeza que estava em disputa. Dizer que um modelo raciocina porque passou num conjunto de tarefas é o mesmo movimento de dizer que um canal tem capacidade alta porque a ligação estava boa ontem.

E agora a parte que me convence de que isto é diagnóstico e não reclamação.

A área tem exatamente uma unidade shannoniana em uso corrente, e ela é a única região onde o progresso é comparável, acumulativo e não controverso: a entropia cruzada, e sua irmã de apresentação, a perplexidade. Medida em bits por token. Ela diz, literalmente, quanta incerteza sobra sobre o próximo símbolo. É a mesma grandeza de 1948 aplicada à mesma pergunta que Shannon fez em 1951, com a diferença de que quem adivinha a próxima letra agora é a máquina.

Repare no que acontece onde essa unidade vale. Leis de escala foram descobertas ali, e permitem prever o desempenho de um modelo grande antes de treiná-lo. Compressão e predição se revelaram a mesma operação vista de dois ângulos. Comparações entre arquiteturas se sustentam ao longo dos anos, e não apenas até o próximo lançamento. Ninguém discute se um modelo tem perplexidade menor que outro no mesmo corpus: mede-se, e a conversa acaba.

Agora repare onde a unidade não vale. Raciocínio, compreensão, agência, alinhamento, consciência situacional. Nenhuma dessas tem unidade, e todas têm anos de debate sem convergência, com os mesmos argumentos retornando em ciclo a cada geração de modelos.

A conclusão não é que a área seja incompetente. É que ela é pós-1948 na camada onde faz engenharia e pré-1948 na camada onde faz discurso, ao mesmo tempo. E as duas camadas compartilham o vocabulário, o que faz o rigor de uma parecer que cobre a outra.

## Medir o instrumento antes de confiar na medida

Há um corolário prático do gesto de Shannon que custa pouco e evita muito, e ele não está no artigo de 1948: antes de acreditar numa medida, verifique se o instrumento estava lendo.

Um exemplo meu, recente e constrangedor. O verificador de segredos do repositório rodava a cada commit e voltava limpo. Trezentas e trinta e sete execuções verdes, ao longo de meses. A configuração estendia um conjunto de regras sem ligar a chave que de fato carrega esse conjunto, e por isso o verificador rodava com zero regras. Ele nunca disse "não há segredos". Ele dizia "não procurei", e eu li a segunda frase como se fosse a primeira. Quando as regras entraram, apareceram quatrocentos e trinta achados.

O mesmo padrão em outro ponto do mesmo repositório: uma etapa de detecção de mudanças falhava, os testes ficavam em estado de pulados por não terem nada declarado para rodar, e o portão de integração passava. Verde. Sempre verde.

O que esses dois casos têm em comum com a reunião do sistema lento é a estrutura, não o assunto. Um número existia, era consultado, orientava decisão, e não estava medindo nada. Pior do que não ter medida é ter uma que não pode dar errado, porque ela produz confiança sem produzir informação.

Em termos de Shannon isso é literal, e não uma analogia. Uma fonte que só emite um símbolo tem entropia zero. Um verde que não pode ficar vermelho não carrega um bit. Se o resultado era certo antes de rodar, rodar não informou nada.

A regra que passei a seguir é banal, e eu deveria tê-la antes: rodar o controle positivo. Antes de aceitar um zero, plantar de propósito aquilo que o instrumento deveria acusar, e conferir se ele acusa. Se não acusar, o zero não é um resultado. É um silêncio.

## O que herdar

Shannon é citado quase sempre pela fórmula, e a fórmula é a parte que menos se aproveita fora do problema dela. O que se transporta para qualquer campo é o procedimento de quatro passos, e ele é barato:

1. Qual é exatamente a grandeza em disputa?
2. O que precisa sair dela para que ela se torne mensurável?
3. Qual é a unidade, e o que significa uma unidade dela?
4. Quais são os limites, e o que estaria errado se alguém os violasse?

Aplicar isso a "o sistema está lento" leva uma tarde e encerra uma reunião. Aplicar a "o verificador está limpo" leva quinze minutos e revela quatrocentos e trinta achados. Aplicar a "o modelo raciocina" é o trabalho de uma geração, e é justamente por isso que vale começar agora, em vez de continuar publicando adjetivos.

Fecho com o critério que ficou comigo, e que é o teste mais curto que conheço para saber se uma medida é uma medida:

**Um número que não pode dar errado é um número que não está medindo nada.**