quantificação da informação

Procedimento que pretende medir a informação. Pode ser realizado ao nível do sinal ou ao nível da sua interpretação (informação semântica).
A teoria matemática de comunicação que define o conteúdo de informação de sinal em função do seu valor de surpresa. A quantidade informativa de um sinal é inversamente proporcional à probabilidade de ocorrência dentro do sistema. Quanto menos provável é um sinal mais informação aporta. Além de estudos probabilísticos de ocorrência de um sinal pode-se também medir as suas propriedades físicas, por exemplo, frequência do som, ou contar os signos no caso da mensagem escrita.

Estudando as particularidades físicas de um sinal pode-se também examinar se contém só elementos indispensáveis para ser identificado ou se leva também alguma dose de redundância.

A informação semântica é dificilmente quantificável já que depende dos conhecimentos, muitas vezes subjetivos, do sujeito interpretante (recetor). Na linguagem quotidiana confunde-se frequentemente a noção da informação com o dado, esquecendo que só um conjunto de dados interpretados constitui uma informação.

A informação semântica pode ser definida como uma relação entre a descrição de uma situação, compreendida como um conjunto de proposições, e o conjunto de descrições que a eliminam. Analogicamente ao estudo da informação do sinal, a informação semântica também pode ser estudada à base do contexto. Assim, uma informação completamente determinada pelo contexto corresponderia ao valor (de surpresa) igual a zero.