Egne oplysninger

Egen information  er en statistisk funktion af en diskret stokastisk variabel .

Egen information er i sig selv en tilfældig variabel, som bør skelnes fra dens gennemsnitlige værdi  - informationsentropi .

For en tilfældig variabel med et endeligt antal værdier:

egne oplysninger defineres som

Måleenhederne for information afhænger af logaritmens basis . I tilfælde af en logaritme med grundtal 2 er måleenheden bit , hvis en naturlig logaritme bruges, så nat , hvis decimal, så hartley .

Grundlaget for
logaritmen
Måleenhed
_
Mængden af ​​information
om faldet af mønten "ørnen" op
2 lidt lidt
e nat  nata
ti hartley  hartley

Selvinformation kan forstås som et "overraskelsesmål" for en begivenhed - jo lavere sandsynlighed for en begivenhed, jo mere information indeholder den.

Egenskaber for egne oplysninger

  1. Ikke-negativitet : . at , dvs. det forudbestemte faktum indeholder ingen information.
  2. Monotonicitet : hvis .
  3. Additivitet : gælder for uafhængige .

Se også

Litteratur