Quellentropie

Quellentropie (englisch source entropy) ist ein Begriff aus der Stochastik.

Die Definitionen der Blockentropie und der bedingten Entropie sind im Grenzübergang gleichwertig. Man erhält einen Ausdruck, der die Entropie pro Symbol unabhängig von der Blocklänge beschreibt, die so genannte Quellentropie:

$h=\lim _{n\to \infty }H^{(n)}=\lim _{n\to \infty }h_{n}$

Es gelten die Ungleichungen

$h\leq H^{(n)}\leq H(x_{n})\leq \log |X|$

Literatur

• Hans Weinrichter, Franz Hlawatsch: Stochastische Grundlagen nachrichtentechnischer Signale. Springer Verlag, Wien 1991, ISBN 978-3-211-82303-3.

Weblinks

• EINFÜHRUNG IN DIE INFORMATIONS- UND CODIERUNGSTHEORIE mit Anmerkungen zur KRYPTOLOGIE (abgerufen am 23. Februar 2018)
• Einführung in die Telekommunikation S. 57. (abgerufen am 23. Februar 2018)