David_pb
Mitglied
Dabei seit: 01.06.2007
Beiträge: 44
 |
|
Hi,
ist mit Entropie für das Zeichen 7 der Informationsgehalt gemeint? Entropie beschreibt normal den mittleren Informationsgehalt eines Alphabets, also das was im 2. Teil der Aufgabe gefragt ist.
Da du ja deine Messwerte hast kannst du die Warscheinlichkeit der einzelnen Zeichen über dem Alphabet ![[latex]A = [2, 12] \subset \mathbb{N}[/latex]](http://www.matheboard.de/latex2png/latex2png.php?A = [2, 12] \subset \mathbb{N}) einfach berechnen. Der Informationsgehalt für 'x' aus A ist ja: ![[latex]I(p(x)) = -\log_2 p(x)[/latex]](http://www.matheboard.de/latex2png/latex2png.php?I(p(x)) = -\log_2 p(x))
Die Entropie bekommst du in dem du die Informationsgehälter, der einzelnen Zeichen, mit ihrer Wahrscheinlichkeit wichtest und aufsummierst, also: ![[latex]H = \sum\limits_{x \in A} p(x) \cdot I(p(x)) = -\sum\limits_{x \in A} p(x) \cdot \log_2 p(x)[/latex]](http://www.matheboard.de/latex2png/latex2png.php?H = \sum\limits_{x \in A} p(x) \cdot I(p(x)) = -\sum\limits_{x \in A} p(x) \cdot \log_2 p(x))
|
|
