Hallo, habe die Woche eine Pruefung und dazu eine kurze Frage. Ich habe die Pruefungsangaben vom letzten Jahr und eine Aufgabe lautet:
Gegeben ist der Zeichenvorrat A,B,C,D,E, folgende absolute Haeufigkeiten und folgender Code:
code:
1:
2:
3:
4:
5:
6:
7:
Zeichen - Haeufigkeit - Code
A 6 1
B 4 000
C 9 001
D 1 010
E 4 011
Betrachten Sie die relativen Haeufigkeiten als Symbolwahrscheinlichkeiten und berechnen Sie den mittleren Informationsgehalt der Quelle,...
Okay, eigentlich ganz einfach, allerdings ist es verboten einen Taschenrechner zu benuetzen, deshalb auch meine Frage.
Die relativen Haeufigkeiten bzw. Symbolwahrscheinlichkeiten sind dann fuer:
A - 1/4
B - 1/6
C - 3/8
D - 1/24
E - 1/6
Gut, dann der mittlere Informationsgehalt ist die Entropie also: - die Summe von der Wahrscheinlichkeit mal den zweier Logarithmus von der Wahrscheinlichkeit.
Bei A waere das 1/4 * ln(1/4) = 1/4 * ( ln(1)-ln(4) ) = 1/4 * (0-2) = -1/2
So, wie schauts dann bei B aus?
Wie kann ich denn ohne TR den 2erLOG von 1/6 ausrechnen? Bzw. 3/8 oder 1/24.
Ich wuerds ja dann einfach nur so hinschreiben, allerdings brauche ich den Wert der Entropie um weiterrechnen zu koennen.
Freue mich auf Tipps.
LG
Dieser Beitrag wurde 1 mal editiert, zum letzten Mal von Shizmo: 22.11.2015 18:32.
Ahja sehr interessant. Auf das waer ich wohl nie gekommen.
Danke sehr
Zitat:
Original von eulerscheZahl
Dein Ansatz ist nicht ganz richtig: du musst entweder vor den gesamten Term noch ein Minus setzen, da sonst dein Ergebnis negativ wird
Hab geschrieben Minus die Summe... (das - ist wahrscheinlich nur untergegangen
)
Zitat:
Original von Shizmo
[...]
Gut, dann der mittlere Informationsgehalt ist die Entropie also: - die Summe von der Wahrscheinlichkeit mal den zweier Logarithmus von der Wahrscheinlichkeit.
[...]
Hab's mit Stift und Papier hinbekommen, halte die Aufgabe aber nicht für sinnvoll, wenn nicht in der Matheklausur.
Dein Ansatz ist nicht ganz richtig: du musst entweder vor den gesamten Term noch ein Minus setzen, da sonst dein Ergebnis negativ wird, oder innerhalb des Logarithmus mit 1/p rechnen, wobei p die Wahrscheinlichkeit ist.
Ansatz:
Die ausklammern, Brüche im Logarithmus kürzen.
Logarithmengesetze anwenden: Vorfaktor als Potenz reinziehen, Addition von Logarithmen als Multiplikation der Argumente.
Zusammenfassen gleicher Potenzen, netterweise fällt Faktor 3 raus.
