Double Precision - doppelte Länge |
| 09.12.2013, 22:57 | Auf diesen Beitrag antworten » |
| toy | Double Precision - doppelte Länge Meine Frage: Aufgabe: Die Dezimalzahl 1023,9 soll im Format double gespeichert werden. Geben Sie die Bitfolgen an unter denen die Zahl gespeichert werden kann. Bestimmen Sie für jede der beiden Bitfolgen den absoluten Fehler der Zahldarstellung an. (Zwei Dezimalstellen Genauigkeit). Wie soll ich bitte bei 52-bit Darstellung den absoluten Fehler mit zwei Dezimalstellen bestimmen? Kann mir jemand bitte helfen? Meine Ideen: Soweit habe ich gelöst: (1111111111,1110011001100110011001100110011001100110011) Normalisieren (1,1111111111110011001100110011001100110011001100110011) * 2^9 - 1023 Vorzeichen = 0 Bias = 10000001000 Mantisse = 1111111111110011001100110011001100110011001100110011 |
|
|
|
| 10.12.2013, 05:58 | Auf diesen Beitrag antworten » |
| eulerscheZahl | Die Umwandlung ist schon einmal richtig. Die Fehlerangabe vielleicht so: Deine Darstellung entspricht 1023,89999999999997726263245568 1023,9 - 1023,89999999999997726263245568 = 0,00000000000002273736754432 = 2,273736754432 E-14 Also ein Fehler von 2,27 * 10^-14 |
|
|
