| Die letzten 2 Beiträge |
| eulerscheZahl |
Die Umwandlung ist schon einmal richtig.
Die Fehlerangabe vielleicht so:
Deine Darstellung entspricht 1023,89999999999997726263245568
1023,9 - 1023,89999999999997726263245568 = 0,00000000000002273736754432 = 2,273736754432 E-14
Also ein Fehler von 2,27 * 10^-14 |
| toy |
Double Precision - doppelte Länge
Meine Frage:
Aufgabe: Die Dezimalzahl 1023,9 soll im Format double gespeichert werden. Geben Sie die Bitfolgen an unter denen die Zahl gespeichert werden kann. Bestimmen Sie für jede der beiden Bitfolgen den absoluten Fehler der Zahldarstellung an. (Zwei Dezimalstellen Genauigkeit).
Wie soll ich bitte bei 52-bit Darstellung den absoluten Fehler mit zwei Dezimalstellen bestimmen? Kann mir jemand bitte helfen?
Meine Ideen:
Soweit habe ich gelöst:
(1111111111,1110011001100110011001100110011001100110011)
Normalisieren
(1,1111111111110011001100110011001100110011001100110011) * 2^9 - 1023
Vorzeichen = 0
Bias = 10000001000
Mantisse = 1111111111110011001100110011001100110011001100110011 |
|
|
