Größter relativer Fehler bei einfach genauer Gleitkommazahl |
28.11.2017, 18:25 | Auf diesen Beitrag antworten » |
juliia_drt | Größter relativer Fehler bei einfach genauer Gleitkommazahl Huhu Da ich neu hier bin hoffe ich dass ich hier im richtigen Themengebiet bin. Meine Frage ist wahrscheinlich recht simple, dennoch komme ich gerade nicht darauf wieso der größte Fehler bei einfacher Genauigkeit 2^-24 ist. Könnte mir das jemand erklären? Liebe Grüße |
|
|
28.11.2017, 20:07 | Auf diesen Beitrag antworten » |
NixJava | Du meinst die Maschinengenauigkeit , oder? Die ist durch gegeben (b base und p precision). Bei einfacher Genauigkeit umfasst die Mantisse 23 Bit. Zusätzlich muss das Hidden Bit berücksichtigt werden, also insgesamt 24 Bit und somit |
29.11.2017, 18:45 | Auf diesen Beitrag antworten » |
juliia_drt | Größter relativer Fehler bei einfach genauer Gleitkommazahl Achso, ja dann ist alles klar. Vielen Dank! |
|
Verwandte Themen
Die Beliebtesten » |
|
Die Größten » |
|
Die Neuesten » |
|