Die letzten 3 Beiträge |
juliia_drt |
Größter relativer Fehler bei einfach genauer Gleitkommazahl
Achso, ja dann ist alles klar. Vielen Dank!
|
NixJava |
Du meinst die Maschinengenauigkeit , oder? Die ist durch gegeben (b base und p precision). Bei einfacher Genauigkeit umfasst die Mantisse 23 Bit. Zusätzlich muss das Hidden Bit berücksichtigt werden, also insgesamt 24 Bit und somit |
juliia_drt |
Größter relativer Fehler bei einfach genauer Gleitkommazahl
Huhu
Da ich neu hier bin hoffe ich dass ich hier im richtigen Themengebiet bin.
Meine Frage ist wahrscheinlich recht simple, dennoch komme ich gerade nicht darauf wieso der größte Fehler bei einfacher Genauigkeit 2^-24 ist.
Könnte mir das jemand erklären?
Liebe Grüße
|
|
|