Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Die Dokumentation für java.lang.Double.NaN sagt das ist
Eine Konstante, die einen Not-a-Number (NaN) -Wert vom Typ double enthält. Dies entspricht dem von Double.longBitsToDouble(0x7ff8000000000000L) zurückgegebenen Wert.
Di...
28.01.2010, 12:36
dieser druckt 100:
%Vor%
und dieser druckt 99:
%Vor%
warum?
01.10.2013, 22:06
Ich habe einen Algorithmus, der floats oder doubles benutzt, um einige Berechnungen durchzuführen.
Beispiel:
%Vor%
Jetzt mache ich mir Sorgen, dass (b - a) gleich null sein könnte. Wenn es nahe Null, aber nicht Null ist, spielt e...
03.03.2012, 00:57
Ist es (leicht) möglich, einen Software-Gleitkomma-Punkt auf i386-Linux zu verwenden, ohne dass bei jedem Aufruf die Kosten des Einfangens in den Kernel entstehen? Ich habe -smsoft-float ausprobiert, aber es scheint, dass die normalen (ubuntu) C...
19.06.2009, 15:36
Wenn ich int("1.7") Python eintrage gibt Fehler (speziell ValueError) zurück. Ich weiß, dass ich es in Ganzzahl um int(float("1.7")) umwandeln kann. Ich würde gerne wissen, warum die erste Methode Fehler zurückgibt.
13.10.2015, 22:52
Beim Schreiben von Tests für Operationen mit Gleitkommazahlen oder Objekten, die Gleitkommazahlen enthalten (wie Vektoren oder Matrizen), möchte ich oft nicht nach Gleichheit, sondern nach "fast gleich" testen (Differenz kann ein Epsilon sein)...
29.04.2015, 08:46
IEEE754 unterstützt die negative Nullstelle.
Aber dieser Code
%Vor%
Ausgaben
%Vor%
wo hätte ich erwartet
%Vor%
Andere Sprachen, deren Float-Format auf IEEE754 basiert, können Sie negative Nullliterale erstellen
Java:
%Vor%
C #...
10.12.2012, 15:46
Im folgenden Code sollen die Funktionen foo1, foo2 und foo3 gleichwertig sein. Jedoch, wenn run foo3 nicht aus der Schleife beendet, gibt es einen Grund, warum dies der Fall ist?
%Vor%
Hinweis: Dies wurde mit VS2010 mit / fp präzise im Freig...
23.05.2012, 03:51
Wann benutzt du fp: strict im Gegensatz zu fp: precise? Ist es besser, erstere zu verwenden, wenn ich "genauere" Berechnungen durchführen und Rundungsfehler vermeiden möchte? Worum geht es bei der Heuristik?
20.09.2012, 14:12
Der Intel C ++ - Compiler bietet zwei Optionen zur Steuerung von Gleitkommazahlen:
-fp-spekulation (schnell / sicher / streng / aus)
-fp-Modell (präzise / schnell / streng und Quelle / doppelt / erweitert)
Ich denke ich verstehe, was das f...
14.09.2011, 15:40