ieee-754, Seitenzahl 1

1

Antwort

Schnellster Algorithmus zur Identifizierung des kleinsten und größten x, der die Doppelpräzisionsgleichung x + a == b wahr ergibt

Im Zusammenhang mit der statischen Analyse bin ich daran interessiert, die Werte von x im then-Zweig der folgenden Bedingung zu bestimmen: %Vor% a und b können als Konstanten mit doppelter Genauigkeit angenommen werden (die Verallge...

14.06.2014, 18:12

4

Antworten

Welche Sprachen stellen IEEE 754-Traps dem Entwickler zur Verfügung?

Ich würde gerne mit diesen Fallen für Bildungszwecke spielen. Ein häufiges Problem mit dem Standardverhalten im numerischen Kalkül ist, dass wir das Nan (oder + -inf), das in einer falschen Operation auftrat, "übersehen" haben. Standardverhal...

30.03.2009, 21:19

1

Antwort

MSVC entspricht GCC-fno-endlich-nur-Mathematik?

Bei GCC aktivieren wir -ffast-math , um Gleitkommaberechnungen zu beschleunigen. Da wir uns aber auf das korrekte Verhalten von NaN- und Inf-Gleitkommawerten verlassen, aktivieren wir auch -fno-finite-math-only , so dass Optimierungen, die W...

21.10.2016, 16:17

1

Antwort

Über das Argument float_precision für pandas.read_csv

Die Dokumentation für das Argument im Titel dieses Beitrags lautet: float_precision : Zeichenfolge, Standardwert: Keine Gibt an, welchen Konverter die C-Engine für Gleitkommawerte verwenden soll. Die Optionen sind Keine für d...

22.06.2017, 11:12

1

Antwort

Gleitpunktarithmetik und Reproduzierbarkeit

Ist IEEE-754-Arithmetik auf verschiedenen Plattformen reproduzierbar? Ich habe einen in R geschriebenen Code getestet, der Zufallszahlen verwendet. Ich dachte, dass das Setzen des Samens des Zufallszahlengenerators auf allen getesteten Plattf...

19.01.2014, 01:56

3

Antworten

Konvertiert eine Zeichenfolge mit einer Hexadezimaldarstellung eines IEEE-754-Double in eine numerische JavaScript-Variable

Angenommen, ich habe eine Hexadezimalzahl "4072508200000000" und möchte, dass die Gleitkommazahl (293.03173828125000) im IEEE-754-Doppelformat in eine JavaScript-Variable eingegeben wird. Ich kann mir eine Art vorstellen, die Maskierung und e...

20.10.2009, 22:37

3

Antworten

Was sind die anderen NaN-Werte?

Die Dokumentation für java.lang.Double.NaN sagt das ist Eine Konstante, die einen Not-a-Number (NaN) -Wert vom Typ double enthält. Dies entspricht dem von Double.longBitsToDouble(0x7ff8000000000000L) zurückgegebenen Wert. Di...

28.01.2010, 12:36

3

Antworten

Negatives Null-Literal in Golang

IEEE754 unterstützt die negative Nullstelle. Aber dieser Code %Vor% Ausgaben %Vor% wo hätte ich erwartet %Vor% Andere Sprachen, deren Float-Format auf IEEE754 basiert, können Sie negative Nullliterale erstellen Java: %Vor% C #...

10.12.2012, 15:46

4

Antworten

VC ++ Optimierungen brechen Vergleiche mit NaN?

Nach IEEE754 müssen NaNs ungeordnet sein; kleiner als, größer als, gleich usw. sollten alle falsch zurückgeben, wenn einer oder beide Operanden NaN sind. Das folgende Beispiel liefert das korrekte F F F F F T wie erwartet, wenn es mit g ++...

03.04.2013, 11:52

1

Antwort

IEEE-754 Fließkommaberechnungen, Gleichheit und Verengung

Im folgenden Code sollen die Funktionen foo1, foo2 und foo3 gleichwertig sein. Jedoch, wenn run foo3 nicht aus der Schleife beendet, gibt es einen Grund, warum dies der Fall ist? %Vor% Hinweis: Dies wurde mit VS2010 mit / fp präzise im Freig...

23.05.2012, 03:51