floating-point

Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
2
Antworten

Warum ist 'Infinity' in Erlangs Schwimmern nicht erlaubt?

Erlang (und nach Erweiterung Elixir) unterstützt Fließkommazahlen. Einige mögliche Floats: 1.2345 1.0e10 1.0e-42 Erlang unterstützt NaN ( nan. in Erlang) (ich muss jedoch noch eine Methode finden, die nan selbst ausg...
28.06.2016, 15:37
3
Antworten

Sind Gleitkommaoperationen in Delphi deterministisch?

Sind Gleitkommaoperationen in Delphi deterministisch? I.E. bekomme ich das gleiche Ergebnis von einer identischen mathematischen Gleitkommaoperation auf derselben ausführbaren Datei, die mit dem Delphi Win32 Compiler kompiliert wurde, wie mit...
22.06.2014, 14:08
1
Antwort

Quadratwurzel der negativen Null

Unter der g ++ - Version 4.8.0 (32-bit mingw) ist die Quadratwurzel von -0.0 (Binärdarstellung 0x8000000000000000) NAN. Aber ich hätte schwören können, dass frühere Versionen (ich bin mir nicht sicher welche, aber das letzte Mal, als ich meine v...
07.10.2013, 18:38
4
Antworten

Gibt es Unterschiede bei der Verwendung von% f,% e,% g,% E oder% G mit scanf?

Gibt es in C einen Unterschied in den Formatbezeichnern% f,% e,% g,% E und% G, wenn sie in eine Float-Variable mit scanf eingelesen werden? Das heißt, wird das Verhalten des Codeausschnitts %Vor% hängen jemals von der Wahl des Spezifizierers...
10.11.2013, 20:03
4
Antworten

Warum ist ein Float "single precision"?

Ich bin neugierig, warum das IEEE eine 32-Bit-Fließkommazahl mit einfacher Genauigkeit aufruft. War es nur ein Mittel der Standardisierung, oder bezieht sich "Single" tatsächlich auf ein einzelnes "Etwas"? Ist es einfach ein standardisiertes...
19.07.2013, 21:05
1
Antwort

Genauigkeit der Fließkommaarithmetik

Ich habe Probleme, die Ausgabe dieses Programms zu verstehen %Vor% Die Ausgabe ist %Vor% Ich verwende IEEE-Arithmetik. Die Variable y enthält die kleinste mögliche IEEE-Nummer. Die ersten fünf Drucke zeigen eine Zahl, die doppelt so g...
15.03.2013, 19:59
2
Antworten

Wie man einen Schwimmer überläuft?

Ich arbeite an meinem Weg zur Lösung von Übung 2.1 von "Die C-Programmiersprache", wo man auf der lokalen Maschine den Bereich verschiedener Typen wie char, short, int usw. berechnen sollte, aber auch float und double. Bei allem außer float und...
22.08.2017, 09:30
1
Antwort

Ist meine fma () kaputt?

Bei der Verwendung von double fma(double x, double y, double z); würde ich in den darunter angegebenen Ausgabezeilen mit d eine '?' ungleich Null erwarten. erscheint , um intern long double genau statt unendliche Genauigkeit wie a...
10.02.2017, 18:46
2
Antworten

SIMD-Anweisungen für Gleitkomma-Gleichheitsvergleich (mit NaN == NaN)

Welche Anweisungen würden für den Vergleich zweier 128-Bit-Vektoren aus 4 * 32-Bit-Fließkommawerten verwendet? Gibt es eine Anweisung, die einen NaN-Wert auf beiden Seiten als gleich betrachtet? Wenn nicht, wie groß wäre der Leistungseinfluss...
22.01.2016, 16:41
3
Antworten

pow () in Ganzzahl umgewandelt, unerwartetes Ergebnis

Ich habe einige Probleme mit der Verwendung einer Ganzzahl für die Funktion pow() in der Programmiersprache C. Der Compiler, den ich verwende, ist der Tiny C Compiler (tcc Version 0.9.24) für die Windows-Plattform. Wenn der folgende Code au...
24.08.2013, 10:54