Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Angenommen, es sind korrekt gerundete Standardbibliotheksfunktionen verfügbar, wie sie in CRlibm zu finden sind. Wie würde man dann die korrekt gerundete Kubikwurzel einer Eingabe mit doppelter Genauigkeit berechnen?
Diese Frage ist kein "...
05.08.2013, 17:08
Wenn das Programm wie unten gezeigt ausgeführt wird, erzeugt es eine ok-Ausgabe:
%Vor%
Aber wenn die auskommentierte Zeile ( d. h. //if (argc>1) r = atol(argv[1]); ) unkommentiert ist, wird Folgendes erzeugt:
%Vor%
, obwohl diese Ze...
24.11.2011, 02:27
Ich muss IEEE 754 floats kodieren und dekodieren und binär in node.js double, um ein Netzwerkprotokoll zu parsen.
Gibt es Bibliotheken, die das machen, oder muss ich die Spezifikation lesen und selbst implementieren? Oder sollte ich ein C-Mod...
18.09.2010, 08:10
Gibt es da einen Unterschied:
%Vor%
und das:
%Vor%
Beachten Sie, dass ich in der zweiten Version versuche, die Teilung so spät wie möglich zu verzögern. Erhöht die zweite Version [Delay Divisions] die Genauigkeit im Allgemeinen?
Snipp...
26.06.2011, 07:18
Ich habe einige native C-Quelltexte der Java Math-Funktionen durchforstet. Vor allem tanh() , da ich neugierig war zu sehen, wie sie das implementiert haben.
Jedoch was ich gefunden überraschte mich:
%Vor%
Wie der Kommentar zeigt, ist di...
24.01.2017, 00:50
Ich teste eine JavaScript-Funktion, die ein Array von Zahlen zurückgibt, um zu sehen, ob das zurückgegebene Array dieselben Elemente enthält wie das Array, das die erwartete Ausgabe enthält:
%Vor%
Dies funktioniert einwandfrei, wenn myArray...
10.02.2016, 14:45
In G ++ sind verschiedene eingebaute mathematische Funktionen unter bestimmten Bedingungen consExpr. Zum Beispiel kompiliert das folgende:
%Vor%
Sie sind nicht immer gleich, aber es kommt auf das Argument an. Zum Beispiel führt __builtin_sq...
03.05.2014, 17:39
Hi Ich habe ein Problem beim Runden von Zahlen auf -0 und nicht nur auf 0
code:
%Vor%
Ausgabe:
-0
erwartete Ausgabe:
0
Ich habe nach einer Lösung gesucht, aber nichts gefunden.
bitte erklären & amp; mir helfen, warum es s...
24.12.2014, 11:58
Ich schreibe numerische Echtzeit-Software in C ++, die ich derzeit mit Visual-C ++ 2008 kompiliere.
Mit dem 'schnellen' Gleitkomma-Modell ( /fp:fast ), verschiedene Optimierungen, die meisten von ihnen sind nützlich für meinen Fall, aber spezi...
04.08.2010, 16:10
Ich habe eine FLOAT-Spalte, die einige sehr kleine Zahlen wie 0.00000000000234 enthält
Wenn ich sie in MySQL auswähle, bekomme ich sie in Exponentialschreibweise wie 2.34e-13 zurück. Gibt es eine Möglichkeit, die Formatierung dieser Zahlen zu...
20.05.2011, 20:05