Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Ich habe Algorithmus / Berechnung in Java und Unit-Test dafür. Der Komponententest erwartet ein Ergebnis mit einiger Genauigkeit / Delta. Jetzt habe ich den Algo in .NET portiert und möchte den gleichen Komponententest verwenden. Ich arbeite mit...
13.01.2010, 00:10
Die komplementäre Fehlerfunktion erfc ist eine spezielle Funktion, die eng mit der Standardnormalverteilung verknüpft ist. Es wird häufig in der Statistik und den Naturwissenschaften (z. B. Diffusionsproblemen) verwendet, wo die "Schwänze" die...
13.03.2016, 04:59
Nehmen wir an, ich habe zwei Objekte i und f der jeweiligen Typen I und F . Ich weiß, dass std::is_integral<I>::value wahr ist und std::is_floating_point<F>::value wahr ist.
Gibt es einen vollständig standardkonf...
27.04.2015, 02:44
Vergleicht man die Ergebnisse einer Fließkommaberechnung mit ein paar verschiedenen Maschinen, ergeben sich durchweg unterschiedliche Ergebnisse. Hier ist ein abgespecktes Beispiel, das das Verhalten reproduziert:
%Vor%
Verschiedene Maschine...
06.05.2015, 00:24
Gibt es eine Alternative zu atof , strtod , lexical_cast , stringstream oder sprintf ?
das ist:
schnell
C ++ Weg ( std::string anstelle von char* )
safe (kein Pufferüberlaufrisiko)
gültig (gib NaNN zurück, wenn die K...
25.09.2011, 21:00
Ich versuche, eine Klasse zu einem String zu serialisieren, indem ich die Boost-Serialisierungsbibliothek verwende und in meiner Klasse mehrere Doppelmitgliedsvariablen enthalten.
Unten ist der Code, den ich zum Serialisieren verwende:
%Vor...
02.06.2011, 13:47
In einer sehr leistungsfähigen App finden wir, dass die CPU lange Arithmetik deutlich schneller berechnen kann als mit Doppel. In unserem System wurde jedoch festgestellt, dass wir nie mehr als 9 Dezimalstellen Genauigkeit benötigen. Also verwen...
19.01.2012, 13:26
Ich bin besorgt über die folgenden Fälle
%Vor%
Laut Wikipedia IEEE 754-2008 sagt man zu min und max
Die Min- und Max-Operationen sind definiert, lassen aber Spielraum für den Fall, dass die Eingänge den gleichen Wert haben, sich aber...
18.06.2015, 11:21
Ich bin auf ein verwirrendes Muster der Größe und des Maximalwerts dieser Datentypen in C # gestoßen.
Beim Vergleich dieser Größe mit Marshal.SizeOf () habe ich folgendes Ergebnis gefunden:
%Vor%
und wenn ich ihre MaxValues verglichen...
22.02.2014, 08:32
Was ist der beste, plattformunabhängige Weg, um den maximalen Wert zu erhalten, der in einem float in C ++ gespeichert werden kann?
27.09.2009, 19:18