Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Wenn wir die Infinity-Werte verwenden müssen, fügen Sie bitte, sofern verfügbar, eine echte Probe hinzu.
23.11.2010, 23:18
Ich suche nach einem diff Tool, das auch Fließkommawerte (innerhalb einer Toleranz) in Textdateien vergleichen kann. Dies ist zusätzlich zu typischen Textvergleichs-Diff-Funktionen, mit Optionen zum Ignorieren von Leerzeichen, Ignorieren von G...
15.09.2009, 16:21
Wie teuer ist die Umwandlung von float in double ? Ist es so trivial wie eine int to long Konvertierung?
EDIT: Ich nehme eine Plattform an, wo float 4 Bytes und double 8 Bytes ist
14.09.2009, 13:54
Kann mir jemand erklären, wie ich einen 32-Bit Gleitkommawert in einen 16-Bit Gleitkommawert umwandle?
(s = Vorzeichen e = Exponent und m = Mantisse)
Wenn 32-Bit-Float 1s7e24m ist
Und 16-Bit-Float ist 1s5e10m
Dann ist es so einfach wie...
11.06.2010, 21:45
Wie wir alle wissen, ist die Fließkomma-Arithmetik nicht immer vollständig genau, aber wie gehen Sie mit ihren Inkonsistenzen um?
Als Beispiel in PHP 5.2.9: (dies ist in 5.3 nicht der Fall)
%Vor%
Wie würdest du das umgehen?
12.02.2010, 00:31
Wenn in c eine Variable-Argument-Funktion aufgerufen wird, werden die Integer-Parameter auf int hochgestuft, und Gleitkomma-Parameter werden auf double hochgestuft
Da der Prototyp keine Typen für optionale Argumente angibt, werden bei eine...
07.06.2017, 19:19
Ich muss das Integral der folgenden Funktion in Bereichen berechnen, die so niedrig wie -150 beginnen:
%Vor%
Das Problem ist, dass dieser Teil der Funktion ist
%Vor%
tendiert in Richtung unendlich - ich erhalte inf für Werte von x...
31.08.2015, 01:55
Wenn ich den folgenden Code in VC ++ 2013 (32-Bit, keine Optimierungen) ausführen:
%Vor%
Ich bekomme
%Vor%
im Debugger.
Ich bin verrückt. Kann mir bitte jemand erklären wie die heck y1 und y2 unterschiedliche Werte haben?
Ak...
31.01.2014, 11:25
Ich möchte eine Funktion in reinem Lua erstellen, die einen Bruchteil (23 Bits), einen Exponenten (8 Bits) und ein Zeichen (1 Bit) von einer Zahl, so dass die Zahl ungefähr gleich math.ldexp(fraction, exponent - 127) * (sign == 1 and -1 o...
19.01.2013, 17:11
Ich bin auf diesen Code hier gestoßen.
%Vor%
Bin ich falsch zu denken, dass // 3 gefährlich ist?
21.01.2014, 01:53