Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Ich habe viele Sachen gefunden, um Floats zu bekannten Zahlen zu formatieren,
aber wie kann ich einen float auf maximal 2 Dezimalstellen formatieren, aber nur wenn die Dezimalstellen benötigt werden?
Beispiele:
%Vor%
wenn ich das tue
%V...
04.06.2014, 12:06
In der Funktion sqrt der meisten Sprachen (obwohl ich mich hier hauptsächlich für C und Haskell interessiere), gibt es irgendwelche Garantien, dass die Quadratwurzel eines perfekten Quadrats genau zurückgegeben wird? Zum Beispiel, wenn ich s...
04.01.2013, 05:45
Ich verstehe, dass Open GL Zahlen verwenden muss, aber warum nicht einfach reguläre Ints und Floats oder die bereits vorhandenen Wrapper-Klassen verwenden (was immer nötig ist, damit die ganze Welt von Open GL gut zusammenpasst)? Gibt es einen...
07.09.2012, 22:52
Ich denke, ich werde verrückt.
"counter" und "interval" sind beide Doubles. Dies geschieht auf Beschleunigungsmesser: didAccelerate in einem Intervall von (.01). "counter" sollte schließlich auf "interval" erhöht werden. Aus irgendeinem Grund ka...
19.01.2011, 07:13
Ich versuche ein plattformübergreifendes Problem zu lösen, und ich bin mir nicht ganz sicher, wie ich das anstellen soll. Hier ist ein Demonstrationsprogramm:
%Vor%
Die Ausgabe unter Windows, wenn in VS2010 kompiliert ist:
0.885638 3f62b...
28.08.2013, 17:15
Ist
a < b and not(a - b < 0)
möglich für Gleitkommazahlen aufgrund der Gleitkommarundfehlerfunktion?
Gibt es ein Beispiel?
05.02.2014, 23:28