Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Ich möchte wissen, ob es eine einfache Funktion gibt, mit der ich dieses Beispiel benutzen kann.
Ich habe ein
%Vor%
Ich möchte es mit etwas wie umrunden
%Vor%
Und ich bekomme "1.123"
Gibt es irgendeine Library oder Standardfunktion da...
10.07.2012, 09:55
In Java versuche ich einen Weg zu finden, eine Gleitkommazahl in eine Bruchzahl zu konvertieren. Zum Beispiel:
%Vor%
Irgendwelche Ideen, wie man das in Java macht?
11.05.2011, 18:08
Ich mache einige Gleitkommaberechnungen und die Ergebnisse sind nicht so genau wie ich es möchte.
Dies ist der Algorithmus:
%Vor%
min_x, max_x und old_x sind alle Floats.
Ich glaube, dass der größte Fehler entsteht, wenn ich den Durchschn...
24.06.2011, 17:19
Meine Frage betrifft den bedingten Test in der Testabteilung. Es scheint eine Debatte darüber zu geben, welchen konditionellen Test zu verwenden ist. Schauen wir uns den Code dafür von RosettaCode an.
%Vor%
Die Radfaktorisierung oder die V...
21.03.2014, 10:47
Ich habe eine Frage zu dem folgenden Zitat (N3797, 3.9.1 / 8):
Die Wertdarstellung von Fließkommatypen ist implementierungsdefiniert.
Soweit ich es verstehe, gibt es der Implementierung völlige Freiheit beim Definieren der Grenzen von...
19.10.2014, 08:10
Ich entwickle ein Multiplayer-Spiel mit Box2D-Physik für iOS. Der Multiplayer verwendet wie üblich die Lock-Step-Methode. Das Spiel aktualisiert die Physik weltweit - zeitnah. Es gibt keine Desynchronisierung unter iOS-Geräten mit derselben CPU....
15.12.2012, 02:57
Vor kurzem las ich den Beitrag:
16.05.2013, 14:51
Angenommen, ich habe ein float X. Ich möchte die größte Zahl finden, die kleiner als X ist und verlustfrei in einem Float gespeichert werden kann.
IIRC Der IEEE-Standard besagt, dass Sie dies tun können, indem Sie die Bits des Gleitkommas in...
11.01.2013, 12:29
Es gibt einige Situationen, in denen ich eine Zeichenfolge in float oder einen anderen numerischen Datentyp konvertieren muss, aber es gibt eine Wahrscheinlichkeit, dass einige nicht konvertierbare Werte wie "-" oder "/" erhalten werden und ich...
02.12.2011, 20:10
mein allererster Tag mit Python.
Ich möchte nach einer Trace-Datei filtern, die von C generiert wurde.
Jeder Doppel von C wird in der Datei von formatiert
zwei hexadezimale Strings, die 32 Bit des 64-fachen repräsentieren.
z.B. 1234567890....
15.07.2011, 21:52