rounding

Einen numerischen Wert zu runden bedeutet, ihn durch einen anderen Wert zu ersetzen, der ungefähr gleich ist, aber eine kürzere, einfachere oder explizitere Darstellung hat.
5
Antworten

Warum wird meine Nummer falsch gerundet?

Das fühlt sich an wie die Art von Code, der nur in situ versagt, aber ich werde versuchen, ihn in ein Code-Snippet zu verwandeln, das darstellt, was ich sehe. %Vor% Nach dem Durchlaufen des Codes, i == 269 und i2 == 268. Was passiert hier, u...
24.03.2010, 16:43
4
Antworten

Abrundung von Floats mit ostringstream

Ich habe ein Problem bezüglich der Konvertierung von Float zu C ++ String mit ostringstream. Hier ist meine Zeile: %Vor% Wenn t den Wert -0.89999 hat, wird auf -0.9 abgerundet, aber wenn der Wert 0.0999 oder kleiner als 1.754e-7 ist, wird nu...
20.09.2010, 04:44
2
Antworten

ios Doppel von String ohne gerundet

Der folgende Code rundet meine Breitenzeichenfolge ab. Ich möchte nicht, dass es abgerundet wird. Doppellat muss 41.04546 sein. %Vor% Für präzise Koordinaten, die nicht gerundet werden dürfen.     
08.11.2012, 10:37
4
Antworten

Javascript intelligente Rundung

Ich muss derzeit Zahlen auf ihre nächste Nummer runden. (Nicht sicher, was der richtige Begriff hier ist) Aber sehen Sie ein Beispiel von dem, was ich erreichen möchte %Vor% Ich habe einen Weg gefunden, dies zu tun, aber es ist so schmerz...
19.09.2011, 11:08
1
Antwort

Rundungsfehler in Python mit nicht-ungeraden Zahlen?

Ich bin Anfänger in Python, und ich habe eine Frage. Warum funktioniert das Runden einer Zahl wie 5.5, 7.5, (irgendwas) .5 mit ungeradem ganzzahligen Teil, der round(num) anwendet, richtig (Regel 5/4), aber Rundenzahl wie (alles) .5 mit nich...
10.04.2012, 17:46