number-rounding

Die Rundung von Zahlen bezieht sich auf den Vorgang des Rundens von Zahlen auf einen bestimmten Stellenwert (d. h. 1,45 auf das nächste Zehntel gerundet ist 1,5).
4
Antworten

MATLAB - Stockwerkfrage

Ich bin ein MATLAB-Anfänger. Hier ist das Problem: %Vor% c sollte 1 sein, oder? Warum ist es 0 ??? Es ist anders, wenn b = 2 direkt wie folgt eingegeben wird: %Vor%     
26.06.2009, 06:07
2
Antworten

RoundingMode.HALF_DOWN Problem in Java8

Ich benutze jdk 1.8.0_45 und unsere Tests haben einen Fehler im Rouding entdeckt. RoundingMode.HALF_DOWN funktioniert genauso wie RoundingMode.HALF_UP, wenn die letzte Dezimalzahl, die die Rundung entscheidet, 5 ist. Ich habe verwandte Proble...
11.06.2015, 10:59
3
Antworten

CInt rundet nicht den doppelten Wert - wie kann ich den Bruchteil entfernen?

Ich bin auf ein Problem mit CInt gestoßen und habe ein Double in eine ganze Zahl umgewandelt. Das Problem ist das Folgende: %Vor% Ich habe mich an die C # -Stil-Konvertierung gewöhnt, wo (int) 10.51 10 ist. Wie in der Frage zu In...
07.10.2011, 07:20
4
Antworten

Warum C # -Rund- und SQL-Runden-Funktionen ergeben unterschiedliche Ausgänge?

Ich verwende ROUND -Funktion aus C # und SQL, und überraschenderweise ergeben beide unterschiedliche Ergebnisse. In SQL: ROUND(1250.00, -2) = 1300 In C # ROUND 1250 mit Runde und precision = 2 = 1200 Ist schon einmal jemand...
22.11.2011, 05:16
2
Antworten

ios Doppel von String ohne gerundet

Der folgende Code rundet meine Breitenzeichenfolge ab. Ich möchte nicht, dass es abgerundet wird. Doppellat muss 41.04546 sein. %Vor% Für präzise Koordinaten, die nicht gerundet werden dürfen.     
08.11.2012, 10:37