rounding

Einen numerischen Wert zu runden bedeutet, ihn durch einen anderen Wert zu ersetzen, der ungefähr gleich ist, aber eine kürzere, einfachere oder explizitere Darstellung hat.
3
Antworten

Wie bekomme ich Delphi Currency Type zum Runden wie Excel die ganze Zeit?

Ich versuche Delphi zu runden wie Excel, aber ich kann nicht. Hier ist der Code: %Vor% Ich verwende eine Währungsvariable, die auf 54321.245 gesetzt ist, und wenn ich diese Variable formatiere, wird sie mit Bankers Rounding gerundet. Wen...
10.06.2012, 01:21
6
Antworten

Gemeinsame Strategien zum Umgang mit Rundungsfehlern in währungsintensivem soft?

Was ist Ihr Rat an: Kompensation des akkumulierten Fehlers bei umfangreichen mathematischen Operationen für Sammlungen von Money-Objekten. Wie wird dies in Ihrem Produktionscode für Ihr Gebietsschema implementiert? Theorie hinter der R...
23.05.2017, 11:53
2
Antworten

RoundingMode.HALF_DOWN Problem in Java8

Ich benutze jdk 1.8.0_45 und unsere Tests haben einen Fehler im Rouding entdeckt. RoundingMode.HALF_DOWN funktioniert genauso wie RoundingMode.HALF_UP, wenn die letzte Dezimalzahl, die die Rundung entscheidet, 5 ist. Ich habe verwandte Proble...
11.06.2015, 10:59
3
Antworten

Wann ist es vorteilhaft, von Float auf Double via Dezimal zu konvertieren

Unsere bestehende Anwendung liest einige Fließkommazahlen aus einer Datei. Die Zahlen werden dort von einer anderen Anwendung geschrieben (nennen wir es Anwendung B ). Das Format dieser Datei wurde vor langer Zeit behoben (und wir können es nic...
05.11.2012, 22:10
3
Antworten

CInt rundet nicht den doppelten Wert - wie kann ich den Bruchteil entfernen?

Ich bin auf ein Problem mit CInt gestoßen und habe ein Double in eine ganze Zahl umgewandelt. Das Problem ist das Folgende: %Vor% Ich habe mich an die C # -Stil-Konvertierung gewöhnt, wo (int) 10.51 10 ist. Wie in der Frage zu In...
07.10.2011, 07:20
2
Antworten

Wie man mit seltsamer Rundung von Floats in PHP umgeht

Wie wir alle wissen, ist die Fließkomma-Arithmetik nicht immer vollständig genau, aber wie gehen Sie mit ihren Inkonsistenzen um? Als Beispiel in PHP 5.2.9: (dies ist in 5.3 nicht der Fall) %Vor% Wie würdest du das umgehen?     
12.02.2010, 00:31
3
Antworten

Wie macht man "schöne Rundungen"?

Ich muss eine Rundung wie diese machen und sie als Zeichen umwandeln: %Vor% Ich erwarte, dass es 6.00 wird, aber es gibt mir nur 6 Gibt es trotzdem, dass ich 6.00 anzeigen kann?     
16.08.2010, 02:09
7
Antworten

Rundung einer Gleitkommazahl in objective-c

Ich möchte wissen, ob es eine einfache Funktion gibt, mit der ich dieses Beispiel benutzen kann. Ich habe ein %Vor% Ich möchte es mit etwas wie umrunden %Vor% Und ich bekomme "1.123" Gibt es irgendeine Library oder Standardfunktion da...
10.07.2012, 09:55
2
Antworten

Fehler bei der Rundungserweiterung auf dezimal - nicht mit einer Instanzreferenz erreichbar; qualifiziere es stattdessen mit einem Typnamen

Ich habe die Erweiterungsmethoden mehrere Male verwendet und dieses Problem noch nicht erkannt. Hat jemand irgendwelche Ideen, warum dies einen Fehler verursacht? %Vor% Verwendung: %Vor% newAmount.Round (3) wirft den Compilerfehler: %V...
12.08.2011, 18:17
2
Antworten

Verwenden der Funktion round () in c

Ich bin etwas verwirrt über die Funktion round() in C. Zuerst sagt der Mensch: %Vor% Der Rückgabewert ist ein double / float oder ein int ? An zweiter Stelle habe ich eine Funktion erstellt, die zuerst umrundet und dann nach...
25.08.2016, 15:43