rounding

Einen numerischen Wert zu runden bedeutet, ihn durch einen anderen Wert zu ersetzen, der ungefähr gleich ist, aber eine kürzere, einfachere oder explizitere Darstellung hat.
2
Antworten

Fixing Sub-Pixel Rundung Problem in einem CSS Fluid Grid

Ich versuche, ein flüssiges CSS-Gitter zu erstellen, es funktioniert in Firefox und IE8 +, aber NICHT in Safari / Chrome / Opera, wo das Subpixel-Rundungsproblem sichtbar wird: Ссылка %Vor% Der Hauptcontainer hat eine Breite von 100%, u...
09.03.2012, 14:06
1
Antwort

VBA Runde Funktion

In einem meiner Programme muss ich den Durchschnitt für eine Reihe von Zahlen berechnen. Das Problem ist, dass manchmal die Antwort zu einer großen Dezimalzahl kommt, und ich muss versuchen, es bis zu zwei Dezimalstellen maximal zu bekommen....
18.03.2011, 21:31
3
Antworten

Abgerundete Dezimalzahlen in SQL Server 2008

Ich lese alle Rundungsfunktionen von T-SQL wie Round , Floor und Ceil , aber keine davon hat die Dezimalzahlen für mich korrekt abgerundet. Ich habe 2 Fragen: Wie wird eine Dezimalzahl abgerundet ( 3.69 == & gt; 3.5 )? Wie w...
12.01.2014, 06:59
3
Antworten

PHP: number_format Rundung

Hi Ich habe ein Problem beim Runden von Zahlen auf -0 und nicht nur auf 0 code: %Vor% Ausgabe: -0 erwartete Ausgabe: 0 Ich habe nach einer Lösung gesucht, aber nichts gefunden. bitte erklären & amp; mir helfen, warum es s...
24.12.2014, 11:58
2
Antworten

Ruby BigDecimal Round: Ist das ein Fehler?

Beim Schreiben eines Tests mit einem Wert, der als BigDecimal dargestellt wird, stieß ich auf etwas Seltsames und beschloss, mich darauf einzulassen. Kurz gesagt, wird "0,00009", wenn auf zwei Dezimalstellen gerundet, als 0,01 statt 0,00 zurückg...
13.01.2010, 02:32
4
Antworten

Warum rundet AddMilliseconds den Doppelparameter?

%Vor% Was um alles in der Welt haben sie hier gedacht? Es erscheint mir hässlich schlecht, eine Methode zu erstellen, die ein Double braucht, wenn sie nicht mit Bruchzahlen arbeitet. Warum haben sie das nicht mit einem Aufruf von AddTicks umges...
22.04.2010, 10:43
1
Antwort

Schweizer und argentinische Währung vierstellige Dezimalstellen

Beim Runden von Währungsbeträgen mit dem Algorithmus für Schweizer Franken werden die zweite und dritte Dezimalziffer berücksichtigt. Wenn sie kleiner als 26 sind, werden sie auf 0 abgerundet; ansonsten wenn weniger als 76, abgerundet auf 5; son...
27.02.2011, 16:09
2
Antworten

PHP eine Reihe von beliebigen Zahlen gegeben, wie kann ich einen logischen Maximalwert in einem Liniendiagramm wählen?

Ich konstruiere ein Liniendiagramm in PHP. Ich habe den Max-Wert des Liniendiagramms auf den Maximalwert meiner Sammlung von Elementen gesetzt, was jedoch dazu führte, dass der Graph weniger lesbar wurde. Sie können die höchste Zeile im Diagramm...
11.05.2010, 18:49
3
Antworten

Dezimalstellen werden nicht richtig gerundet - ist das ein LINQ to SQL Bug?

Mein Datenbankfeld (SQL Server 2005) ist mit numerisch (15,2) definiert. Die von LINQ 2 SQL generierte Eigenschaft ist %Vor% Im Debug überprüfe ich den Entity-Wert für diese Eigenschaft = 23.6363636363 (etc) Ich gehe dann über context....
26.02.2010, 06:10
1
Antwort

Warum gibt es falsche und / oder inkonsistente Freiheitsgrade von Rs t-Test-Funktion?

Ich habe eine einfache Frage. Ich habe dieses Verhalten in R sowohl für T-Tests als auch für Korrelationen gesehen. Ich mache einen einfachen gepaarten t-Test (in diesem Fall zwei Vektoren der Länge 100). Also sollte der df des gepaarten t-Te...
12.08.2016, 16:38