decimal

Dezimal ist der Name für unser gemeinsames Basis-Zehn-Zahlensystem. Es kann sich auch auf nicht ganzzahlige Werte beziehen, die mit einem Dezimalpunkt ausgedrückt sind.
2
Antworten

Ist Java's BigDecimal der nächste Datentyp, der C # 's Decimal entspricht?

Laut dem hier , der entsprechende Datentyp in Java zu C # 's Decimal ist "BigDecimal". Ist das wirklich so? Was ist los mit der "großen" Präambel? Es scheint kein "SmallDecimal" oder "LittleDecimal" (geschweige denn "MediumSizedDecimal") in...
11.04.2014, 16:10
5
Antworten

Konvertiere String in Dezimal-Mysterium

Ich habe ein Problem mit der Konvertierung von String in Dezimal mit C # .NET. Das Problem ist, dass ich den folgenden Code geschrieben habe und auf meinem Entwicklungssystem Windows 7 .NET Framework 3.5 funktioniert. Aber wenn ich die Anwendung...
27.06.2011, 21:11
4
Antworten

Drucken PHP Float mit 3 Nachkommastellen?

Gibt es einen einfachen Weg zu echo eine Gleitkommazahl mit einer bestimmten Anzahl von Nachkommastellen? Zum Beispiel: $sum = 3.1234566768; Ich möchte $ sum zurückgeben und bekomme: 3.12 .     
06.03.2012, 09:31
9
Antworten

Verkürzen Sie einen Dezimalwert in C ++

Was ist der einfachste Weg, um eine C ++ float Variable, die einen Wert von 0.6000002 hat, auf einen Wert von 0.6000 abzuschneiden und in der Variablen? zu speichern     
20.11.2008, 00:48
4
Antworten

Reduzierung der Genauigkeit von Zahlen - regex vim

Meine Regex ist ziemlich rostig. Wie könnte vim verwendet werden, um die Genauigkeit einer Dezimalzahl zu ändern. Zum Beispiel: Ändern 30.2223221 8188.2121213212 bis 30.22 8188.21     
04.03.2011, 21:11
2
Antworten

Wie wird die Zahl in ColdFusion auf 2 Dezimalstellen gekürzt?

Wie kann ich einige Variablen nehmen und sie nur auf zwei Dezimalstellen ausgeben, aber die Variablen unverändert lassen? Ich habe es versucht %Vor% Aber die Zahlen blieben gleich.     
11.02.2013, 12:33
6
Antworten

Wie wird eine Dezimalzahl auf die nächste Fraktion gerundet?

Nicht sicher, ob das der richtige Weg ist, das zu fragen oder nicht, aber hier ist das Problem. Wie finde ich bei einem Breitengrad von 26,746346081599476 die Zahl 26,75 als 16. Stelle größer als die Zahl und 26.6875 als 16. Stelle niedriger...
01.10.2009, 21:17
7
Antworten

Warum basiert System.Math und beispielsweise MathNet.Numerics auf Double?

Alle Methoden in System.Math nehmen double als Parameter und gibt zurück Parameter. Die Konstanten haben ebenfalls den Typ double . Ich habe MathNet.Numerics ausgecheckt, und das scheint auch so zu sein. Warum ist das? Speziell für K...
05.11.2009, 14:28
4
Antworten

OverflowError: (34, 'Ergebnis zu groß')

Ich bekomme einen Überlauffehler (OverflowError: (34, 'Ergebnis zu groß') Ich möchte Pi auf 100 Dezimalstellen berechnen. Hier ist mein Code: %Vor%     
25.11.2013, 19:36
3
Antworten

C # dezimal.Parsenverhalten

Kurze Frage: Warum sind diese
13.01.2011, 08:27