decimal

Dezimal ist der Name für unser gemeinsames Basis-Zehn-Zahlensystem. Es kann sich auch auf nicht ganzzahlige Werte beziehen, die mit einem Dezimalpunkt ausgedrückt sind.
3
Antworten

Casting to Decimal wird in LINQ to Entities-Abfragen nicht unterstützt

Ich habe eine Datenbanktabelle Transaction (transactionID, LocalAmount ...). Der Datentyp für die Localamount-Eigenschaft ist float . Auf der Benutzeroberfläche versuche ich eine SUMME der Spalte (Localamount) in einer Zeile bei einem Klicker...
18.02.2013, 15:41
1
Antwort

Analysiert einen Dezimalwert von einem String in Ruby

Ich habe eine Ruby-Zeichenfolge, die Dezimalzahlen enthält. Was ist der beste Weg, um dies in eine Dezimalzahl (Festkomma) zu konvertieren? "Beste" bedeutet: Zuverlässig mit einer breiten Palette von Eingabemöglichkeiten Einfach zu schr...
30.01.2010, 21:22
3
Antworten

Dezimalkonvertierung F # Skript vs. Kompiliertes F #

In F # Interactive funktioniert der folgende Code: %Vor% In einem kompilierten F # -Programm erscheint jedoch eine Fehlermeldung: %Vor% Was ist dort passiert? Liegt es daran, dass die verschiedenen Referenzen (und Versionen von Referenze...
08.11.2011, 01:51
1
Antwort

Wie kann ich die Anzahl der Stellen begrenzen, die printf nach dem Komma anzeigt?

Ich habe ein kleines Programm geschrieben, das zwei Ganzzahlen mit scanf liest und dann verschiedene arithmetische Berechnungen durchführt. Ich verwende printf , um die Ergebnisse anzuzeigen. Wie kann ich printf nur zwei Stellen nach dem...
15.09.2011, 01:46
2
Antworten

Wie konvertiert man eine riesige ganze Zahl in hex in PHP?

Wie kann ich das konvertieren: %Vor% in der Basis 16? Ich habe diese rekursive Funktion gefunden: %Vor% aber die Verschachtelungsebene von 100 ist erreicht, selbst wenn ich xdebug.max_nesting_level = 1000 in meiner php.ini-Konfigurati...
26.01.2013, 17:48
1
Antwort

Keine Dezimalstellen anzeigen, wenn double eine ganze Zahl ist?

Ich mache ein grafisches Taschenrechnerprogramm in Java und habe eine Methode, die basierend auf Benutzereingaben eine Operation ausführt und ein Double zurückgibt, das in JTextField angezeigt wird. Ich möchte jedoch, dass das Ergebnis als ga...
02.11.2012, 18:26
1
Antwort

C # Der Aufruf ist zwischen den folgenden Methoden oder Eigenschaften nicht eindeutig: F (double) 'und' F (dezimal) '[duplizieren]

Dieser Code funktioniert in C # sehr gut, trotz der Tatsache, dass int implizit in double und float konvertiert werden kann: %Vor% Also, warum wird dieser Code nicht kompiliert? (Der Aufruf ist zwischen den folgenden Methoden oder Ei...
03.04.2016, 12:06
4
Antworten

Konvertieren von Pythons Decimal () in einen INT und einen Exponenten

Ich möchte den Datentyp Decimal () in Python verwenden und ihn in eine Ganzzahl und einen Exponenten umwandeln, damit ich diese Daten mit voller Genauigkeit und Dezimalkontrolle an einen Mikrocontroller / SPS senden kann. Ссылка Ich habe es...
24.07.2014, 22:09
1
Antwort

Python: Warum akzeptieren Funktionen im Mathematikmodul Dezimalobjekte als Argumente?

Bizzarely, scheint jede Funktion von Pythons Mathematik-Modul gut mit Dezimal-Objekten zu funktionieren. Zum Beispiel: frexp, exp, cos. Wenn ich print(math.frexp(decimal.Decimal('2341.12412'))) eintippe, druckt Python die richtige Antwort,...
06.04.2013, 02:52
3
Antworten

DisplayFormat wird nicht auf den Dezimalwert angewendet

Ich habe eine Modelleigenschaft, die ich mit einer EditorFor-Vorlage zu rendern versuche, und ich versuche, die Formatierung mit dem DisplayFormat-Attribut anzuwenden. Es funktioniert jedoch überhaupt nicht - es wird völlig ignoriert. Hier is...
20.10.2011, 22:39