Dieses Tag ist für Fragen zu Problemen mit Zahlen gedacht, die entweder nicht genau gelöst werden können oder bei denen die genaue Lösung schwieriger zu ermitteln ist als mit numerischen Methoden.
Gibt es eine Möglichkeit, DecimalFormat (oder einen anderen Standard-Formatierer) zu verwenden, um Zahlen wie folgt zu formatieren:
1.000.000 = & gt; 1.00M
1,234,567 = & gt; 1.23M
1,234,567,890 = & gt; 1234.57M
Grundsätzl...
Ich hatte heute Morgen einen merkwürdigen Fehler in einer VB6-App, und das alles rührt von der Tatsache her, dass IsNumeric nicht so funktioniert, wie ich es erwartet hatte. Kann jemand etwas erklären warum? Für mich scheint das ein Fehler zu se...
In Mathematica kann ein Vektor (oder ein rechteckiges Array), der alle Integer oder Floats der Maschinengröße enthält, in einem gepackten Array gespeichert werden. Diese Objekte benötigen weniger Arbeitsspeicher und einige Operationen sind viel...
Eine SAMPLE Tabelle hat nur eine Spalte ID vom Typ int , default null.
In Oracle, wenn ich das tue:
%Vor%
Der neue Datensatz wird mit einem leeren Wert hinzugefügt. Aber in SQL Server 2008, wenn ich dieselbe insert -Anweisung a...
Ich habe einen gemischten Klassen-Datenrahmen (numerisch und Faktor), wo ich versuche, den gesamten Datenrahmen in numerisch zu konvertieren. Im Folgenden werden die Art der Daten, mit denen ich arbeite, sowie das Problem, dem ich begegne, veran...
Wie wählt man Integer-Werte nur aus einer varchar-Spalte in PostgreSQL?
Wenn die Spalte enthält:
%Vor%
Ich möchte nur auswählen:
%Vor%
Ich kämpfe um Funktionen wie: is_numeric, is_integer, um etwas wie folgt zu tun:
%Vor%
Irgendwe...
Angenommen, ich möchte eine Zahl in viele teilen.
%Vor%
Da die Multiplikation schneller ist, ist die Versuchung, dies zu tun
%Vor%
1) Ist dies garantiert identische Antworten? Ich vermute nicht, aber eine Bestätigung wäre schön.
2) We...
Ich möchte wissen, welche Konvertierung für eine einfache mathematische Operation besser ist (hinsichtlich Leistung / Geschwindigkeit und Präzision / möglichst wenig Verlust) und was unterscheidet sie?
Beispiel:
%Vor%
Eigentlich geht es b...
Ich verwende die Azavea Numeric Scala-Bibliothek für allgemeine mathematische Operationen. Allerdings kann ich diese nicht mit der Scala Collections API verwenden, da sie eine scala Numeric erfordern und es so aussieht, als ob die beiden Numeric...
Ich versuche, eine gute Alternative zu Numericbox in einer Windows 8-Kachelanwendung zu finden. Ich habe versucht, die gleiche numericbox, die für Windows-Formulare existiert, aber eine Fehlermeldung, dass diese nicht von Windows 8-Anwendungen (...