Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Ich habe die Fließkommazahl in der Zeichenkette. Es gibt ein Problem. Nummer verwendet "." nicht "," als Dezimalpunkt.
Dieser Code funktioniert nicht:
%Vor%
Ich weiß, dass ich String-Replace-Funktion verwenden kann, um diese Zeichenfolge...
19.03.2011, 23:14
Gibt es eine Möglichkeit, Gleitpunkte auf 2 Punkte zu runden? Zum Beispiel: 3576.7675745342556 wird 3576.76 .
01.08.2010, 21:29
Ich versuche a^(1/n) zu berechnen, wobei ^ Exponentiation bedeutet.
Allerdings Folgendes:
%Vor%
gibt 1.0 zurück, anstatt 2.0 zurückzugeben.
Warum ist das so?
11.04.2013, 17:58
Hier ist das Problem: Das Spiel Totals kann von beliebig vielen Leuten gespielt werden. Es beginnt mit einer Gesamtzahl von 100 und jeder Spieler macht eine ganze Verschiebung zwischen -20 und 20. Der Gewinner ist der Spieler, dessen Anpassung d...
18.12.2011, 02:10
Ich möchte, dass die Benutzer in meiner Anwendung Werte über 0 für einen Geldbetrag eingeben können. Also ist 0,0 oder irgendeine Darstellung von Null inakzeptabel, aber 0,1 wird zum Beispiel akzeptiert.
Um dies zu tun, plante ich, den Gleitk...
11.07.2011, 11:56
Ich bin auf ein seltsames Problem gestoßen. Ein Algorithmus, an dem ich arbeite, besteht aus vielen Berechnungen wie dieser
%Vor%
wobei die Länge der Summe zwischen 4 und 7 liegt.
Die ursprünglichen Berechnungen werden alle mit 64-Bit-Gen...
29.06.2010, 01:40
Wie setze ich für einen SQL-Int, der in einen Float konvertiert wird, die Genauigkeit der Fließkommazahl?
Dies ist die Auswahl, die ich auf zwei oder drei Dezimalstellen abschneiden möchte:
%Vor%
Danke!
20.06.2012, 19:19
Ich stehe vor dem Problem, den Dezimalwert in C # mit Math.Round(a, 2); zu runden
Wenn ich 1.275 um zwei Dezimalpunkte runder mache, ist das Ergebnis 1.27.
Wenn ich dasselbe für 1.375 mache, ist das Ergebnis 1.38.
Warum wird nicht zwisc...
31.07.2012, 13:17
Warum muss ich 3,14f anstelle von 3,14 setzen, um alle diese Warnungen zu deaktivieren?
Gibt es einen schlüssigen Grund dafür?
04.12.2010, 13:42
JavaScript-Code:
%Vor%
Ссылка
Ich habe erwartet:
%Vor%
Aber ich habe das:
%Vor%
Könnte jemand erklären, was dort vor sich geht?
13.04.2011, 14:38