floating-point

Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
3
Antworten

String in Fließkommazahl C # parsen

Ich habe die Fließkommazahl in der Zeichenkette. Es gibt ein Problem. Nummer verwendet "." nicht "," als Dezimalpunkt. Dieser Code funktioniert nicht: %Vor% Ich weiß, dass ich String-Replace-Funktion verwenden kann, um diese Zeichenfolge...
19.03.2011, 23:14
9
Antworten

Gleitkommazahl begrenzen?

Gibt es eine Möglichkeit, Gleitpunkte auf 2 Punkte zu runden? Zum Beispiel: 3576.7675745342556 wird 3576.76 .     
01.08.2010, 21:29
3
Antworten

Wie berechnet man ^ (1 / n)?

Ich versuche a^(1/n) zu berechnen, wobei ^ Exponentiation bedeutet. Allerdings Folgendes: %Vor% gibt 1.0 zurück, anstatt 2.0 zurückzugeben. Warum ist das so?     
11.04.2013, 17:58
5
Antworten

Bestimmen, ob ein Float einen Bruchteil hat?

Hier ist das Problem: Das Spiel Totals kann von beliebig vielen Leuten gespielt werden. Es beginnt mit einer Gesamtzahl von 100 und jeder Spieler macht eine ganze Verschiebung zwischen -20 und 20. Der Gewinner ist der Spieler, dessen Anpassung d...
18.12.2011, 02:10
4
Antworten

Ersetzt Komma durch Punkt, wenn floatvalue von NSString abgerufen wird

Ich möchte, dass die Benutzer in meiner Anwendung Werte über 0 für einen Geldbetrag eingeben können. Also ist 0,0 oder irgendeine Darstellung von Null inakzeptabel, aber 0,1 wird zum Beispiel akzeptiert. Um dies zu tun, plante ich, den Gleitk...
11.07.2011, 11:56
3
Antworten

32 Bit im Vergleich zu 64 Bit Fließkomma-Performance

Ich bin auf ein seltsames Problem gestoßen. Ein Algorithmus, an dem ich arbeite, besteht aus vielen Berechnungen wie dieser %Vor% wobei die Länge der Summe zwischen 4 und 7 liegt. Die ursprünglichen Berechnungen werden alle mit 64-Bit-Gen...
29.06.2010, 01:40
2
Antworten

SQL setzt Fließkomma-Genauigkeit

Wie setze ich für einen SQL-Int, der in einen Float konvertiert wird, die Genauigkeit der Fließkommazahl? Dies ist die Auswahl, die ich auf zwei oder drei Dezimalstellen abschneiden möchte: %Vor% Danke!     
20.06.2012, 19:19
7
Antworten

Rundung Dezimalwert

Ich stehe vor dem Problem, den Dezimalwert in C # mit Math.Round(a, 2); zu runden Wenn ich 1.275 um zwei Dezimalpunkte runder mache, ist das Ergebnis 1.27. Wenn ich dasselbe für 1.375 mache, ist das Ergebnis 1.38. Warum wird nicht zwisc...
31.07.2012, 13:17
5
Antworten

Warum werden Gleitkommawerte wie 3.14 in MSVC standardmäßig als doppelt betrachtet?

Warum muss ich 3,14f anstelle von 3,14 setzen, um alle diese Warnungen zu deaktivieren? Gibt es einen schlüssigen Grund dafür?     
04.12.2010, 13:42
5
Antworten

- = 0.1 seltsames Ergebnis [duplizieren]

JavaScript-Code: %Vor% Ссылка Ich habe erwartet: %Vor% Aber ich habe das: %Vor% Könnte jemand erklären, was dort vor sich geht?     
13.04.2011, 14:38