Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Ich arbeite täglich mit Python 2.4 in meiner Firma. Ich benutzte die vielseitige Logarithmusfunktion 'log' aus der Standard-Mathematikbibliothek, und als ich log (2 ** 31, 2) eingab, gab es 31,000000000000004 zurück, was mir etwas merkwürdig vor...
31.05.2009, 12:48
Ich frage mich, ob das wahr ist: Wenn ich die Quadratwurzel einer quadrierten Ganzzahl verwende, wie in
%Vor%
Ich werde eine Gleitkommazahl erhalten, die sehr nahe bei 123 liegt. Aufgrund der Gleitkommadarstellungsgenauigkeit könnte dies...
13.01.2010, 21:40
Mit nur ANSI C, was ist der beste Weg, um mit einiger Sicherheit festzustellen, ob eine C-Stil-String ist entweder eine ganze Zahl oder eine reelle Zahl (d. h. float / double)?
16.09.2008, 23:55
Was ich eigentlich gerne hätte, ist das Gegenteil von Number.prototype.toPrecision (), was bedeutet, dass, wenn ich eine Zahl habe, welche dezimale Genauigkeit es derzeit hat? ZB
%Vor%
04.03.2012, 08:09
In Java wird die Gleitkommaarithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code:
%Vor%
Druckt "c ist nicht 3.6".
Ich bin nicht an einer Genauigkeit von mehr als 3 Dezimalstellen (#. ###) interessiert. Wie kann ich mit diesem...
24.05.2010, 09:42
Warum druckt das folgende Programm, was es druckt?
%Vor%
Ausgabe ist
%Vor%
15.04.2009, 22:12
Ich stolperte über diese Codezeile in SciPys Quelle im Statistikmodul :
%Vor%
Ist diese Rückgabe etwas anderes als 1.0 ? Mit anderen Worten, gibt es einen Wert von x, so dass x == x False enthält?
21.04.2012, 13:53
Bitte könntest du mir hier helfen? Ich muss verstehen, wie man einen String in einen Int, Float oder Double verwandelt! Dieses Problem tritt auf, wenn ich versuche, den Wert von einem UITextField abzurufen und diese Art der Konvertierung zu benö...
07.09.2014, 08:55
Ich möchte 3/2 gleich 2 nicht 1,5
Ich weiß, dass es einen mathematischen Ausdruck für diese Operation gibt (nicht als Aufrunden bezeichnet), aber ich kann mich im Moment nicht daran erinnern.
Wie auch immer, wie mache ich das, ohne zwei Funkt...
24.08.2011, 20:20
Wie schränkt man das Eingabefeld ein, um nur Zahlen / Ziffern int und float beides einzugeben.
Manchmal müssen wir sowohl den Integer- als auch den Float-Wert für Felder wie Betrag zulassen. In diesem Fall ist die Validierung erforderlich. Es gi...
17.05.2015, 13:51