Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Wie ich es verstehe, haben Ruby (1.9.2) Floats eine Genauigkeit von 15 Dezimalziffern. Daher würde ich erwarten, dass das Runden von float x auf 15 Dezimalstellen gleich x wäre. Für diese Berechnung ist dies nicht der Fall.
%Vor%
Die Run...
05.09.2011, 19:58
Ich habe es versucht
%Vor%
und die Ausgabe war
%Vor%
Das heißt also, "Infinity" ist für beide Datentypen gleich?
10.04.2012, 05:10
Ich habe Schwierigkeiten, eine zuverlässige Methode zu finden, um unter Visual Studio (2005 oder 2008) Gleitkommaausnahmen einzufangen. In Visual Studio werden Gleitkommaausnahmen standardmäßig nicht abgefangen, und sie sind ziemlich schwer zu f...
26.11.2010, 02:49
Angenommen, ich verfüge über eine API, die es mir erlaubt, Floats oder Float-Arrays zu speichern. Allerdings möchte ich hier ganzzahlige Werte speichern.
Ich verstehe (ungefähr), dass ich mit einem Straight Cast bis zu 2 ^ 23 okay bin, aber w...
10.11.2010, 23:06
Das ist eine interessante Frage, die ich neulich durcharbeiten wollte. Ist es möglich, den Signifikanden oder Exponenten von einem float zu einem anderen float in Python zu machen?
Die Frage tritt auf, weil ich versucht habe, einige Dat...
28.01.2016, 08:37
beispielsweise sind 0, 0,5, 0,15625, 1, 2, 3 ... Werte, die von IEEE 754 konvertiert wurden. Ist ihre Hardcode-Version genau?
zum Beispiel:
ist
%Vor%
immer wahr zurück? anderes Beispiel:
%Vor%
ist a * b immer gleich 0,125 und a * b...
11.11.2015, 07:44
Ich schrieb eine Funktion, um bei Bedarf Zahlen und Nullen zu einer Zahl hinzuzufügen, aber ich bin bei der Modulus-Funktion steckengeblieben. Laut meinem PHP:
%Vor%
Sollte nicht 877.5 % 1 == 0.5 ?
23.04.2014, 06:48
Welche Methoden würde eine moderne FPU verwenden, um transzendentale Funktionen zu berechnen?
Beispielsweise geben Intel-CPUs Anweisungen wie FSIN , FCOS , FYL2X usw. an. Ich bin neugierig, welche Algorithmen verwendet werden würden,...
14.12.2012, 10:56
Ich passe momentan Fließkommazahlen an, um einen Wert abzuschätzen. (Es ist: p(k,t) für diejenigen, die interessiert sind.) Im Grunde kann das Dienstprogramm nie ergibt eine Unterschätzung dieses Wertes: Die Sicherheit der wahrscheinliche...
10.05.2012, 09:20
Meine App ist in Delphi5 geschrieben. Ich benutze madExcept, um Bugs aufzuspüren. Ich habe eine Ausnahme "Fließkomma-dvision durch Null" gefunden, wo es nicht sein sollte. Das Code-Segment, in dem es ausgelöst wird, lautet wie folgt:
%Vor%
w...
08.11.2011, 08:10