Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Ich bin ein MATLAB-Anfänger. Hier ist das Problem:
%Vor%
c sollte 1 sein, oder? Warum ist es 0 ???
Es ist anders, wenn b = 2 direkt wie folgt eingegeben wird:
%Vor%
26.06.2009, 06:07
Ich habe die JVM-Spezifikation für den fpstrict -Modifizierer verstehe aber immer noch nicht ganz, was es bedeutet.
Kann mich jemand aufklären?
24.03.2010, 09:00
Ich habe versucht, die Gleitkommadarstellung in C mit diesem Code zu verstehen (sowohl float als auch int sind 4 Bytes auf meinem Rechner):
%Vor%
Wir wissen, dass die binäre Darstellung von x die folgende ist
0000000000000000000000...
17.07.2010, 13:10
Ist IEEE-754-Arithmetik auf verschiedenen Plattformen reproduzierbar?
Ich habe einen in R geschriebenen Code getestet, der Zufallszahlen verwendet. Ich dachte, dass das Setzen des Samens des Zufallszahlengenerators auf allen getesteten Plattf...
19.01.2014, 01:56
Ich habe einen spanischen Benutzer, der ein invalid floating point error bekommt, wenn er dies tut
%Vor%
Der Grund dafür ist, dass sein Ort , für die Dezimalstelle verwendet!
Wie kann ich die Zeichenfolge oben sicher in einen Float fü...
01.05.2011, 21:46
In Go gibt es den Typ int , der abhängig von der Systemarchitektur int32 oder int64 entspricht. Ich kann eine Integer-Variable deklarieren, ohne sich über ihre Größe Gedanken machen zu müssen:
%Vor%
Warum gibt es nicht den Typ float...
22.06.2014, 18:37
Ich habe ein Programm in Matlab und das gleiche Programm in c implementiert, und die Ergebnisse unterscheiden sich.
Ich bin etwas verwirrt, dass die cos-Funktion nicht das exakt gleiche Ergebnis liefert.
Ich benutze in beiden Fällen densel...
01.10.2011, 18:07
Ich habe mich gefragt, wie ich zwei negative Gleitkommazahlen in Javascript subtrahieren kann. Ich habe es versucht:
%Vor%
und das Ergebnis ist -0.30000000000000004 . Mache ich etwas falsch? Was muss ich tun, um -0.3 zu erhalten?
17.05.2011, 08:02
Ich bin etwas neu in der Programmierung mit Python, also gehen Sie bitte einfach auf mich. Ich versuche, das String-Attribut rjust aufzurufen und auch die Genauigkeit für einen Fließkommawert anzugeben. Hier ist die Code- und Sample-Ausgabe (bea...
15.07.2012, 04:04
Ich schreibe eine Funktion in ANSI C, die zwei Zahlen als Parameter empfängt. Die Parameter lauten int oder float type. Die Nummer kann oder kann nicht gemäß meinem Filter gültig sein. Wie gebe ich einen Wert zurück, der einen Fehler b...
05.01.2013, 18:35