floating-accuracy, Seitenzahl 1

7

Antworten

Warum sagt Ghci, dass 1.1 + 1.1 + 1.1 3.3 wahr ist?

Ich habe kürzlich ein Haskell-Tutorial durchlaufen und dieses Verhalten bemerkt, als ich einige einfache Haskell-Ausdrücke in der interaktiven ghci -Shell ausprobierte: %Vor% Weiß jemand, warum das so ist?

10.01.2010, 21:14

8

Antworten

Gleitkomma in Java manipulieren und vergleichen

In Java wird die Gleitkommaarithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code: %Vor% Druckt "c ist nicht 3.6". Ich bin nicht an einer Genauigkeit von mehr als 3 Dezimalstellen (#. ###) interessiert. Wie kann ich mit diesem...

24.05.2010, 09:42

4

Antworten

Highcharts Kuchendiagramm ignoriert die Tooltip-Einstellung für prozentuale Dezimalstellen und weist ein Problem mit der Ungenauigkeit von Gleitkommazahlen auf

Highcharts 3.0 scheint bei der Anzeige von QuickInfos in einem Tortendiagramm Probleme mit der Genauigkeit von Gleitkommazahlen zu haben. Ich war in der Lage, den genauen Fehler zu reproduzieren, indem ich eines der Highcharts Demo-Kreisdiagramm...

09.04.2013, 16:32

3

Antworten

Integer-Potenzierung in OCaml

Gibt es eine Funktion für Integer-Potenzierung in OCaml? ** ist nur für Schwimmer. Obwohl es meistens genau zu sein scheint, gibt es keine Möglichkeit für Präzisionsfehler, etwa 2. ** 3. = 8. manchmal falsch? Gibt es eine Bibliotheksfunktion für...

05.06.2013, 22:03

4

Antworten

Fließkommaformatierung in printf ()

Ich habe eine Reihe von Fließkommazahlen, in denen Daten mit unterschiedlichen Dezimalstellen gespeichert werden, also einige sind 123.40000 , 123.45000 , 123.45600 ... jetzt, wenn ich diese Werte in der Zeichenkette ohne die 0s in der dr...

07.12.2009, 23:22

1

Antwort

Was ist der Unterschied zwischen Math.pow (9, 18) und 9 ^ 18

wenn ich Math.pow(9, 18) =150094635296999136 verwende wenn ich den Web-Rechner 9 ^ 18 = 150094635296999121 ( Ссылка ) verwende wenn ich den Google-Rechner 9 ^ 18 = 1.50094635 × 10 ^ 17 verwende warum ist es anders?

02.06.2011, 05:21

4

Antworten

Math.Pow nimmt einen ganzzahligen Wert an

Von Ссылка %Vor% Math.Pow nimmt Doppel als Argumente, aber hier sind wir gerade dabei. Frage: Besteht die Gefahr von Gleitkomma-Rundungsfehlern, wenn es eine implizite Konvertierung in Doppelhappen gibt? Wenn ja, ist es besser, etwas...

25.06.2012, 20:17

2

Antworten

Ruby Float-Genauigkeit

Wie ich es verstehe, haben Ruby (1.9.2) Floats eine Genauigkeit von 15 Dezimalziffern. Daher würde ich erwarten, dass das Runden von float x auf 15 Dezimalstellen gleich x wäre. Für diese Berechnung ist dies nicht der Fall. %Vor% Die Run...

05.09.2011, 19:58

4

Antworten

Ist es möglich, den Exponenten oder den Signifikanten eines Floats zu einem anderen Float (Python) zu erzwingen?

Das ist eine interessante Frage, die ich neulich durcharbeiten wollte. Ist es möglich, den Signifikanden oder Exponenten von einem float zu einem anderen float in Python zu machen? Die Frage tritt auf, weil ich versucht habe, einige Dat...

28.01.2016, 08:37

4

Antworten

Ist Hardcode float präzise, wenn es in IEEE 754 durch Binärformat dargestellt werden kann?

beispielsweise sind 0, 0,5, 0,15625, 1, 2, 3 ... Werte, die von IEEE 754 konvertiert wurden. Ist ihre Hardcode-Version genau? zum Beispiel: ist %Vor% immer wahr zurück? anderes Beispiel: %Vor% ist a * b immer gleich 0,125 und a * b...

11.11.2015, 07:44