floating-accuracy

Fragen
Über die Genauigkeit von Operationen, die an Fließkommazahlen ausgeführt werden.
1
Antwort

Fließkommadivision - Bias, um ein Ergebnis zu vermeiden, das kleiner als ein "exakter" Wert ist

Ich passe momentan Fließkommazahlen an, um einen Wert abzuschätzen. (Es ist: p(k,t) für diejenigen, die interessiert sind.) Im Grunde kann das Dienstprogramm nie ergibt eine Unterschätzung dieses Wertes: Die Sicherheit der wahrscheinliche...
10.05.2012, 09:20
1
Antwort

C ++ float vs. double cout setprecision Kuriositäten (Neuling)

Kann jemand erklären, warum diese zwei Variablen mit dem gleichen Wert unterschiedliche Werte ausgeben können, wenn ich setprecision () verwende? %Vor% Die Ausgabe für a ist 98,76, während die Ausgabe für b 98,77 ist.     
04.08.2017, 04:08
1
Antwort

Genauigkeit der Fließkommaarithmetik

Ich habe Probleme, die Ausgabe dieses Programms zu verstehen %Vor% Die Ausgabe ist %Vor% Ich verwende IEEE-Arithmetik. Die Variable y enthält die kleinste mögliche IEEE-Nummer. Die ersten fünf Drucke zeigen eine Zahl, die doppelt so g...
15.03.2013, 19:59
5
Antworten

Fließkomma-C ++ - Compiler-Optionen | Verhindern von a / b - a * (1 / b)

Ich schreibe numerische Echtzeit-Software in C ++, die ich derzeit mit Visual-C ++ 2008 kompiliere. Mit dem 'schnellen' Gleitkomma-Modell ( /fp:fast ), verschiedene Optimierungen, die meisten von ihnen sind nützlich für meinen Fall, aber spezi...
04.08.2010, 16:10
1
Antwort

Ob String oder Integer in BigDecimal in Ruby verwendet werden soll

Bezieht sich auf die Dokumentation von BigDecimal class,    n,m = a.precs prec gibt die Anzahl der signifikanten Ziffern ( n ) und zurück   maximale Anzahl von signifikanten Ziffern ( m ) von a . Ich bin verwirrt über die...
18.12.2015, 04:06
1
Antwort

Casting-Ergebnisse der Float-Multiplikation führen zu unterschiedlichen Ergebnissen, wenn der Float zum ersten Mal in einer Variablen gespeichert wird? [Duplikat]

Der Code hier ist einfach, aber ich verstehe die Ergebnisse nicht: %Vor% Warum ist firstInt 68, aber secondInt ist 69?     
08.08.2016, 22:56
7
Antworten

Vergleichen der gleichen Float-Werte in C [duplizieren]

Wenn ich versuche, 2 gleiche float -Werte zu vergleichen, gibt es im folgenden Code keine "gleichen Werte" aus: %Vor% Vielen Dank im Voraus.     
24.03.2012, 09:41
6
Antworten

Warum kann ich einen Float nicht multiplizieren? [Duplikat]

Ich war ziemlich überrascht, warum ich versuchte, einen Float in C zu multiplizieren (mit GCC 3.2) und dass es nicht so lief, wie ich es erwartet hatte. Als Beispiel: %Vor% Anzeigen: 31.099998 Ich bin neugierig, wie Floats implementie...
13.06.2010, 05:00
5
Antworten

Warum wird meine Nummer falsch gerundet?

Das fühlt sich an wie die Art von Code, der nur in situ versagt, aber ich werde versuchen, ihn in ein Code-Snippet zu verwandeln, das darstellt, was ich sehe. %Vor% Nach dem Durchlaufen des Codes, i == 269 und i2 == 268. Was passiert hier, u...
24.03.2010, 16:43