double

Fragen
Fließkommaformat mit doppelter Genauigkeit ist ein (meist) 64-Bit-Datentyp, der zum Speichern von Bruchzahlen verwendet wird.
4
Antworten

Bizarres Gleitkommaverhalten mit vs. ohne zusätzliche Variablen, warum?

Wenn ich den folgenden Code in VC ++ 2013 (32-Bit, keine Optimierungen) ausführen: %Vor% Ich bekomme %Vor% im Debugger. Ich bin verrückt. Kann mir bitte jemand erklären wie die heck y1 und y2 unterschiedliche Werte haben? Ak...
31.01.2014, 11:25
2
Antworten

SSE mit Doppel, nicht wert?

Ich habe ein wenig über die Verwendung von SSE-Intrinsics gelesen und habe mein Glück bei der Implementierung der Quaternion-Rotation mit Doubles versucht. Im Folgenden sind die normalen und SSE-Funktionen, die ich schrieb, %Vor% Mit SSE...
19.01.2013, 16:47
3
Antworten

Wie richte ich den Dezimalpunkt beim Anzeigen von Doppelpunkten und Gleitkommazahlen aus?

Wenn ich die folgenden Dezimalpunktnummern habe: %Vor% Dann bekomme ich folgende Ausgabe: %Vor% Was ich will ist: %Vor%     
05.06.2013, 17:55
2
Antworten

Konvertieren von Double in NSNumber in Swift verliert Genauigkeit [duplizieren]

Aus irgendeinem Grund geben mir einige Double-Dateien in meiner Swift-App Probleme beim Konvertieren in NSNumber, während andere nicht funktionieren. Meine App muss Doubles mit 2 Dezimalstellen (Preisen) in NSNumbers konvertieren, damit sie mi...
24.08.2016, 15:42
3
Antworten

Fast nächste Potenz von 2 in JavaScript?

Gibt es eine schnellere Alternative zu folgendem Ausdruck: %Vor% Das heißt, die nächste (kleinere) ganzzahlige Potenz von 2 eines Double zu nehmen? Ich habe einen solchen Ausdruck in einer inneren Schleife. Ich vermute, es könnte viel schnel...
17.11.2014, 03:43
2
Antworten

Konvertieren von einem C-Double in zwei Hex-Strings übertragen

mein allererster Tag mit Python. Ich möchte nach einer Trace-Datei filtern, die von C generiert wurde. Jeder Doppel von C wird in der Datei von formatiert zwei hexadezimale Strings, die 32 Bit des 64-fachen repräsentieren. z.B. 1234567890....
15.07.2011, 21:52
4
Antworten

Warum ist ein Float "single precision"?

Ich bin neugierig, warum das IEEE eine 32-Bit-Fließkommazahl mit einfacher Genauigkeit aufruft. War es nur ein Mittel der Standardisierung, oder bezieht sich "Single" tatsächlich auf ein einzelnes "Etwas"? Ist es einfach ein standardisiertes...
19.07.2013, 21:05
1
Antwort

Keine Dezimalstellen anzeigen, wenn double eine ganze Zahl ist?

Ich mache ein grafisches Taschenrechnerprogramm in Java und habe eine Methode, die basierend auf Benutzereingaben eine Operation ausführt und ein Double zurückgibt, das in JTextField angezeigt wird. Ich möchte jedoch, dass das Ergebnis als ga...
02.11.2012, 18:26
1
Antwort

C # Der Aufruf ist zwischen den folgenden Methoden oder Eigenschaften nicht eindeutig: F (double) 'und' F (dezimal) '[duplizieren]

Dieser Code funktioniert in C # sehr gut, trotz der Tatsache, dass int implizit in double und float konvertiert werden kann: %Vor% Also, warum wird dieser Code nicht kompiliert? (Der Aufruf ist zwischen den folgenden Methoden oder Ei...
03.04.2016, 12:06
2
Antworten

Java doppelte Verlustpräzisionsberechnung

Ich habe die folgende Doppelberechnung in Java: %Vor% Wenn wir nun die Genauigkeit nicht verlieren, wäre C3 == C1 wahr. Aber da wir die Genauigkeit verlieren, sind C3 und C1 immer noch gleich? Wenn sie nicht immer gleich wären, w...
15.04.2016, 06:35