double

Fließkommaformat mit doppelter Genauigkeit ist ein (meist) 64-Bit-Datentyp, der zum Speichern von Bruchzahlen verwendet wird.
4
Antworten

Trunking Double mit VBA in Excel

Ich muss die Anzahl der Dezimalstellen meines doppelten Wertes für die Anzeige in einem Textfeld abschneiden. Wie würde man das mit VBA erreichen?     
05.07.2012, 15:33
5
Antworten

In welchen Situationen ist es besser, ein Float über ein Double in Java zu verwenden? [geschlossen]

Genauer gesagt, wie extrem ist die Leistungssteigerung, wenn in Java ein Float statt eines Double verwendet wird?     
30.01.2014, 00:33
3
Antworten

Konvertiert eine Zeichenfolge mit einer Hexadezimaldarstellung eines IEEE-754-Double in eine numerische JavaScript-Variable

Angenommen, ich habe eine Hexadezimalzahl "4072508200000000" und möchte, dass die Gleitkommazahl (293.03173828125000) im IEEE-754-Doppelformat in eine JavaScript-Variable eingegeben wird. Ich kann mir eine Art vorstellen, die Maskierung und e...
20.10.2009, 22:37
4
Antworten

Wie kann ich einen String mit sowohl einfachen als auch doppelten Anführungszeichen darin in Javascript unterbringen?

Ich habe eine Anwendung, und es wird etwas HTML gespeist. Dann muss das HTML in eine Zeichenfolge eingefügt werden. Dieser HTML-Code enthält einfache und doppelte Anführungszeichen. Ist es in Javascript möglich, eine Zeichenfolge mit Information...
08.07.2011, 18:17
2
Antworten

konvertiert doppelte Werte für die Erstellung eines Punkttyps

Ich möchte eine Kurve (eine Diodenkurve) in einer Bildbox mit Bild von Bitmap zeichnen. Ich habe jetzt ein Problem und es ist mein Punkt, dass Daten als Double gespeichert werden und es wirklich wichtig ist, die Präzession zu behalten. zum Be...
20.03.2011, 03:51
3
Antworten

Warum liefert diese SQL-Abfrage keine Ergebnisse, die Fließkommazahlen vergleichen?

Ich habe dies in einer MySQL-Tabelle: id und bolag_id sind int . lat und lngitude sind double . Wenn ich die Spalte lngitude verwende, werden keine Ergebnisse zurückgegeben: lngitude Abfrage: SELECT * FROM...
12.01.2012, 17:27
6
Antworten

Float in Double konvertieren

Wie teuer ist die Umwandlung von float in double ? Ist es so trivial wie eine int to long Konvertierung? EDIT: Ich nehme eine Plattform an, wo float 4 Bytes und double 8 Bytes ist     
14.09.2009, 13:54
2
Antworten

Ausnahmebehandlung in C ++: Bei Verwendung von "throw (int)" ein Double werfen

Das folgende Programm gibt immer "Error: double 10.2" aus. Ich verstehe nicht warum. Laut mir, wenn fun1 () erlaubt nur Int geworfen werden, sollte das Programm entweder (1) Absturz (2) oder ändere das Double zu einem int und wirf es dann. Da...
20.06.2013, 13:48
2
Antworten

java.nio.BufferUnderflowException beim Konvertieren von Byte-Array in Double

Ich muss ein Bytearray in Double konvertieren. Ich benutze %Vor% Aber zur Laufzeit bekomme ich BufferUnderflowException Ausnahme %Vor% Was muss ich hier ändern?     
09.09.2014, 04:37
2
Antworten

Wie groß ist der Präzisionsverlust, der lange zu verdoppeln ist?

Ich habe in verschiedenen Post auf Stackoverflow und in der C # -Dokumentation gelesen, dass das Konvertieren von long (oder eines anderen Datentyps, der eine Zahl darstellt) in double die Genauigkeit verliert. Dies ist offensichtlich aufg...
25.09.2015, 14:00