floating-point

Fragen
Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
7
Antworten

BYTE-Puffer (0-255) in Fließkomma-Puffer umwandeln (0.0-1.0)

Wie kann ich einen BYTE-Puffer (von 0 bis 255) in einen Float-Puffer (von 0.0 bis 1.0) konvertieren? Natürlich sollte es eine Beziehung zwischen den beiden Werten geben, z. B .: 0 im Byte-Puffer wird .0.f im Float-Puffer, 128 im Byte-Puffer ist...
25.06.2009, 13:00
5
Antworten

Warum wird meine Nummer falsch gerundet?

Das fühlt sich an wie die Art von Code, der nur in situ versagt, aber ich werde versuchen, ihn in ein Code-Snippet zu verwandeln, das darstellt, was ich sehe. %Vor% Nach dem Durchlaufen des Codes, i == 269 und i2 == 268. Was passiert hier, u...
24.03.2010, 16:43
5
Antworten

Python: Erhalte & manipuliere (als Integer) Bitmuster von Floats

In Python V.2.5.4 habe ich eine Gleitkommazahl, und ich möchte das Bitmuster dieser Gleitkommazahl erhalten und manipulieren (als Integer). Nehmen wir zum Beispiel an, ich habe %Vor% Im IEEE 754-Format ist das Bitmuster von x (in hexadezi...
17.12.2009, 16:02
3
Antworten

Umwandlung von Double in unsigned int

Ich stehe vor einem Problem mit der Umwandlung des Wertes von Double nach int. Ich versuche den folgenden Code auszuführen: %Vor% Die Umwandlung von double in int kann den Dezimalteil entfernen, aber der ganzzahlige Teil sollte erhalten blei...
06.09.2012, 11:11
3
Antworten

Unterscheiden Sie Null und negative Null C ++

Ich bin auf eine Situation in meinem Code gestoßen, wo eine Funktion ein Double zurückgibt, und es möglich ist, dass dieses Double eine Null, eine negative Null oder ein ganz anderer Wert ist. Ich muss zwischen Null und negativem Null unterschei...
06.01.2014, 09:15
2
Antworten

Wie man durch Null ohne Fehler teilt

Ich muss Float NaN und Unendlichkeit erhalten, aber ich kann solche Konstruktionen nicht verwenden %Vor% weil es die Kompilierzeit verursacht    Fehler C2124: Teile oder mod durch Null BEARBEITEN, es ist cool, Antworten darauf zu habe...
08.06.2013, 16:12
4
Antworten

Wie bewertet ein C # den Gleitkommawert im Hover-Over- und Intermediate-Fenster im Vergleich zum Kompilierten?

Ich habe etwas Seltsames beim Speichern von Doubles in einem Wörterbuch und bin verwirrt darüber, warum. Hier ist der Code: %Vor% Die zweite if-Anweisung funktioniert wie erwartet; 1,0 ist nicht weniger als 1,0. Jetzt wird die erste if-An...
10.09.2009, 14:04
4
Antworten

C # Generics: Wie verwendet man x.MaxValue / x.MinValue (int, float, double) in einer generischen Klasse?

Ich verwende das WPF Extended Toolkit ( Ссылка ). Es hat ein nettes NumericUpDown-Steuerelement, das ich gerne verwenden würde, aber intern verwendet es doubles - was bedeutet, dass es double.MinValue und double.MaxValue verwendet. Ich wür...
11.12.2010, 19:53
4
Antworten

Euler # 26, wie rationale Zahl in String mit besserer Präzision zu konvertieren?

Ich möchte 1/7 mit besserer Genauigkeit erhalten, aber es wurde abgeschnitten. Wie kann ich eine bessere Genauigkeit erhalten, wenn ich eine rationale Zahl umwandle? %Vor%     
12.11.2009, 03:54
4
Antworten

Überschneiden sich die beiden Linien in einer kartesischen Ebene

Ich habe dieses Problem aus dem Buch "Crack the Coding Interview".    Bestimmen Sie bei zwei Linien in einer kartesischen Ebene, ob sich die beiden Linien schneiden würden. Hier ist die Lösung: %Vor% Warum hat es nicht die einfache Lö...
05.11.2012, 13:52