floating-point

Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
3
Antworten

Wie bekomme ich die Bits eines "double" als "long"

Ich möchte die bitweise Darstellung von Fließkommazahlen in C # manipulieren. BinaryWriter und BinaryReader machen es so: %Vor% Gibt es eine Möglichkeit, dies ohne unsicheren Code zu tun und ohne den Aufwand, BinaryWriter und BinaryReader ta...
17.12.2010, 23:19
2
Antworten

Konvertierung von SQL FLOAT nach SQL INT, verlorene Daten

Ich habe einige Probleme mit der Konvertierung einiger Daten, die in einem FLOAT-Datentyp gespeichert sind, in Daten, die in einem INT-Datentyp gespeichert sind. Das folgende Beispiel veranschaulicht mein Problem: %Vor% Die gewünschten Ergeb...
09.12.2010, 13:29
1
Antwort

Warum gibt es in Java keine ceil (float)?

Angenommen, ich möchte float auf int in Java aufrunden. Zum Beispiel, %Vor% Ich möchte Math.ceil und Math.round dazu aufrufen, aber java.lang.Math liefert nicht ceil(float) . Es bietet nur ceil(double) . Also mein flo...
14.06.2012, 12:59
3
Antworten

Drucken Sie entweder eine Ganzzahl oder ein Gleitkomma mit n Dezimalstellen

Wie kann man in Python eine Zahl ausgeben, die eine Ganzzahl oder einen echten Typ sein kann, wenn ich im letzteren Fall meinen Ausdruck auf eine bestimmte Anzahl von Ziffern beschränken muss? Lange Rede, kurzer Sinn, sagen wir haben das folg...
27.02.2017, 15:49
1
Antwort

Wie vermeidet man Gleitkommafehler?

Ich habe versucht, eine Funktion zu schreiben, die Quadratwurzeln annähert (ich weiß, dass es das Mathematikmodul gibt ... Ich möchte es selbst machen), und ich wurde von der Fließkomma-Arithmetik durcheinander gebracht. Wie können Sie das verme...
20.10.2013, 03:56
1
Antwort

Wie wird 'float ()' für eine benutzerdefinierte Klasse in Python überladen?

Zusammenfassung Wie kann ich das eingebaute float für meine Klasse überladen, wenn ich also float() für eine Instanz davon anrufe, wird meine benutzerdefinierte Funktion anstatt der Standardfunktion aufgerufen? Meine Klasse Hi, ic...
05.04.2012, 18:39
4
Antworten

Richtiges Design von C-Code, der Gleitkommazahlen mit einfacher und doppelter Genauigkeit verarbeitet?

Ich entwickle eine Bibliothek von speziellen mathematischen Funktionen in C. Ich muss der Bibliothek die Möglichkeit geben, sowohl mit einfacher als auch mit doppelter Genauigkeit zu arbeiten. Wichtig ist hier, dass die "single" -Funktionen NUR...
27.10.2011, 19:14
6
Antworten

Konvertieren Sie float [] in Byte [] in float []

Also versuche ich hier ein float[] zu bekommen, es in byte[] umzuwandeln, es als Datagrammpaket durch das Netzwerk zu senden und es dann wieder in ein byte[] am empfangenden Terminal umzuwandeln. Jetzt weiß ich, dass ich float[] i...
19.02.2012, 04:36
3
Antworten

Wie überprüft man das Bitmuster eines Double ist 0x0 in einem C ++ 11 Constexpr?

Ich möchte überprüfen, ob eine gegebene double / float-Variable das tatsächliche Bitmuster 0x0 hat. Frag nicht warum, es wird in einer Funktion in Qt ( qIsNull() ) verwendet, die ich gerne constexpr wäre. Der ursprüngliche Code verwendet...
17.02.2012, 12:31
4
Antworten

Lange im Float, warum?

%Vor% Warum gibt es kein Problem hinsichtlich der Größe des Datentyps und der impliziten Konvertierung? Die Größe von float und long ist anders als wir wissen und die unten angegeben ist ... %Vor%     
04.12.2010, 06:08