precision

Fragen
Für Fragen zur numerischen Genauigkeit in der Programmierung.
2
Antworten

Java doppelte Verlustpräzisionsberechnung

Ich habe die folgende Doppelberechnung in Java: %Vor% Wenn wir nun die Genauigkeit nicht verlieren, wäre C3 == C1 wahr. Aber da wir die Genauigkeit verlieren, sind C3 und C1 immer noch gleich? Wenn sie nicht immer gleich wären, w...
15.04.2016, 06:35
2
Antworten

BigDecimal-Genauigkeit wurde bei JPA-Anmerkungen nicht beibehalten

Ich benutze die javax.persistence API und Hibernate, um Annotationen und persistente Entitäten und ihre Attribute in einer Oracle 11g Express-Datenbank zu erstellen. Ich habe das folgende Attribut in einer Entität: %Vor% Das Ziel besteht...
08.06.2012, 21:07
1
Antwort

Effizientere und schnellere Invertierung von Matrizen in C ++ (groß und klein)

Während ich über Matrixinversionsalgorithmen google, habe ich festgestellt, dass es verschiedene Wege (und Meinungen!) gibt, wie man das im Code macht. Ich fragte mich, welche Methode die schnellste oder die mit der besten Leistung ist, und als...
16.01.2013, 14:43
2
Antworten

Ist für jeden endlichen Gleitkommawert garantiert, dass x - x == 0?

Gleitkommawerte sind ungenau, weshalb wir in Vergleichen nur selten strenge numerische Gleichheit verwenden sollten. In Java beispielsweise wird false ( wie auf ideone.com ) angezeigt: %Vor% Normalerweise ist es der richtige Weg, um Erg...
30.08.2010, 10:35
1
Antwort

Java implizite Umwandlungen, die zu einem Genauigkeits- oder Größenverlust führen können? [Duplikat]

Ich habe kürzlich gelernt , während ich Java-Code in C # umwandelte, dass der Java-Inkrementoperator '+ =' implizit umwandelt die Art von LHS: %Vor% entspricht: ( Details hier ) %Vor% so leise die Gelegenheit für den Verlust der Größe...
19.12.2012, 10:31
4
Antworten

Rotierende Vektoren im Raum und hohe Genauigkeit in C ++

Das ist meine Funktion, um 3D-Rotation in C ++ zu berechnen, definiert durch einen Winkel in Radiant um die Achse. %Vor% Die Sache ist, wenn du versuchst, den Vektor zu drehen a n mal pi/4 wo n multiple of 4 (damit du die Umdrehung...
09.08.2017, 12:42
1
Antwort

Ob String oder Integer in BigDecimal in Ruby verwendet werden soll

Bezieht sich auf die Dokumentation von BigDecimal class,    n,m = a.precs prec gibt die Anzahl der signifikanten Ziffern ( n ) und zurück   maximale Anzahl von signifikanten Ziffern ( m ) von a . Ich bin verwirrt über die...
18.12.2015, 04:06
1
Antwort

Schweizer und argentinische Währung vierstellige Dezimalstellen

Beim Runden von Währungsbeträgen mit dem Algorithmus für Schweizer Franken werden die zweite und dritte Dezimalziffer berücksichtigt. Wenn sie kleiner als 26 sind, werden sie auf 0 abgerundet; ansonsten wenn weniger als 76, abgerundet auf 5; son...
27.02.2011, 16:09
1
Antwort

Casting-Ergebnisse der Float-Multiplikation führen zu unterschiedlichen Ergebnissen, wenn der Float zum ersten Mal in einer Variablen gespeichert wird? [Duplikat]

Der Code hier ist einfach, aber ich verstehe die Ergebnisse nicht: %Vor% Warum ist firstInt 68, aber secondInt ist 69?     
08.08.2016, 22:56
1
Antwort

AVMetadataFaceObject-Genauigkeit

Ich versuche die AVMetadataFaceObject zu verwenden, um das Gieren und Rollen eines Gesichts in einem Video zu erhalten. Von dem, was ich sagen kann, ist die Präzision des Gierens in Schritten von 45 Grad und die Rolle ist in Schritten von...
28.05.2013, 13:35