precision

Für Fragen zur numerischen Genauigkeit in der Programmierung.
1
Antwort

Punkt im Polygon-Algorithmus, der manchmal falsche Ergebnisse liefert

Ich habe in StackOverflow einen "Point in Polygon" Raytracing Algorithmus gesehen, den ich in meinem PHP Code implementiert habe. Die meiste Zeit funktioniert es gut, aber in einigen komplizierten Fällen, mit komplexen Polygonen und bösartigen P...
11.02.2013, 18:33
4
Antworten

tan 45 gibt mir 0,9999

Warum gibt tan 45 (0.7853981633974483 im Bogenmaß) mir 0.9999 ? Was ist mit dem folgenden Code falsch? %Vor% Ich glaube nicht, dass hier ein Tippfehler ist. Also, was ist die Lösung hier?     
08.12.2012, 07:35
4
Antworten

Reduzierung der Genauigkeit von Zahlen - regex vim

Meine Regex ist ziemlich rostig. Wie könnte vim verwendet werden, um die Genauigkeit einer Dezimalzahl zu ändern. Zum Beispiel: Ändern 30.2223221 8188.2121213212 bis 30.22 8188.21     
04.03.2011, 21:11
4
Antworten

Präzision in C schwebt

Im Allgemeinen sagen wir, dass ein Float eine Genauigkeit von 6 Nachkommastellen hat. Aber wenn wir eine große Zahl in der Größenordnung von 10 ^ 30 speichern, erhalten wir 6 Nachkommastellen nicht. Also ist es richtig zu sagen, dass Floats eine...
19.03.2012, 06:09
7
Antworten

Warum wirkt sich die Reihenfolge auf die Rundung aus, wenn mehrere Doppel in C # hinzugefügt werden?

Betrachten Sie den folgenden C # -Code: %Vor% result1 sollte immer gleich result2 gleich sein? Die Sache ist, es tut es nicht. result1 ist 3.3 und result2 ist 3.3000000000000003. Der einzige Unterschied ist die Reihenfolge der Konstanten....
30.03.2009, 11:05
3
Antworten

C # Doppelpräzisionsproblem

Stellen Sie sich vor, dass a - b & lt; c (a, b, c sind C # -Doppelwerte). Ist garantiert, dass a & lt; b + c ? Danke! BEARBEITEN Nehmen wir an, dass der arithmetische Überlauf im Gegensatz zum folgenden Beispiel nicht auftritt: %Vo...
03.09.2010, 09:16