rounding-error

Rundungsfehler sind, wenn die Anzahl, die gespeichert wird, nicht genau die erwartete Anzahl ist
2
Antworten

Korrigiert Summen mit Trennsummen und wirkt Rundungsfehlern entgegen

Web-Anwendung, die in PHP mit einer MySQL-Datenbank kodiert ist. Ich habe ein System, das verschiedene Kosten für eine Anzahl von Leuten berechnet, wenn man Kosten aufteilt. Beispiel: Person A kauft etwas für 10 und Personen B, C und D...
23.07.2012, 11:56
2
Antworten

SSE rundet ab, wenn es aufgerundet werden soll

Ich arbeite an einer Anwendung, die Float-Samples im Bereich von -1.0 bis 1.0 zu 16bit konvertiert, um sicherzustellen, dass die Ausgabe der optimierten (SSE) Routinen korrekt ist. Ich habe eine Reihe von Tests geschrieben, die das non ausführt...
14.10.2015, 01:30