ieee-754, Seitenzahl 2

2

Antworten

Lua - packt IEEE754 Gleitkommazahlen mit einfacher Genauigkeit

Ich möchte eine Funktion in reinem Lua erstellen, die einen Bruchteil (23 Bits), einen Exponenten (8 Bits) und ein Zeichen (1 Bit) von einer Zahl, so dass die Zahl ungefähr gleich math.ldexp(fraction, exponent - 127) * (sign == 1 and -1 o...

19.01.2013, 17:11

3

Antworten

Gibt es moderne Plattformen mit Nicht-IEEE C / C ++ Float-Formaten?

Ich schreibe ein Videospiel, Humm and Strumm , das eine Netzwerkkomponente in seiner Spielengine benötigt. Ich kann leicht mit Unterschieden in der Endianz umgehen, aber ich habe versucht, mit möglichen float Speicherformaten umzugehen. Ich...

27.04.2010, 19:27

3

Antworten

Fast nächste Potenz von 2 in JavaScript?

Gibt es eine schnellere Alternative zu folgendem Ausdruck: %Vor% Das heißt, die nächste (kleinere) ganzzahlige Potenz von 2 eines Double zu nehmen? Ich habe einen solchen Ausdruck in einer inneren Schleife. Ich vermute, es könnte viel schnel...

17.11.2014, 03:43

1

Antwort

Fließkommadivision - Bias, um ein Ergebnis zu vermeiden, das kleiner als ein "exakter" Wert ist

Ich passe momentan Fließkommazahlen an, um einen Wert abzuschätzen. (Es ist: p(k,t) für diejenigen, die interessiert sind.) Im Grunde kann das Dienstprogramm nie ergibt eine Unterschätzung dieses Wertes: Die Sicherheit der wahrscheinliche...

10.05.2012, 09:20

4

Antworten

Was ist das Risiko von numerischen Instabilitäten bei der Zerlegung von Nennern?

Angenommen, ich möchte eine Zahl in viele teilen. %Vor% Da die Multiplikation schneller ist, ist die Versuchung, dies zu tun %Vor% 1) Ist dies garantiert identische Antworten? Ich vermute nicht, aber eine Bestätigung wäre schön. 2) We...

02.02.2015, 14:04

1

Antwort

Genauigkeit der Fließkommaarithmetik

Ich habe Probleme, die Ausgabe dieses Programms zu verstehen %Vor% Die Ausgabe ist %Vor% Ich verwende IEEE-Arithmetik. Die Variable y enthält die kleinste mögliche IEEE-Nummer. Die ersten fünf Drucke zeigen eine Zahl, die doppelt so g...

15.03.2013, 19:59

2

Antworten

Berechnen einer korrekt gerundeten / nahezu korrekt gerundeten kubischen Gleitkomma-Wurzel

Angenommen, es sind korrekt gerundete Standardbibliotheksfunktionen verfügbar, wie sie in CRlibm zu finden sind. Wie würde man dann die korrekt gerundete Kubikwurzel einer Eingabe mit doppelter Genauigkeit berechnen? Diese Frage ist kein "...

05.08.2013, 17:08

4

Antworten

Kodierung und Dekodierung IEEE 754 schwebt in JavaScript

Ich muss IEEE 754 floats kodieren und dekodieren und binär in node.js double, um ein Netzwerkprotokoll zu parsen. Gibt es Bibliotheken, die das machen, oder muss ich die Spezifikation lesen und selbst implementieren? Oder sollte ich ein C-Mod...

18.09.2010, 08:10

1

Antwort

Java / C: OpenJDK native tanh () Implementierung falsch?

Ich habe einige native C-Quelltexte der Java Math-Funktionen durchforstet. Vor allem tanh() , da ich neugierig war zu sehen, wie sie das implementiert haben. Jedoch was ich gefunden überraschte mich: %Vor% Wie der Kommentar zeigt, ist di...

24.01.2017, 00:50

1

Antwort

IEE 754 Gesamtauftrag in Standard C ++ 11

Laut IEEE Gleitkomma Wikipage (auf IEEE 754) gibt es eine Gesamtbestellung auf Gleitkommazahlen mit doppelter Genauigkeit (dh auf C ++ 11 Implementierungen mit IEEE-754 Floats, wie gcc 4.8 unter Linux / x86-64). Natürlich liefert opera...

20.11.2013, 13:33