fixed-point

Ich verwende die API mpmath, um die folgende Summe zu berechnen Betrachten wir die Serie u0, u1, u2, definiert durch: %Vor% Die Serie konvergiert auf 2, aber mit dem Rundungsproblem scheint sie auf 2000 zu konvergieren. %Vor% Mein Cod...

Ich versuche, einen Zeitstempel (nur Bruchteil von Sekunden) von Nanosekunden (Einheiten von 10 ^ -9 Sekunden) auf die untere Hälfte eines NTP-Zeitstempels (Einheiten von 2 ^ -32 Sekunden) zu skalieren. Effektiv bedeutet dies Multiplizieren mit...

Dies ist (AFAIK) eine spezielle Frage innerhalb diese allgemeine Thema . Hier ist die Situation: Ich habe ein Embedded-System (eine Videospielkonsole), das auf einem 32-Bit-RISC-Mikrocontroller basiert (eine Variante des V810 von NEC). Ic...