integer-overflow

Fragen
Der Ganzzahlüberlauf tritt auf, wenn das Ergebnis einer Operation größer als der Maximalwert ist, der durch den zugrunde liegenden Integertyp dargestellt werden kann.
3
Antworten

Gesättigte Addition von zwei signierten Java-Long-Werten

Wie kann man zwei long -Werte in Java hinzufügen, so dass, wenn das Ergebnis überläuft, es in den Bereich Long.MIN_VALUE .. Long.MAX_VALUE ? geklammert wird Zum Hinzufügen von Ints kann die Arithmetik in long precision ausgeführt w...
13.04.2010, 19:01
2
Antworten

Paniert bei Versuch, mit Überlauf zu subtrahieren, wenn rückwärts durch eine Liste geblättert wird

Ich schreibe eine Zyklusmethode für eine Liste, die einen Index vorwärts oder rückwärts verschiebt. Der folgende Code wird verwendet, um rückwärts zu gehen: %Vor% In diesem Fall ist i vom Typ usize , was bedeutet, dass es unsigniert ist...
23.12.2016, 12:24
1
Antwort

Unterscheiden sich numerische Programmiersprachen zwischen einer "größten endlichen Zahl" und "Unendlichkeit"?

Frage Motivation: In normalen numerischen Sprachen, die mir bekannt sind (z. B. Matlab, Python numpy, usw.), wenn Sie zum Beispiel das Exponential einer bescheidenen großen Zahl verwenden, ist die Ausgabe unendlich als Ergebnis des numerisc...
25.04.2015, 00:11
6
Antworten

Absoluter Wert von INT_MIN [doppelt]

Wie kann ich den absoluten Wert von INT_MIN ohne Überlauf extrahieren? Siehe diesen Code für das Problem: %Vor% Spuckt das folgende aus %Vor% Ich brauche das für eine Überprüfung, ob ein int -Wert größer als Null ist. Da es si...
08.03.2014, 11:38
1
Antwort

Überschriebenen Int-Überlauf in Go erkennen

Ich baue eine Lisp, und ich möchte 32-Bit-Ganzzahlen automatisch zu 64-Bit-Ganzzahlen wechseln, wenn eine Berechnung würde sonst dazu führen, dass sie überlaufen. Und ebenso, für 64-Bit-Überläufe, wechseln Sie zu beliebig großen Ganzzahlen. D...
10.11.2015, 23:37
2
Antworten

Ganzzahlüberlauf nicht konsistent

Verzeihen Sie, wenn diese Frage schon einmal gestellt wurde. Ich suchte nach Antworten auf ähnliche Fragen, aber ich bin immer noch verwirrt über mein Problem. Also werde ich die Frage trotzdem erschießen. Ich verwende eine C-Bibliothek namens...
20.08.2012, 03:55
6
Antworten

PHP-Integer-Überlauf erzwingen

Wir haben eine Integer-Arithmetik, die aus historischen Gründen bei PHP genauso funktioniert wie in einigen statisch typisierten Sprachen. Seit dem letzten Upgrade von PHP hat sich das Verhalten für überlaufende Ganzzahlen geändert. Grundsätzlic...
19.11.2008, 02:26
2
Antworten

Warum verhält sich mein .net Int64 wie Int32?

Ich beobachte ein seltsames Verhalten in einem .net-Programm: %Vor% Warum verhält sich mein Int64 wie Int32, obwohl Int64.MaxValue zu bestätigen scheint, dass er 64 Bits verwendet? Wenn es relevant ist, verwende ich ein 32-Bit-Betriebssys...
06.05.2009, 13:28
1
Antwort

Metafunktion, um x ^ n zu berechnen und den ganzzahligen Grenzwert ohne Überlauf zurückzugeben, wenn dies nicht möglich ist?

Betrachten Sie den folgenden Code: %Vor% Anstelle von /* something */ möchte ich std::numeric_limits<std::intmax_t>::min() oder std::numeric_limits<std::intmax_t>::max() zurückgeben, wenn Base^Exponent nicht durch st...
09.11.2013, 13:46