integer-overflow

Fragen
Der Ganzzahlüberlauf tritt auf, wenn das Ergebnis einer Operation größer als der Maximalwert ist, der durch den zugrunde liegenden Integertyp dargestellt werden kann.
1
Antwort

Numerische Warnung bei Integer-Überlauf

Nachdem ich hauptsächlich Python benutzt habe, wurde ich dadurch verwöhnt, dass ich mir keine Sorgen über Integer-Überlauf machen musste. Jetzt, da ich numpy benutze, muss ich mich wieder darum kümmern. Ich möchte in Fällen von Überlauf numpy zu...
14.08.2015, 16:02
9
Antworten

C ++ Vorlage für sichere Integer-Umwandlungen

Ich versuche, eine C ++ - Template-Funktion zu schreiben, die eine Laufzeitausnahmebedingung für Integer-Überläufe in Umwandlungen zwischen verschiedenen ganzzahligen Typen mit unterschiedlichen Breiten und möglichen Unsigned / Unsigned Mismatch...
15.06.2009, 21:48
10
Antworten

Java multipliziert das Betriebsverhalten

Ich habe eine Methode geschrieben, um eine gegebene Zahl von Tagen in Millisekunden umzuwandeln: %Vor% Ich hatte Schwierigkeiten, herauszufinden, was ich falsch gemacht habe. Jetzt meine Frage: Ist dieser Fehler so offensichtlich? Die...
04.02.2009, 17:02
2
Antworten

Überlauf beim Multiplizieren von Ganzzahlen und Zuweisen von Long

Wenn ich folgendes in das unmittelbare Fenster tippe, bekomme ich Laufzeitfehler '6': Überlauf. %Vor% Warum ist das? Dies schlägt auch fehl: %Vor% Warum ist das? giveTime wird als Long-Typ deklariert, daher sollte 24 × 60 × 60 = 8...
26.06.2013, 08:56
3
Antworten

führt einen Prozess mit argc = 0 aus

Ist es möglich, einen Prozess auszuführen, dessen argc = 0? Ich muss ein Programm ausführen, aber es ist extrem wichtig, dass sein argc gleich 0 ist. Gibt es einen Weg, das zu tun? Ich habe versucht, 2 ^ 32 Argumente in die Befehlszeile zu setze...
13.11.2011, 18:46
1
Antwort

R: einfache Multiplikation verursacht Integer-Überlauf

In einem längeren Skript muss ich die Länge eines Vektors A (2614) mit der Anzahl der Zeilen eines Datenrahmens B (1456000) multiplizieren. Wenn ich das direkt mit length(A) * nrow(B) mache, bekomme ich die Nachricht NAs produced by integer...
15.07.2013, 09:24
1
Antwort

Konvertiere INT_MAX in float und dann zurück in Integer.

In der C-Programmierung finde ich ein seltsames Problem, das meiner Intuition entgegensteht. Wenn ich ein integer als INT_MAX ( 2147483647 , definiert in den limits.h) deklariere und es implizit in einen float -Wert umwandle, funktion...
02.05.2014, 04:32
4
Antworten

Kann ein Conforming-Compiler die Konventionen uint32_t - int16_t - int32_t brechen?

Vor kurzem haben wir seltsames Verhalten in altem Code entdeckt. Dieser Code hat seit Ewigkeiten funktioniert, aber auf einigen Plattformen (XBox 360, PowerPC) mit Compileroptimierungen auf max. Normalerweise würde ich ein undefiniertes Verhalte...
09.02.2012, 23:16
2
Antworten

Integer Überlauf mit Lazy-Sequenzen in Clojure

Ich lerne gerade, faule Sequenzen in Clojure zu verwenden, und ich bin mir nicht sicher, was ich im folgenden Code falsch mache: %Vor% Die Zahlen, die summiert werden, sollten nicht größer als 100 sein, was verursacht den Integer-Überlauf...
25.06.2012, 20:34
1
Antwort

c # uint zu ushort Überlauf wie in nativen C

Ich habe den folgenden Beispielcode: %Vor% Zeile 3 Fehler mit einer Überlauf-Ausnahme. Allerdings möchte ich das gleiche Ergebnis erzielen, wie ich 2 unsigned shorts in C subtrahieren würde und sie über- / Unterlauf. Was ist der beste Weg...
11.01.2016, 21:32