Fließkommazahlen sind Näherungen reeller Zahlen, die größere Bereiche als Ganzzahlen darstellen können, aber die gleiche Menge an Speicher verwenden, auf Kosten geringerer Genauigkeit. Wenn es sich bei Ihrer Frage um kleine arithmetische Fehler (z. B. warum 0,2 + 0,1 ist gleich 0,300000001?) Oder um Dezimalwandlungsfehler handelt, lesen Sie bitte die unten verlinkte Seite "info" vor dem Posten.
Unten ist die Hauptfunktion, die ich in C schrieb (für PIC18F8722 Mikroprozessor), zu versuchen, 2 Multiplexing-7-Segment-Anzeigen mit einer bestimmten Frequenz zu betreiben, die durch die vorzeichenlose int-Funktion get_ADC_value() eingestel...
24.10.2016, 06:25
Ich verwende MSVC ++, und ich möchte den speziellen Wert INFINITY in meinem Code verwenden.
Welches Bytemuster oder welche Konstante wird in MSVC ++ für unendlich verwendet?
Warum scheint 1.0f / 0.0f den Wert 0 zu haben?
%Vor%
29.03.2010, 13:51
Ich würde gerne einen guten Weg kennen, um zu überprüfen, ob eine Zahl x ein Rational ist (zwei ganze Zahlen n, m existieren, so dass x = n / m) in Python.
In Mathematik geschieht dies durch die Funktion
%Vor%
Ich nehme an, diese Frage ha...
24.11.2010, 12:27
Ich bin auf diese Werte in meinem ColdFusion-Code gestoßen, aber der Google-Rechner scheint den gleichen "Bug" zu haben, bei dem der Unterschied nicht Null ist.
416582.2850 - 411476.8100 - 5105.475 = -2,36468622461E-011
Ссылка
JavaCas...
04.01.2010, 22:44
Wenn ich versuche, 2 gleiche float -Werte zu vergleichen, gibt es im folgenden Code keine "gleichen Werte" aus:
%Vor%
Vielen Dank im Voraus.
24.03.2012, 09:41
Wie kann ich in Objective C überprüfen, ob der Wert eine Ganzzahl wie 2.000, 3.000, 8.000 ist, die als Float gespeichert ist, und nicht wie 2.456, 3.578
16.11.2013, 13:06
Sagen wir, ich habe das:
%Vor%
binär, wird dieser Gleitkomma als dargestellt:
0 01111111 10000000000000000000000
Ich habe die Binärdatei zerlegt, um die Blöcke 'signed', 'exponential' und 'fraction' darzustellen.
Was ich nicht verst...
25.04.2010, 01:49
Ich habe den folgenden sich wiederholenden einfachen Code mehrmals wiederholt, für den ich gerne eine Funktion machen würde:
%Vor%
Ich möchte diese Funktion aufrufen können: def printStr(precision)
Wo er den obigen Code vorfasst und tab...
06.04.2011, 22:28
Ich habe Binärzeichenfolgen in Form von entweder:
%Vor%
oder
%Vor%
Ich weiß vorher nicht, ob es ein Float oder eine ganze Zahl sein wird.
Ich habe versucht, eine Überprüfung durchzuführen, um zu sehen, ob es eine Ganzzahl ist. Funktio...
01.12.2010, 20:22
Warum gibt tan 45 (0.7853981633974483 im Bogenmaß) mir 0.9999 ? Was ist mit dem folgenden Code falsch?
%Vor%
Ich glaube nicht, dass hier ein Tippfehler ist.
Also, was ist die Lösung hier?
08.12.2012, 07:35