precision

Fragen
Für Fragen zur numerischen Genauigkeit in der Programmierung.
4
Antworten

Ist Hardcode float präzise, ​​wenn es in IEEE 754 durch Binärformat dargestellt werden kann?

beispielsweise sind 0, 0,5, 0,15625, 1, 2, 3 ... Werte, die von IEEE 754 konvertiert wurden. Ist ihre Hardcode-Version genau? zum Beispiel: ist %Vor% immer wahr zurück? anderes Beispiel: %Vor% ist a * b immer gleich 0,125 und a * b...
11.11.2015, 07:44
4
Antworten

Scikit: Berechnung der Präzision und des Recalls mit der Funktion cross_val_score

Ich benutze Scikit, um eine logistische Regression auf Spam / Ham-Daten durchzuführen. X_train ist meine Trainingsdaten und y_train die Etiketten ('spam' oder 'ham') und ich habe meine LogisticRegression so trainiert: %Vor% Wenn ich die Gena...
08.12.2014, 11:34
1
Antwort

C ++ float vs. double cout setprecision Kuriositäten (Neuling)

Kann jemand erklären, warum diese zwei Variablen mit dem gleichen Wert unterschiedliche Werte ausgeben können, wenn ich setprecision () verwende? %Vor% Die Ausgabe für a ist 98,76, während die Ausgabe für b 98,77 ist.     
04.08.2017, 04:08
2
Antworten

Verständnis des Gurus der Woche # 67: Doppelt oder Nichts

Vor kurzem las ich den Beitrag:
16.05.2013, 14:51
3
Antworten

erzeugt Pi bis n-te Stelle Java

Ich wollte wissen, wie ich Pi bis zur n-ten Ziffer erzeugen kann. Ich habe ein paar grundlegende Ideen. Verwende Math.PI und erhöhe die Genauigkeit (wenn das möglich ist) Benutze Eulers Formel, um Pi zu erzeugen, aber auch hier müsste i...
03.12.2011, 19:21
2
Antworten

Warum ist 'Infinity' in Erlangs Schwimmern nicht erlaubt?

Erlang (und nach Erweiterung Elixir) unterstützt Fließkommazahlen. Einige mögliche Floats: 1.2345 1.0e10 1.0e-42 Erlang unterstützt NaN ( nan. in Erlang) (ich muss jedoch noch eine Methode finden, die nan selbst ausg...
28.06.2016, 15:37
3
Antworten

Welche numerische Typumwandlung ist besser für einfache mathematische Operationen?

Ich möchte wissen, welche Konvertierung für eine einfache mathematische Operation besser ist (hinsichtlich Leistung / Geschwindigkeit und Präzision / möglichst wenig Verlust) und was unterscheidet sie? Beispiel: %Vor% Eigentlich geht es b...
09.05.2016, 07:46
3
Antworten

Sind Gleitkommaoperationen in Delphi deterministisch?

Sind Gleitkommaoperationen in Delphi deterministisch? I.E. bekomme ich das gleiche Ergebnis von einer identischen mathematischen Gleitkommaoperation auf derselben ausführbaren Datei, die mit dem Delphi Win32 Compiler kompiliert wurde, wie mit...
22.06.2014, 14:08
1
Antwort

QString: Zahl mit maximal 2 Dezimalstellen ohne abschließende Null

Ich habe eine Abteilung wie folgt: %Vor% Manchmal gibt es Antworten wie 96.0000000001, manchmal funktioniert die Division wie erwartet. Ich möchte meine Anzahl auf maximal zwei Dezimalstellen und ohne abschließende Nullen begrenzen. We...
22.07.2014, 08:49
1
Antwort

CUDA C mit Double Flux mit einfacher Genauigkeit

Das Problem Während eines Projekts in CUDA C stieß ich auf unerwartetes Verhalten bei Gleitkommaoperationen mit einfacher und doppelter Genauigkeit. Im Projekt fülle ich zuerst ein Array mit der Nummer in einem Kernel und in einem anderen Ker...
16.01.2017, 15:53