floating-point-precision

Ich habe versucht, eine Funktion zu schreiben, die Quadratwurzeln annähert (ich weiß, dass es das Mathematikmodul gibt ... Ich möchte es selbst machen), und ich wurde von der Fließkomma-Arithmetik durcheinander gebracht. Wie können Sie das verme...

Wann benutzt du fp: strict im Gegensatz zu fp: precise? Ist es besser, erstere zu verwenden, wenn ich "genauere" Berechnungen durchführen und Rundungsfehler vermeiden möchte? Worum geht es bei der Heuristik?     

Ich habe den folgenden sich wiederholenden einfachen Code mehrmals wiederholt, für den ich gerne eine Funktion machen würde: %Vor% Ich möchte diese Funktion aufrufen können: def printStr(precision) Wo er den obigen Code vorfasst und tab...

Ich möchte 1/7 mit besserer Genauigkeit erhalten, aber es wurde abgeschnitten. Wie kann ich eine bessere Genauigkeit erhalten, wenn ich eine rationale Zahl umwandle? %Vor%     

Ich möchte von 0,0001 bis 1 mit 0,0001 Schritten in Ruby zählen. Ich habe diesen Code geschrieben, aber es kommt in eine Endlosschleife. Manchmal führt der Dolmetscher eine falsche Summe aus. %Vor% Hier ist der erste 10 Wert, den es gibt:...