Autor Beitrag
ralf9
Hält's aus hier
Beiträge: 10



BeitragVerfasst: Sa 08.09.07 16:30 
Hallo,
ich habe Dezimalzahlen(zb. 25.58, 24.30, 34.88) ich will nur die nachkomma zahl haben.

Ich spiele das mal durch:Normalezahl->Frac->*100->trunc
Zahl:98.30
-> franc() Ausgabe: 0,2999999999999999999999999999999999999
warum gibt er 0,299999999999 statt 0.3 an?
bei zahlen wie 55.88 oder 54.85 geht das. Bei den Zahlen 83.96 kommt 95 raus bei 7.64 kommt 63 raus. Hier der code:

ausblenden Delphi-Quelltext
1:
2:
3:
4:
5:
6:
7:
8:
9:
10:
11:
12:
repeat
        Readln(datei, Puffer);
        flex[lauf]:=(puffer);//Zahl wird in Array geschrieben
            
        flex[lauf]:=frac(flex[lauf]);//mit frac wird die zahl "abgeschniten"
              
         flex[lauf]:=(flex[lauf])*100;//das da von z.B 0.85 ->85 steht
                
         flex[lauf]:=(trunc(flex[lauf]));//nachkommastellen werden abgescnitten.
         
          lauf:= lauf+1;
until EOF(datei);



weiß jemand warum?


mfg ralf
BenBE
ontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic starofftopic star
Beiträge: 8721
Erhaltene Danke: 191

Win95, Win98SE, Win2K, WinXP
D1S, D3S, D4S, D5E, D6E, D7E, D9PE, D10E, D12P, DXEP, L0.9\FPC2.0
BeitragVerfasst: Sa 08.09.07 17:10 
Liegt an der Art und Weise, wie das interne Zahlenformat (IEEE 754) für die Darstllung von Gleitkommazahlen funktioniert.

_________________
Anyone who is capable of being elected president should on no account be allowed to do the job.
Ich code EdgeMonkey - In dubio pro Setting.
ralf9 Threadstarter
Hält's aus hier
Beiträge: 10



BeitragVerfasst: So 09.09.07 10:26 
Und wie kann ich das Problem umgehen?
Oder wie kann ich die Zahlen umwandeln?
BenBE
ontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic starofftopic star
Beiträge: 8721
Erhaltene Danke: 191

Win95, Win98SE, Win2K, WinXP
D1S, D3S, D4S, D5E, D6E, D7E, D9PE, D10E, D12P, DXEP, L0.9\FPC2.0
BeitragVerfasst: So 09.09.07 23:20 
Mit Fest-Kommazahlen (z.B. Currency) rechnen. Da hast Du fest 4 Nachkommastellen ... Ansonsten direkt mit Integers emulieren. Ansonsten 2 Stellen mehr zum Runden nutzen um diese Genauigkeit nachträglich auszugleichen:
*10000 rechnen, auf Integer Runden (nicht Trunc) und dann durch 100.
Dann solltest Du das korrekte Ergebnis erhalten.

_________________
Anyone who is capable of being elected president should on no account be allowed to do the job.
Ich code EdgeMonkey - In dubio pro Setting.