| Autor |
Beitrag |
MrFox
      
Beiträge: 208
WIN 2000 Professional, Ubuntu 5.10
D3 Prof, D7 Pers, D2005 Pers, Java (Eclipse)
|
Verfasst: Do 05.05.05 12:36
Hallo,
Ich habe momentan (mal wieder) ein kleines Problem mit großen Zahlen.
Wenn ich eine Extended-Variable, die eine Zahl mit mehr als 20 Stellen enthält, mittels FloatToStr in einen String umwandle,
wird automatisch das wissenschafliche Format verwendet (z.B. 1,34927987478384908E23).
Genau das will ich nicht!
Gibt's da vielleicht noch irgendeine andere Funktion, bei dieser Effekt verhindert werden kann 
|
|
iX0r
      
Beiträge: 34
Ubuntu
D6, Lazarus
|
Verfasst: Do 05.05.05 13:06
floattostrf heißt der befehl.
damit kannst du festlegen, wie dein extenden genau formatiert werden soll (also mit wievielen stellen).
mfg
|
|
MrFox 
      
Beiträge: 208
WIN 2000 Professional, Ubuntu 5.10
D3 Prof, D7 Pers, D2005 Pers, Java (Eclipse)
|
Verfasst: Do 05.05.05 13:18
Des hab ich auch schon mal probiert.
Geht auch nicht. Egal was ich als Parameter übergebe, bei 18 Stellen oder höher wird wieder das wissenschaftliche Format ausgegeben.
|
|
BenBE
      
Beiträge: 8721
Erhaltene Danke: 191
Win95, Win98SE, Win2K, WinXP
D1S, D3S, D4S, D5E, D6E, D7E, D9PE, D10E, D12P, DXEP, L0.9\FPC2.0
|
Verfasst: Do 05.05.05 13:29
Dann schreib Dir doch die Konvertier-Routine selber ...
Mit Trunc(Zahl/Power(10,Trunc(Log(Zahl)))) erhälst Du die erste Ziffer ... Wie das mit allen weiteren geht, sollte offensichtlich sein.
_________________ Anyone who is capable of being elected president should on no account be allowed to do the job.
Ich code EdgeMonkey - In dubio pro Setting.
|
|
MrFox 
      
Beiträge: 208
WIN 2000 Professional, Ubuntu 5.10
D3 Prof, D7 Pers, D2005 Pers, Java (Eclipse)
|
Verfasst: Do 05.05.05 14:01
Is mir aber leider nicht klar.
Die Funktion Log gibts nicht, hab Log10 genommen.
|
|
BenBE
      
Beiträge: 8721
Erhaltene Danke: 191
Win95, Win98SE, Win2K, WinXP
D1S, D3S, D4S, D5E, D6E, D7E, D9PE, D10E, D12P, DXEP, L0.9\FPC2.0
|
Verfasst: Do 05.05.05 14:22
BenBE hat folgendes geschrieben: | | Mit Trunc(Zahl/Power(10,Trunc(Log(Zahl)))) erhälst Du die erste Ziffer ... Wie das mit allen weiteren geht, sollte offensichtlich sein. |
Trunc(Zahl/Power(10,Trunc(Log10(Zahl)))) funktioniert relativ einfach:
Trunc(Log10(Zahl)) fragt ab, wieviele Zehner-Potenzen die Zahl umfasst.
Für 25 wäre dies Log10(25) = 1.39794 Trunc(1.39794) = 1
Power(10, ) ermittelt dazu dann die großte 10er-Potenz, die kleiner oder gleich der gegebenen Zahl ist: Power(10, 1) = 10
Und im Letzten schritt wird mit Trunc(25 / ) = 2 die Ziffer ermittelt.
That's it ...
Um dann die nächste Ziffer zu erhalten, subtrahierst Du einfach 25-2*10 = 5 und wiederholst das, bis die Zahl 0 ist.
_________________ Anyone who is capable of being elected president should on no account be allowed to do the job.
Ich code EdgeMonkey - In dubio pro Setting.
|
|
MrFox 
      
Beiträge: 208
WIN 2000 Professional, Ubuntu 5.10
D3 Prof, D7 Pers, D2005 Pers, Java (Eclipse)
|
Verfasst: Do 05.05.05 19:05
|
|
BenBE
      
Beiträge: 8721
Erhaltene Danke: 191
Win95, Win98SE, Win2K, WinXP
D1S, D3S, D4S, D5E, D6E, D7E, D9PE, D10E, D12P, DXEP, L0.9\FPC2.0
|
Verfasst: Do 05.05.05 19:39
_________________ Anyone who is capable of being elected president should on no account be allowed to do the job.
Ich code EdgeMonkey - In dubio pro Setting.
|
|
MrFox 
      
Beiträge: 208
WIN 2000 Professional, Ubuntu 5.10
D3 Prof, D7 Pers, D2005 Pers, Java (Eclipse)
|
Verfasst: Do 05.05.05 20:08
Wunderbar, endlich funzts.  Vielen Dank.
|
|
|