Autor Beitrag
openhands
Hält's aus hier
Beiträge: 15

Win 2000
D7 Enterprise
BeitragVerfasst: Mo 29.12.03 02:07 
Ich habe gerade einen Taschenrechner programmiert wo man auch kommazahlen eingeben kann. die einzelnen Zeichen der Zahl werden in Form von einem String zusammengesetz. Danach wird das ganze in eine single-zahl umgewandelt , verarbeitet und als String wieder ausgegeben.

Bei der Umwandlung einer Kommazahl von String nach Single und wieder zurück von Single nach String ändert sich nun der Wert von zB 3,1 auf 3,09999990463257. Das ist extrem schlecht ... habt ihr da vielleicht nen Tipp wie ich das am gescheitesten umwandel?
tomtom62
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic star
Beiträge: 278

WIN 2000, XP prof
D5 prof.
BeitragVerfasst: Mo 29.12.03 08:06 
Hi,

Du musst in jedem Fall den Typ mit der grössten Genauigkeit wählen, also eventuell Extended.

Die angesprochene Änderung kommt von der Umwandlung. Du solltest "Format" nehmen und nicht strtofloat oder so etwas..

Sieh mal in der Hilfe nach "Format"...
Lupin003
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starontopic star
Beiträge: 18



BeitragVerfasst: Mo 29.12.03 14:18 
Ich habe irgendwo mal (VB)-code gesehen womit es möglich war mit Strings zu rechnen... das ist natürlich nicht das schnellste, aber wenn du es gut programmierst ist es auf jeden fall genau :)

Diese Formatierungsfehler kannst du nicht 100%ig vermeiden, das kommt daher das die Floating point zahlen (IEEE format) irgendwie aus irrationalen zahlen zusammen gesetzt werden (so wie zahl pi, unendlich viele stellen...). Ich hab mich mit dem Problem auch mal ne weile beschäftigt und Format() scheint die beste lösung zu sein...

_________________
n00b alarm ;P