Autor |
Beitrag |
zeg
Hält's aus hier
Beiträge: 4
|
Verfasst: Do 25.01.18 15:31
Hallo
Habe einen String Wert '0,00005'. Den wandle ich in einen Double Wert um und bekomme 5e-05 als Ergebnis.
Wenn ich z.B. den Wert '0,00112' mit gleichen Code umwandle erhalte ich die erwarteten 0,00112 im Double Wert.
Warum? Fließkommarechenfehler?
Habe zwei Screenshots angehängt. Verwende Delphi 10.1.
Danke für Rückantwort.
Einloggen, um Attachments anzusehen!
|
|
Frühlingsrolle
Ehemaliges Mitglied
Erhaltene Danke: 1
|
Verfasst: Do 25.01.18 16:35
- Nachträglich durch die Entwickler-Ecke gelöscht -
|
|
Delphi-Laie
Beiträge: 1600
Erhaltene Danke: 232
Delphi 2 - RAD-Studio 10.1 Berlin
|
Verfasst: Do 25.01.18 23:23
_________________ Ordnung ist das halbe Leben - und sie zu schaffen die andere Hälfte.
|
|
Symbroson
Beiträge: 382
Erhaltene Danke: 67
Raspbian, Ubuntu, Win10
C, C++, Python, JavaScript, Lazarus, Delphi7, Casio Basic
|
Verfasst: Fr 26.01.18 07:55
Zitat: | Wie kann man einen Fehler vermuten, wenn sich etwas so, wie erwartet, verhält? |
Vielleicht war er einfach noch nicht mit der Exponentialschreibweise vertraut gewesen?
_________________ most good programmers do programming not because they expect to get paid or get adulation by the public, but because it's fun to program. (Linus Torvalds)
|
|
zeg
Hält's aus hier
Beiträge: 4
|
Verfasst: Fr 26.01.18 08:34
Hallo
Vielen Dank für die Rückantworten.
Meine Frage ist: Warum wird eine Zahl in Exponentialschreibweise umgewandelt und die andere nicht wenn ich mit beiden gleiches tue?
Das ist was mich etwas erstaunt. Ich hätte zwei Exponentialzahlen erwartet oder zwei Fließkommazahlen.
schöne Grüße
|
|
Frühlingsrolle
Ehemaliges Mitglied
Erhaltene Danke: 1
|
Verfasst: Fr 26.01.18 09:11
- Nachträglich durch die Entwickler-Ecke gelöscht -
Für diesen Beitrag haben gedankt: zeg
|
|
zeg
Hält's aus hier
Beiträge: 4
|
Verfasst: Fr 26.01.18 12:17
Hallo
Vielen Dank Frühlingsrolle. Genau diese Information wollte ich haben. Wusste aber nicht woher ich sie bekommen kann.
Besten Dank und schönes Wochenende aus dem trüben Wien.
|
|
Symbroson
Beiträge: 382
Erhaltene Danke: 67
Raspbian, Ubuntu, Win10
C, C++, Python, JavaScript, Lazarus, Delphi7, Casio Basic
|
Verfasst: Fr 26.01.18 22:17
Zitat: | Wusste aber nicht woher ich sie bekommen kann |
einfach ausprobieren, ab wann er die e-schreibweise verwendet
wenn man genug Werte hat fällt einem früher oder später ein Muster auf - in diesem Falle ist es sogar sehr einfach
_________________ most good programmers do programming not because they expect to get paid or get adulation by the public, but because it's fun to program. (Linus Torvalds)
|
|
mandras
Beiträge: 430
Erhaltene Danke: 107
Win 10
Delphi 6 Prof, Delphi 10.4 Prof
|
Verfasst: Sa 27.01.18 01:56
Hier ein Hinweis auf das Warum
stackoverflow.com/qu...he-display-different
und auch darauf daß die Funktionen sich selber nicht immer treu sind
|
|