Entwickler-Ecke
Delphi Language (Object-Pascal) / CLX - abgeschnittene Dezimalen
Eddyy - Mi 03.05.06 07:55
Titel: abgeschnittene Dezimalen
Hallo Zusammen,
folgendes Problemchen:
Ich habe ein Oracle Datenbankfeld, das mit 14 Nachkommastellen gespeichert ist. Mit dem muss ich rechnen.
Beim Zugriff ( Query) auf das feld erhalte ich alle Nachkommastellen, aber nach der Konvertierung
StrToFloatDef(Menge,0.0) werden nur 9 Nachkommastellen im neuen Feld angezeigt. Hab schon Double, Extended
versucht, aber ohne Erfolg.
Kroko - Mi 03.05.06 08:10
nimm mal FloatToStrF
mkinzler - Mi 03.05.06 08:12
1. Warum liest du Menge als als String?
2. Wieviel Stellen haben die Zahlen vor dem Komma?
Extended ist ein Gleitkommawert der die Zahl intern ohne Komma in der Form 0.<Zahl> speichert und unabhängig davon die Position des Kommas (vereinfacht) die Genauigkeit liegt bei 20 Stellen (insgesamt).
Eddyy - Mi 03.05.06 08:27
mkinzler hat folgendes geschrieben: |
1. Warum liest du Menge als als String?
2. Wieviel Stellen haben die Zahlen vor dem Komma?
Extended ist ein Gleitkommawert der die Zahl intern ohne Komma in der Form 0.<Zahl> speichert und unabhängig davon die Position des Kommas (vereinfacht) die Genauigkeit liegt bei 20 Stellen (insgesamt). |
zu 1. ich lese die mit nem SQL aus und übertrag sie dann in eine Variable ( String )
zu 2. bis 6
mkinzler - Mi 03.05.06 08:30
Lies sie mal direkt aus sql in Extended-Variable ein. 14+6 = 20 sollte ja reichen.
Eddyy - Mi 03.05.06 09:43
hab jetzt einige Tests gemacht , leider kein Erfolg
bei der Zeile
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').Value;
sehe ich beim debuggen im Feld Quantity 14 Nachkommastellen. Nach der Zeile steht im MengeMerker nur 9 Stellen ???
mkinzler - Mi 03.05.06 11:29
Welcher Typ hat das Feld in der Datenbank.
Eddyy - Mi 03.05.06 12:33
mkinzler hat folgendes geschrieben: |
Welcher Typ hat das Fel
Datenbank ist Oracle 8.1.7
Feldtyp ist
Feldname Feldtyp
QUANTITY FLOATd in der Datenbank. |
mkinzler - Mi 03.05.06 12:40
Und fEingang.Mengemerker?
Eddyy - Mi 03.05.06 12:53
mkinzler hat folgendes geschrieben: |
| Und fEingang.Mengemerker? |
MengeMerker,MaxMenge :Extended;
mkinzler - Mi 03.05.06 13:01
Versuch mal:
Delphi-Quelltext
1:
| fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').asFloat; |
Eddyy - Mi 03.05.06 13:25
mkinzler hat folgendes geschrieben: |
Versuch mal:
Delphi-Quelltext 1:
| fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').asFloat; | |
schon probiert, dann sehe ich beim debuggen im qAuskunft... auch gleich nur 9 Nachkommastellen.
Die ganze Geschichte funktioniert mit qAuskunft.. als String, doch bei der Konvertierung schluckt mir
irgendwer 5 Kommastellen weg. Ich muss eben rechnen, da ist das Problem.
Ich hab schon überlegt, mir ne Funktion zu bauen, die das Komma entfernt um mit einem int64 Wert zu rechnen und
im Ergebnis dann wieder ein Komma einzubauen.
Entwickler-Ecke.de based on phpBB
Copyright 2002 - 2011 by Tino Teuber, Copyright 2011 - 2026 by Christian Stelzmann Alle Rechte vorbehalten.
Alle Beiträge stammen von dritten Personen und dürfen geltendes Recht nicht verletzen.
Entwickler-Ecke und die zugehörigen Webseiten distanzieren sich ausdrücklich von Fremdinhalten jeglicher Art!