Entwickler-Ecke

Delphi Language (Object-Pascal) / CLX - abgeschnittene Dezimalen


Eddyy - Mi 03.05.06 07:55
Titel: abgeschnittene Dezimalen
Hallo Zusammen,
folgendes Problemchen:
Ich habe ein Oracle Datenbankfeld, das mit 14 Nachkommastellen gespeichert ist. Mit dem muss ich rechnen.
Beim Zugriff ( Query) auf das feld erhalte ich alle Nachkommastellen, aber nach der Konvertierung
StrToFloatDef(Menge,0.0) werden nur 9 Nachkommastellen im neuen Feld angezeigt. Hab schon Double, Extended
versucht, aber ohne Erfolg.


Kroko - Mi 03.05.06 08:10

nimm mal FloatToStrF


mkinzler - Mi 03.05.06 08:12

1. Warum liest du Menge als als String?
2. Wieviel Stellen haben die Zahlen vor dem Komma?

Extended ist ein Gleitkommawert der die Zahl intern ohne Komma in der Form 0.<Zahl> speichert und unabhängig davon die Position des Kommas (vereinfacht) die Genauigkeit liegt bei 20 Stellen (insgesamt).


Eddyy - Mi 03.05.06 08:27

user profile iconmkinzler hat folgendes geschrieben:
1. Warum liest du Menge als als String?
2. Wieviel Stellen haben die Zahlen vor dem Komma?

Extended ist ein Gleitkommawert der die Zahl intern ohne Komma in der Form 0.<Zahl> speichert und unabhängig davon die Position des Kommas (vereinfacht) die Genauigkeit liegt bei 20 Stellen (insgesamt).


zu 1. ich lese die mit nem SQL aus und übertrag sie dann in eine Variable ( String )

zu 2. bis 6


mkinzler - Mi 03.05.06 08:30

Lies sie mal direkt aus sql in Extended-Variable ein. 14+6 = 20 sollte ja reichen.


Eddyy - Mi 03.05.06 09:43

hab jetzt einige Tests gemacht , leider kein Erfolg
bei der Zeile
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').Value;
sehe ich beim debuggen im Feld Quantity 14 Nachkommastellen. Nach der Zeile steht im MengeMerker nur 9 Stellen ???


mkinzler - Mi 03.05.06 11:29

Welcher Typ hat das Feld in der Datenbank.


Eddyy - Mi 03.05.06 12:33

user profile iconmkinzler hat folgendes geschrieben:
Welcher Typ hat das Fel

Datenbank ist Oracle 8.1.7

Feldtyp ist

Feldname Feldtyp
QUANTITY FLOATd in der Datenbank.


mkinzler - Mi 03.05.06 12:40

Und fEingang.Mengemerker?


Eddyy - Mi 03.05.06 12:53

user profile iconmkinzler hat folgendes geschrieben:
Und fEingang.Mengemerker?


MengeMerker,MaxMenge :Extended;


mkinzler - Mi 03.05.06 13:01

Versuch mal:

Delphi-Quelltext
1:
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').asFloat;                    


Eddyy - Mi 03.05.06 13:25

user profile iconmkinzler hat folgendes geschrieben:
Versuch mal:

Delphi-Quelltext
1:
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').asFloat;                    


schon probiert, dann sehe ich beim debuggen im qAuskunft... auch gleich nur 9 Nachkommastellen.

Die ganze Geschichte funktioniert mit qAuskunft.. als String, doch bei der Konvertierung schluckt mir
irgendwer 5 Kommastellen weg. Ich muss eben rechnen, da ist das Problem.
Ich hab schon überlegt, mir ne Funktion zu bauen, die das Komma entfernt um mit einem int64 Wert zu rechnen und
im Ergebnis dann wieder ein Komma einzubauen.