Autor Beitrag
Eddyy
Hält's aus hier
Beiträge: 6



BeitragVerfasst: Mi 03.05.06 07:55 
Hallo Zusammen,
folgendes Problemchen:
Ich habe ein Oracle Datenbankfeld, das mit 14 Nachkommastellen gespeichert ist. Mit dem muss ich rechnen.
Beim Zugriff ( Query) auf das feld erhalte ich alle Nachkommastellen, aber nach der Konvertierung
StrToFloatDef(Menge,0.0) werden nur 9 Nachkommastellen im neuen Feld angezeigt. Hab schon Double, Extended
versucht, aber ohne Erfolg.
Kroko
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic star
Beiträge: 1284

W98 W2k WXP
Turbo D
BeitragVerfasst: Mi 03.05.06 08:10 
nimm mal FloatToStrF

_________________
Die F1-Taste steht nicht unter Naturschutz und darf somit regelmäßig und oft benutzt werden! oder Wer lesen kann, ist klar im Vorteil!
mkinzler
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 4106
Erhaltene Danke: 13


Delphi 2010 Pro; Delphi.Prism 2011 pro
BeitragVerfasst: Mi 03.05.06 08:12 
1. Warum liest du Menge als als String?
2. Wieviel Stellen haben die Zahlen vor dem Komma?

Extended ist ein Gleitkommawert der die Zahl intern ohne Komma in der Form 0.<Zahl> speichert und unabhängig davon die Position des Kommas (vereinfacht) die Genauigkeit liegt bei 20 Stellen (insgesamt).

_________________
Markus Kinzler.
Eddyy Threadstarter
Hält's aus hier
Beiträge: 6



BeitragVerfasst: Mi 03.05.06 08:27 
user profile iconmkinzler hat folgendes geschrieben:
1. Warum liest du Menge als als String?
2. Wieviel Stellen haben die Zahlen vor dem Komma?

Extended ist ein Gleitkommawert der die Zahl intern ohne Komma in der Form 0.<Zahl> speichert und unabhängig davon die Position des Kommas (vereinfacht) die Genauigkeit liegt bei 20 Stellen (insgesamt).


zu 1. ich lese die mit nem SQL aus und übertrag sie dann in eine Variable ( String )

zu 2. bis 6
mkinzler
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 4106
Erhaltene Danke: 13


Delphi 2010 Pro; Delphi.Prism 2011 pro
BeitragVerfasst: Mi 03.05.06 08:30 
Lies sie mal direkt aus sql in Extended-Variable ein. 14+6 = 20 sollte ja reichen.

_________________
Markus Kinzler.
Eddyy Threadstarter
Hält's aus hier
Beiträge: 6



BeitragVerfasst: Mi 03.05.06 09:43 
hab jetzt einige Tests gemacht , leider kein Erfolg
bei der Zeile
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').Value;
sehe ich beim debuggen im Feld Quantity 14 Nachkommastellen. Nach der Zeile steht im MengeMerker nur 9 Stellen ???
mkinzler
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 4106
Erhaltene Danke: 13


Delphi 2010 Pro; Delphi.Prism 2011 pro
BeitragVerfasst: Mi 03.05.06 11:29 
Welcher Typ hat das Feld in der Datenbank.

_________________
Markus Kinzler.
Eddyy Threadstarter
Hält's aus hier
Beiträge: 6



BeitragVerfasst: Mi 03.05.06 12:33 
user profile iconmkinzler hat folgendes geschrieben:
Welcher Typ hat das Fel

Datenbank ist Oracle 8.1.7

Feldtyp ist

Feldname Feldtyp
QUANTITY FLOATd in der Datenbank.
mkinzler
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 4106
Erhaltene Danke: 13


Delphi 2010 Pro; Delphi.Prism 2011 pro
BeitragVerfasst: Mi 03.05.06 12:40 
Und fEingang.Mengemerker?

_________________
Markus Kinzler.
Eddyy Threadstarter
Hält's aus hier
Beiträge: 6



BeitragVerfasst: Mi 03.05.06 12:53 
user profile iconmkinzler hat folgendes geschrieben:
Und fEingang.Mengemerker?


MengeMerker,MaxMenge :Extended;
mkinzler
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 4106
Erhaltene Danke: 13


Delphi 2010 Pro; Delphi.Prism 2011 pro
BeitragVerfasst: Mi 03.05.06 13:01 
Versuch mal:
ausblenden Delphi-Quelltext
1:
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').asFloat;					

_________________
Markus Kinzler.
Eddyy Threadstarter
Hält's aus hier
Beiträge: 6



BeitragVerfasst: Mi 03.05.06 13:25 
user profile iconmkinzler hat folgendes geschrieben:
Versuch mal:
ausblenden Delphi-Quelltext
1:
fEingang.Mengemerker := qAuskunft.FieldByName('QUANTITY').asFloat;					


schon probiert, dann sehe ich beim debuggen im qAuskunft... auch gleich nur 9 Nachkommastellen.

Die ganze Geschichte funktioniert mit qAuskunft.. als String, doch bei der Konvertierung schluckt mir
irgendwer 5 Kommastellen weg. Ich muss eben rechnen, da ist das Problem.
Ich hab schon überlegt, mir ne Funktion zu bauen, die das Komma entfernt um mit einem int64 Wert zu rechnen und
im Ergebnis dann wieder ein Komma einzubauen.