Entwickler-Ecke
Delphi Language (Object-Pascal) / CLX - sehr hohe Genauigkeit
cerebrum - Di 04.02.03 15:40
Titel: sehr hohe Genauigkeit
Hallo!
Gibt es einen Datentyp oder irgendeine Möglichkeit, die es mir möglich macht, eine mathematische Operation auf sehr viele Nachkommastellen genau zu bestimmen? DANKE
foxy - Di 04.02.03 15:43
guden
da wäre einmal
Single = einfache Gleitkommazahl mit 7-8 stelliger genauigkeit
Double = einfache Gleitkommazhel mit 15-16 stelliger Genauigkeit
Extended = mit 19 - 20 stelliger Genauigkeit
sonst wüsste ich keine
cerebrum - Di 04.02.03 16:41
Sorry, ich habe vergessen zu sagen dass mir Extended zu ungenau ist :roll: Ich suche eigentlich einen Datentyp der mir eine Genauigkeit von ca. 50 Nachkommastellen ermöglicht.
Christian S. - Di 04.02.03 17:23
Könntest Du Dir evtl. aus zwei INt64 selber basteln. Einer speichert die Ziffern, der andere die Zehnerpotenz. Halt fast so, wie die normale Zahlendarstellung im Rechner auch funktioniert.
Entwickler-Ecke.de based on phpBB
Copyright 2002 - 2011 by Tino Teuber, Copyright 2011 - 2025 by Christian Stelzmann Alle Rechte vorbehalten.
Alle Beiträge stammen von dritten Personen und dürfen geltendes Recht nicht verletzen.
Entwickler-Ecke und die zugehörigen Webseiten distanzieren sich ausdrücklich von Fremdinhalten jeglicher Art!