sehr hohe Genauigkeit

cerebrum · Hält's aus hier Beiträge: 10

Hallo!
Gibt es einen Datentyp oder irgendeine Möglichkeit, die es mir möglich macht, eine mathematische Operation auf sehr viele Nachkommastellen genau zu bestimmen? DANKE

foxy · Verfasst: Di 04.02.03 15:43

guden
da wäre einmal
Single = einfache Gleitkommazahl mit 7-8 stelliger genauigkeit
Double = einfache Gleitkommazhel mit 15-16 stelliger Genauigkeit
Extended = mit 19 - 20 stelliger Genauigkeit
sonst wüsste ich keine

_________________
"Only wimps use tape backup: real men just upload their important stuff on ftp, and let the rest of the world mirror it." (Linus Torvalds)
OperatingSystem Laptop (Ubuntu Hardy)

cerebrum · Hält's aus hier Beiträge: 10

Sorry, ich habe vergessen zu sagen dass mir Extended zu ungenau ist :roll:

Ich suche eigentlich einen Datentyp der mir eine Genauigkeit von ca. 50 Nachkommastellen ermöglicht.

Christian S. · Beiträge: 20451 Erhaltene Danke: 2264 Win 10 C# (VS 2019)

Könntest Du Dir evtl. aus zwei INt64 selber basteln. Einer speichert die Ziffern, der andere die Zehnerpotenz. Halt fast so, wie die normale Zahlendarstellung im Rechner auch funktioniert.

_________________
Zwei Worte werden Dir im Leben viele Türen öffnen - "ziehen" und "drücken".

	Mitgliederliste
	Gruppen
	Das Team
	Richtlinien
	Synonyme