| Autor |
Beitrag |
flexIV
      
Beiträge: 19
|
Verfasst: So 29.08.04 16:41
Hi,
mit Delphi5 Standard hab ich folgendes Problem:
ich habe eine Real-Variable RV deklariert. Nach der Zuweisung RV := 0.5; ist der Ausdruck (RV = 0.5) True; nach der Zuweisung RV := 0.2 hingegen is (RV = 0.2) False, genau wie mit 0.1 oder kleineren Werten.
Das darf doch nicht WAHR sein!!??
|
|
UC-Chewie
      
Beiträge: 531
WinXP
D5 Ent
|
Verfasst: So 29.08.04 17:08
Doch, das kann wahr sein. Fließkommazahlen werden nur genähert dargestellt, d.h. es gibt immer nur bestimmte Werte, die vorkommen können. Scheinbar kann 0.2 genau dargestellt werden, 0.5 aber nicht. Deshalb wird ein Wert angenommen, der nahe an 0.5 ist. Scheinbar wird bei der Zuweisung und beim Vergleich eine andere Konvertierungsmethode benutzt (oder es liegt an der impliziten Umwandlung von Real nach Extended), sodass der Bit-Vergleich negativ ausfällt.
Normalerweise fragt man bei Fließkommazahlen ab, ob die Differenz klein genug ist, z.B.
Delphi-Quelltext 1: 2: 3: 4:
| var r: Real; begin if Abs(r - 0.5) < 0.0001 then |
_________________ Egal wie dumm man selbst ist, es gibt immer andere, die noch dümmer sind
|
|
obbschtkuche
Gast
Erhaltene Danke: 1
|
Verfasst: So 29.08.04 19:15
Das hier dürfte genauer sein:
Delphi-Quelltext 1: 2: 3: 4: 5: 6: 7:
| function Compare(A, B: single ): boolean; begin result := A = B; end;
if Compare(test, 0.2) then ...; |
Da jedes Mal die selbe Methode genutzt wird um den Wert anzunähern würde das auch wie erwartet True ergeben.
Wenn deine Variablen den Typ Extended haben musst du das nicht so machen, weil Delphi Fließkommakonstanten automatisch als Extended ablegt (kann man zwar auch ändern, aber frag mich nicht wie)
|
|
Luckie
Ehemaliges Mitglied
Erhaltene Danke: 1
|
Verfasst: Mo 30.08.04 00:10
|
|
.Chef
      
Beiträge: 1112
|
Verfasst: Mo 30.08.04 09:04
Der Fehler rührt daher, dass Real und Extended (siehe Beitrag vom obbschtkuche) unterschiedliche Bitbreiten für die Mantisse und den Exponenten haben, und so unterschiedlich genaue Werte beinhalten. Erklärung dazu gibts genug im Netz, z.B. hier.
Gruß,
Jörg
_________________ Die Antworten auf die 5 häufigsten Fragen:
1. Copy(), Pos(), Length() --- 2. DoubleBuffered:=True; --- 3. Application.ProcessMessages bzw. TThread --- 4. ShellExecute() --- 5. Keine Vergleiche von Real-Typen mit "="!
|
|
flexIV 
      
Beiträge: 19
|
Verfasst: Di 31.08.04 03:31
Sorry, ich hab halt nur Mathematik studiert. Da ist eben 0.2 = 0.2
 Thx anyway
|
|
Luckie
Ehemaliges Mitglied
Erhaltene Danke: 1
|
Verfasst: Di 31.08.04 13:22
| flexIV hat folgendes geschrieben: | | Sorry, ich hab halt nur Mathematik studiert. Da ist eben 0.2 = 0.2 |
Dann solltest du trotzdem was über die Darstellung von Fließkommazahlen gehört haben.
|
|
.Chef
      
Beiträge: 1112
|
Verfasst: Di 31.08.04 13:33
| flexIV hat folgendes geschrieben: | Sorry, ich hab halt nur Mathematik studiert. Da ist eben 0.2 = 0.2
Thx anyway |
Du wolltest sicher sagen "Für eine beliebige Zahl n aus dem Bereich der komplexen Zahlen gilt n = n" und bist nur an der Berechnung des Spezialfalles für n = 0.2 gescheitert.
SCNR,
Jörg
_________________ Die Antworten auf die 5 häufigsten Fragen:
1. Copy(), Pos(), Length() --- 2. DoubleBuffered:=True; --- 3. Application.ProcessMessages bzw. TThread --- 4. ShellExecute() --- 5. Keine Vergleiche von Real-Typen mit "="!
|
|
catweasel
      
Beiträge: 487
Erhaltene Danke: 1
Win 7 64bit
Delphi 7 Second Sedition V7.2
|
Verfasst: Di 31.08.04 14:07
| Zitat: | | Du wolltest sicher sagen "Für eine beliebige Zahl n aus dem Bereich der komplexen Zahlen gilt n = n" und bist nur an der Berechnung des Spezialfalles für n = 0.2 gescheitert. |
Komplexe Zahlen?? Wo soll denn da der Imaginaerteil herkommen... Ich glaube du meinst die reelen Zahlen.. ?!
Catweasel
_________________ Pommes werden schneller fertig wenn man sie vor dem Frittieren einige Minuten in siedendes Fett legt.
|
|
.Chef
      
Beiträge: 1112
|
Verfasst: Di 31.08.04 14:10
Nein, meine ich nicht. Denn für n gilt "n = x+yi". Dass der Spezialfall n = 0.2 keinen Imaginärteil hat, dafür kann ich ja nix. 
_________________ Die Antworten auf die 5 häufigsten Fragen:
1. Copy(), Pos(), Length() --- 2. DoubleBuffered:=True; --- 3. Application.ProcessMessages bzw. TThread --- 4. ShellExecute() --- 5. Keine Vergleiche von Real-Typen mit "="!
|
|
obbschtkuche
Gast
Erhaltene Danke: 1
|
Verfasst: Di 31.08.04 15:27
Klar hat er einen, nur ist der = 0 ;-)
|
|