Autor Beitrag
flexIV
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starontopic star
Beiträge: 19



BeitragVerfasst: So 29.08.04 16:41 
Hi,
mit Delphi5 Standard hab ich folgendes Problem:
ich habe eine Real-Variable RV deklariert. Nach der Zuweisung RV := 0.5; ist der Ausdruck (RV = 0.5) True; nach der Zuweisung RV := 0.2 hingegen is (RV = 0.2) False, genau wie mit 0.1 oder kleineren Werten.
Das darf doch nicht WAHR sein!!??
UC-Chewie
ontopic starontopic starontopic starontopic starontopic starontopic starofftopic starofftopic star
Beiträge: 531

WinXP
D5 Ent
BeitragVerfasst: So 29.08.04 17:08 
Doch, das kann wahr sein. Fließkommazahlen werden nur genähert dargestellt, d.h. es gibt immer nur bestimmte Werte, die vorkommen können. Scheinbar kann 0.2 genau dargestellt werden, 0.5 aber nicht. Deshalb wird ein Wert angenommen, der nahe an 0.5 ist. Scheinbar wird bei der Zuweisung und beim Vergleich eine andere Konvertierungsmethode benutzt (oder es liegt an der impliziten Umwandlung von Real nach Extended), sodass der Bit-Vergleich negativ ausfällt.
Normalerweise fragt man bei Fließkommazahlen ab, ob die Differenz klein genug ist, z.B.
ausblenden Delphi-Quelltext
1:
2:
3:
4:
var
  r: Real;
begin
  if Abs(r - 0.5) < 0.0001 then //...

_________________
Egal wie dumm man selbst ist, es gibt immer andere, die noch dümmer sind
obbschtkuche
Gast
Erhaltene Danke: 1



BeitragVerfasst: So 29.08.04 19:15 
Das hier dürfte genauer sein:

ausblenden Delphi-Quelltext
1:
2:
3:
4:
5:
6:
7:
function Compare(A, B: single {Evtl. durch double oder extended ersetzen}): boolean;
begin
 result := A = B;
end;

if Compare(test, 0.2) then 
 ...;


Da jedes Mal die selbe Methode genutzt wird um den Wert anzunähern würde das auch wie erwartet True ergeben.

Wenn deine Variablen den Typ Extended haben musst du das nicht so machen, weil Delphi Fließkommakonstanten automatisch als Extended ablegt (kann man zwar auch ändern, aber frag mich nicht wie)
Luckie
Ehemaliges Mitglied
Erhaltene Danke: 1



BeitragVerfasst: Mo 30.08.04 00:10 
Wichtig: Fließkommawerte NIE auf Gleichheit prüfen. :mahn:
ausblenden Quelltext
1:
0.2000000001 <> 0.2000000003					

Darstellung beider Werte:
ausblenden Quelltext
1:
0.2					
.Chef
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 1112



BeitragVerfasst: Mo 30.08.04 09:04 
Der Fehler rührt daher, dass Real und Extended (siehe Beitrag vom obbschtkuche) unterschiedliche Bitbreiten für die Mantisse und den Exponenten haben, und so unterschiedlich genaue Werte beinhalten. Erklärung dazu gibts genug im Netz, z.B. hier.

Gruß,
Jörg

_________________
Die Antworten auf die 5 häufigsten Fragen:
1. Copy(), Pos(), Length() --- 2. DoubleBuffered:=True; --- 3. Application.ProcessMessages bzw. TThread --- 4. ShellExecute() --- 5. Keine Vergleiche von Real-Typen mit "="!
flexIV Threadstarter
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starontopic star
Beiträge: 19



BeitragVerfasst: Di 31.08.04 03:31 
Sorry, ich hab halt nur Mathematik studiert. Da ist eben 0.2 = 0.2
:shock: Thx anyway
Luckie
Ehemaliges Mitglied
Erhaltene Danke: 1



BeitragVerfasst: Di 31.08.04 13:22 
flexIV hat folgendes geschrieben:
Sorry, ich hab halt nur Mathematik studiert. Da ist eben 0.2 = 0.2

Dann solltest du trotzdem was über die Darstellung von Fließkommazahlen gehört haben.
.Chef
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 1112



BeitragVerfasst: Di 31.08.04 13:33 
flexIV hat folgendes geschrieben:
Sorry, ich hab halt nur Mathematik studiert. Da ist eben 0.2 = 0.2
:shock: Thx anyway

Du wolltest sicher sagen "Für eine beliebige Zahl n aus dem Bereich der komplexen Zahlen gilt n = n" und bist nur an der Berechnung des Spezialfalles für n = 0.2 gescheitert. :lol:

SCNR,
Jörg

_________________
Die Antworten auf die 5 häufigsten Fragen:
1. Copy(), Pos(), Length() --- 2. DoubleBuffered:=True; --- 3. Application.ProcessMessages bzw. TThread --- 4. ShellExecute() --- 5. Keine Vergleiche von Real-Typen mit "="!
catweasel
ontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic starofftopic star
Beiträge: 487
Erhaltene Danke: 1

Win 7 64bit
Delphi 7 Second Sedition V7.2
BeitragVerfasst: Di 31.08.04 14:07 
Zitat:
Du wolltest sicher sagen "Für eine beliebige Zahl n aus dem Bereich der komplexen Zahlen gilt n = n" und bist nur an der Berechnung des Spezialfalles für n = 0.2 gescheitert.


Komplexe Zahlen?? Wo soll denn da der Imaginaerteil herkommen... Ich glaube du meinst die reelen Zahlen.. ?!

Catweasel

_________________
Pommes werden schneller fertig wenn man sie vor dem Frittieren einige Minuten in siedendes Fett legt.
.Chef
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 1112



BeitragVerfasst: Di 31.08.04 14:10 
Nein, meine ich nicht. Denn für n gilt "n = x+yi". Dass der Spezialfall n = 0.2 keinen Imaginärteil hat, dafür kann ich ja nix. :P

_________________
Die Antworten auf die 5 häufigsten Fragen:
1. Copy(), Pos(), Length() --- 2. DoubleBuffered:=True; --- 3. Application.ProcessMessages bzw. TThread --- 4. ShellExecute() --- 5. Keine Vergleiche von Real-Typen mit "="!
obbschtkuche
Gast
Erhaltene Danke: 1



BeitragVerfasst: Di 31.08.04 15:27 
Klar hat er einen, nur ist der = 0 ;-)