Autor Beitrag
wdbee
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic star
Beiträge: 628
Erhaltene Danke: 1



BeitragVerfasst: Do 24.03.05 10:57 
user profile iconwdbee hat folgendes geschrieben:
@Backslash: Ist es richtig zu behaupten, dass eine deiner vier Folgen (original, invers, originalrückwärts, inversrückwärts) komprimierbar sein MUSS? Gilt die Aussage tatsächlich für beliebige Untermengen? Und wären nicht alle Folgen, die durch Bit-Rotation aus den vieren entstehen, gleichermaßen betroffen?


Hast du da evt. noch was dazu an Info?
uall@ogc
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 1826
Erhaltene Danke: 11

Win 2000 & VMware
Delphi 3 Prof, Delphi 7 Prof
BeitragVerfasst: Do 24.03.05 12:36 
schon wieder hast du dir meinen text nicht richtig durchgelesen:

das beispiel mit der straße hat für die autos die vorbeifahren nichts mit der erstellnten zufallsmenge zu tun, egal ob vielbefahrende oder wenigbefahrende. ich habe von msek = milliskeunden gesprochen und da hängt es eher davon ab wann du da drauf drückst und net wie oft - verstanden?

und wenn du ne charakteristik in ner rar, ace, zip etc. findest dann respekt

_________________
wer andern eine grube gräbt hat ein grubengrabgerät
- oder einfach zu viel zeit
delfiphan
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic star
Beiträge: 2684
Erhaltene Danke: 32



BeitragVerfasst: Do 24.03.05 14:43 
@Backslash:
Ich sagte: "Du suchst eine perfekt zufällige Quelle um deinen Algorithmus zu testen? Das musst du gar nicht tun, denn es ist unmöglich... Wenn du irgendwelche Charakteristiken gefunden hast, kannst du sie auf jeden Fall nicht nutzen, um die Daten zu komprimieren. "
Was ich damit meinte: Du wirst keine allgemeine, (für die Kompression) nutzbare Charakteristik in echten Zufallszahlen finden. Mit "allgemeiner Charakteristik" mein ich z.B. Gleichverteiltheit. Die bringt dich nicht viel weiter.

"Entropiewert 99"%: Kannst du mir definieren, was du damit meinst?

"Dein Skript": Ich hab eben auch schon einige eigene Skripts geschrieben. Sorry. Wollte nur mögliche Missverständnisse aus dem Weg räumen.

"Entropiegehalt nicht das Maximum einer Nachricht ist": Das hab ich wohl kaum behauptet. Ich versteh nicht mal den Satz... Was ist soll "Maximum einer Nachricht" überhaupt bedeuten?

"Inverse Folge": Ich hab das so verstanden, dass du behauptet hast, dass aus einer der 4 Bitmuster (verkehrt, invertiert, etc.) mit Sicherheit komprimierbar ist. Das muss doch nicht sein. Es geht mir nicht um Zufälligkeit, sondern Komprimierbarkeit (ist nicht dasselbe).
Du kannst an Hand eines Bitmusters NICHT sagen, ob es durch Zufall entstanden ist, oder nicht. Auch wenn es die Folge "1111111..." ist. Durch Zufall (gleichverteilt) ist jede denkbare Folge gleich wahrscheinlich. "11111111" ist gleich wahrscheinlich wie "10100110".

Mir geht jetzt leider die Zeit aus, ich werd aber später nochmals Stellung nehmen.

Okay, hier bin ich wieder. :)

Backslash hat folgendes geschrieben:
Wenn ihr also die Folge nicht berechnen könnt, die sich nicht komprimieren lässt, also zufällig ist, dann werdet ihr mir auch keine Folge präsentieren können, die mein Algorithmus nicht komprimieren kann.
Wenn die Folge 1 Bit lang sein darf schon ;) Spass bei Seite: Eine unkomprimierbare Zahlenfolge von einigen Bits anzugeben, das kann man - eine 1MB Datei anzugeben ist für den Menschen vermutlich "unmöglich", da unberechenbar -- (ausser durch Zufall, das Nachprüfen wird dann aber ebenso unmöglich sein, wenn die Folge auf einem Blatt stünde).

Backslash hat folgendes geschrieben:
Das ist in der Tat interessant. Wenn man mal davon ausgeht dass das Wissen auf der Erde intelligent ist, dann sollte es doch eigentlich immer intelligent bleiben, auch wenn es komprimiert wurde, da der Algorithmus intelligent ist und das Wissen ebenfalls.
Hä!? *Hatmühedichzuverstehen*. Also wenn ich das richtig verstanden hab: Nein. Ich kann ein intelligentes Buch kopieren gehn, dann sind es zwei. Dieses Doppelpack ist dann genau gleich intelligent wie das eine Buch vorher, richtig? Un dieses Doppelpack liesse sich doch dann wieder auf 1 Buch komprimieren (indem man die Kopie des Buches in den Papierkorb wirft und den Vermerk "2x" in das Original schreibt) Was heisst überhaupt intelligent?

Backslash hat folgendes geschrieben:
Insofern sollte rein statistisch auf der Erde nie eine Folge von Daten auftreten, die zufällig ist.
Ich wiederhole: Zufällig ist ungleich unkomprimierbar. Deine Behauptung ist auch dann nicht korrekt, wenn man zufällig durch unkomprimierbar ersetzt, denn du benützst das Wort "auftreten". Auftreten kann vieles. Man kann einen kurzen Algorithmus angeben, der nacheinander alle möglichen Zahlenfolgen der Länge 1 MB ausgibt. Darunter werden auch ein paar Unberechenbare sein. Das sieht wie ein Widerspruch aus, ist es aber nicht. Die Nachkommastellen von Pi ist unendlich und nicht periodisch, und - es kommt jede vorstellbare Zahlenfolge (Folgen von Ziffern 0-9) drin vor!
Was man aber nicht kann ist, einen kurzen Algorithmus anzugeben der nichts als die unkomprimierbare (= von einem kurzen Programm unberechenbare) Folge auf den Bildschirm schreibt und danach terminiert.

Backslash hat folgendes geschrieben:
wird aber auch erklären, warum es keinen Sinn mehr macht, nach Zufallsgeneratoren zu suchen.
Das hängt doch davon ab, was man mit den Zahlen machen will. Wenn man gute Zufallsgeneratoren bauen will, um damit die generierten Zufallszahlen zu komprimieren, dann macht es 0 Sinn. Für alle andere Zwecke aber vermutlich schon... (z.B. Mehrdimensionale Integrale in höheren Dimensionen mittles Monte Carlo berechnen)
Backslash Threadstarter
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 202

WIN XP
Delphi 5 Ent, Delphi 2005 Prof
BeitragVerfasst: Di 29.03.05 08:32 
Ich glaube nicht behauptet zu haben, dass invertierte und verkehrte zufällige Folgen komprimierbar sein müssen. Wenn man diese 4 States speichern will, braucht man eben wieder 2 Bits und kleiner werden die Daten dadurch auch nicht. Es existiert wenn man so will ein Dualismus der Eigenschaften zufälliger Folgen, allerdings muss das nicht unbedingt korrekt sein. Wenn man Zahlen invertiert, dann ändert sich zum Beispiel die Eigentschaft der Anzahl von Nullen und die Eigenschaft der Anzahl von Einsen.

Mit 99% entropisch (zugegebenermaßen etwas laienhaft ausgedrückt) meinte ich einen Entropiegehalt von nahezu 1, eben fast "zufällig". Damit sollte mein Posting jetzt hoffentlich etwas verständlicher sein.

Zitat:
Was heißt überhaupt intelligent?

Ich schätze das befürfte eines eigenen Threads, jedoch eher in einem Philosophischen Forum, oder nicht? Zumindest würde ich die Tatsache von Gesetzgebungen mit Intelligenz in Verbindung bringen, wobei sich hier die Frage stellt, welche Art von Gesetzen intelligent sind.

Mal ein blödes Beispiel. Ok, mir ist jetzt nix besseres eingefallen: Wenn eine Regierung ein Gesetz erlassen würde, was die Diskriminierung von Minderheiten duldet, wäre das intelligent? Es ist zumindest ein Gesetz. Außerdem ist die Handlung der Regierung jetzt vorhersehbar, wenn nun eine solche Minderheit auftaucht. Die Diskriminierung wird geduldet.

Zitat:
Du wirst keine allgemeine, (für die Kompression) nutzbare Charakteristik in echten Zufallszahlen finden. Mit "allgemeiner Charakteristik" mein ich z.B. Gleichverteiltheit. Die bringt dich nicht viel weiter.


Nun, da geb ich dir ausnahmsweise Recht. So einfach ist das Prinzip sicher auch nicht. um das Stichwort "allgemeine Charakteristik" zu definieren muss ich etwas ausholen:

Ich habe weiter oben ein paar Dinge genannt, die ich als Grundlage für Intelligenz halte. Ich weiß nicht ob ich damit 100% richtig liege. Nun, ein Beispiel: Wenn ich eine Kugel in einem luftleeren Raum von einer Höhe N (zum Beispiel 10 Meter) auf die Erde fallen lasse, so kann ich anhand der Erdanziehungskraft sicherlich ziemlich genau vorraussagen, mit welcher Geschwindigkeit die Kugel auf der Erde auftreffen wird und welche Geschwindigkeit sie im Punkt X,Y haben wird, richtig? Ok, es tritt eine geringe Abweichung auf, da die Messinstrumente nicht beliebig genau arbeiten.

Überträgt man jetzt das Beispiel auf ein binäres System und speichert man in diskreten Zeitabständen die Höhe der Kugel in einem 8Byte-doublewert, so wird man eine Datenfolge bekommen (die Länge ist abhängig von den diskreten Abständen und der Gesamtdauer des Experiments). Schreibt man jetzt ein Programm, was man mit exakt den gleichen Ausgangsdaten befüllt, so kann man zu jedem gemessenen diskreten Zeitabstand entsprechend ein Programmwert der Flugbahn (z.B. Geschwindigkeit, Höhe) berechnen. Und was stellt man fest? Man benötigt eben nur die Gesetze und die Ausgangsdaten für das Experiment, um die Messwerte im Programm berechnen zu können.

Zitat:
Ich wiederhole: Zufällig ist ungleich unkomprimierbar.


Ich dachte bisher folgendes: Zufällig = unvorhersehbar = unkomprimierbar. Schließlich bestimmt der Entropiegehalt einer Nachricht die Unvorhersehbarkeit, soweit ich das in der Definition lesen konnte. Nachrichten mit einem Entropiegehalt von 100%, argh... ich meine natürlich 1 gelten als unkomprimierbar, oder nicht? :? Jedoch denke ich, dass jeder Zufallsgenerator, der auf Formeln basiert, zwangsläufig auf Gesetzen aufbaut. Wo Gesetze existieren, kann man Handeln oder in der Informationstheorie Datenfolgen vorhersehen. Worauf baut Mathematik auf? Worauf baut die Informationstheorie auf? Worauf baut Intelligenz auf? Worauf baut menschliches Wissen auf? Auf Gesetzen, nicht wahr?

Mit "allgemeiner Charakteristik" meine ich den "Intelligenzgehalt" einer nachricht. Den kann man tatsächlich annähernd vorhersagen und zur Datenkompression nutzen. Da alle Pseudozufallsdaten, Textdateien, komprimierte Dateien, MP3's, Filme, Executeables, etc. (die Liste lässt sich endlos fortsetzen) nach mathematischen oder anders ausgedrückt "intelligenten" Prinzipien aufgebaut sind, müssen sie folglich verlustfrei komprimierbar sein.

Ich habe jetzt leider nicht mehr soviel Zeit, als dass ich auf alle Teile des letzten Postings eingehen könnte. Werd aber sicher wieder antworten .
delfiphan
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic star
Beiträge: 2684
Erhaltene Danke: 32



BeitragVerfasst: Di 29.03.05 17:26 
user profile iconBackslash hat folgendes geschrieben:
Ich glaube nicht behauptet zu haben, dass invertierte und verkehrte zufällige Folgen komprimierbar sein müssen.

Ich hatte dich sogar wortgenau zitiert, als ich behauptete, dass du das behauptet hast!
(Also, dass invertierte und verkehrte Folgen komprimierbar sein müssen, das hast weder du behauptet noch sonst jemand; Du hattest behauptet, dass wenn man eine zufällige Folge nimmt, dass dann entweder diese Folge oder die verkehrte oder die invertierte oder die invertiert-verkehrte Folge komprimierbar ist. Zitat: "Sollte also eine zufällige Folge existieren, existiert eine inverse mit den gleichen Eigenschaften, wenn man alle Bits einfach invertiert. (...) Demnach muss sich mindestens eine der zufälligen Folgen um mindestens 1 Bit komprimieren lassen (...)". Um das ging's, und das versuchte ich auch zu widerlegen)

Die Diskussion macht so keinen Sinn - für mich sieht es nach "wir gegen dich" aus.
Was bedeutet denn "Entropiegehalt 1"? -- Ich Frage dich nicht, weil ich nicht weiss, was du meinst. Was du meintest ist: Nachricht maximal möglicher Entropie. Ich hab noch nie die Notation gesehn, dass man einen Entropiegehalt in Prozenten oder in Zahlen zwischen 0 und 1 (d.h. relativ zur maximalen Entropie) angibt. Und wenn es denn jemand so schreiben würde, wäre diese Notation erklärt, da unüblich. Entropie(gehalt) hat üblicherweise die Einheit Bit und kann vom Betrag her weit grösser als 1 sein. Wie dem auch sei. Mir scheint, als ob du nicht so genau wüsstest was die Wörter bedeuten, die du benützst... Übertrieben ausgedrückt kommt es mir vor als hättest du ein Buch verkehrt in der Hand und würdest behaupten, du könntest lesen. Oder als ob du die Grösse Deutschlands in Prozenten angibst, ohne zu sagen in Bezug auf was (z.B. Erdradius).

Ob es nun so ist oder nicht, ist mir egal. Worauf du dich aber achten solltest: Du solltest hier möglichst konkrete Fragen zu konkreten Problemen stellen... Wenn die Frage mit Delphi zu tun hat, umso besser (wir sind nicht im Off-Topic Bereich). Mir kommt es einfach vor, als würdest du uns hier einfach deine neusten Erkenntnisse schildern, statt Fragen zu stellen :? .
Also, ich trete aus Diskussionen wie diesen aus, da es sonst kein Ende nimmt und sinnlos ist. Ich brauche zum Thema eigentlich auch nicht unbedingt was erklärt zu bekommen.
Wenn du konkrete Fragen hast, versuche ich gerne dir die zu beantworten. Wenn du unbedingt weiterdiskutieren willst, schick mir ne PM.
Backslash Threadstarter
ontopic starontopic starontopic starontopic starontopic starontopic starontopic starofftopic star
Beiträge: 202

WIN XP
Delphi 5 Ent, Delphi 2005 Prof
BeitragVerfasst: Mi 30.03.05 13:47 
Ok, das sehe ich ein. Eine Diskussion bringt jetzt eigentlich nichts mehr. Der Thread hat somit keinen Sinn mehr ;-) Danke für die vielen Antworten. Hm... ich sollte mir das Thema Entropiegehalt nochmal ziemlich genau anschauen. Ich hab da immer nur die Grafik im Kopf wo der Entropiegehalt in Form einer Parabel zwischen 0 und 1 abgebildet wird. Vielleicht hab ich da was nicht richtig gelesen. :?!?:

Die neuesten Erkenntnisse werd ich sicher bald mitteilen. Ich beschäftige mich gerade mit einer kleinen Zusammenfassung zu dem genannten Algorithmus. Allein kommt man leider nicht so schnell in dem Thema vorran. Mir ist aufgefallen, dass ich doch nicht drum rum komme, mich mit den Grundlagen noch ausgiebiger zu befassen. Das mache ich lieber nochmal parallel während ich die Zusammenfassung schreibe, bevor ich hier weiter mit Halbwissen diskutiere. :wink: Der Thread hat mir übrigens ziemlich geholfen.

Hilfreich wäre, wenn ich ein paar vertrauenswürdige Leute in meiner Nähe hätte, mit denen ich zusammenarbeiten könnte.

Danke nochmal für die vielen Antworten auf den Thread @Delfiphan und all die anderen.

Gruß

Backslash
HeftCD
ontopic starontopic starontopic starontopic starontopic starontopic starhalf ontopic starofftopic star
Beiträge: 91
Erhaltene Danke: 9

Win2k, WinXP, Win7, Win8
Delphi 3 Pro, Delphi 5, Delphi 7, Turbo Delphi, BC1
BeitragVerfasst: Di 23.05.06 07:03 
Sorry, wenn ich diesen alten Thread wieder auskrame, aber ich habe einen wichtigen Grund dafür.

von BackSlash
Zitat:
Hallo Leute,

Die letzten Jahre habe ich mich mit der Kompression von verlustfreien Daten beschäftigt und bin dort auf eine interessante Sache gestoßen. Das Problem ist, dass ich bisher keine Datei oder zufällig generierte Datei gefunden habe, die 100% zufällig oder wenigstens annähernd zufällig war, um meine Entwicklungen zu testen.

außerdem: !! Kompression von verlustfreien Daten <> verlustfreien Kompression von Daten !!

a) Also, hab ich das richtig verstanden?
Du möchtest wahllose Anordnungen von Nulllen und Einsen = quasi echtes Chaos (nehmen wir mal an echte Zufallszahlen ermittelt durch radioaktiven Zerfall; Meßfehler ausgeschlossen/Minimiert) in einer Datei aneinandergereiht z.B. data.txt, weil Du einen Weg gefunden hast, diese verlustfrei zu komprimieren ?

Oder beschränkt sich Deine Aussage darauf, daß Dein Algorithmus nur speziell generierte Dateien analysieren kann?

Deine Quellenangaben wie "zeosync" (lange bekannt,2002) und "web-kompressor" (zu letztem habe ich leider nichts gefunden)
passen da nicht so ganz Verbindung mit Deinem Algorithmus.



b) Dabei fällt mir ein, daß es schon mal jemanden gab (ich meine hier auf dem board) -
ist so 1,5-2 Jahre her , glaub ich, länger als 1 Jahr auf jeden Fall, der auch einen Algorithmus erfinden wollte/gefunden hatte zufällige Daten zu komprimieren/komprimieren zu wollen. Bei jenem handelte is sich (im Gegensatz hierzu hoffe ich) um einen Schüler, der auch meinte, einen Weg er/gefunden zu haben, soweit ich mich erinnere. Der war auch drauf und dran und die anderen versuchten vehement ihm das auszureden.

Leider erinnere ich mich nicht mehr an den Thread.
k.a. welche Stichworte, aber "verlustrfreie kompression", und "komprimiert" usw. hab ich schon versucht. ..
Weiß wer anders noch, welcher Thread das war?

Anbei: eine Datei mit
1.126.400 Bytes Zufallsdaten mit 7.999866 von 8 mögl. Entrophieeinheiten
bzw. 99.998325%
rapidshare.de/files/.../E_7.999866.zip.html
(sorry, höhere % Zahlen sind gerade auf meinem System nicht möglich, da nur 800 Mhz+256 MB SDRAM, 85 km weiter - zu Hause - mehr)

Kann jemand was zu a) und b) sagen?