Ich verstehe den Sinn nicht. Die RGB-Werte sind Byte-Werte. Also zwischen 0 und 255. Du speicherst das dann als Buchstaben in einer Textdatei (dabei hast du dann ein paar Zeichen weniger zur Verfügung, da die ersten 20 oder so Steuerzeichen sind). Die Textdatei komprimierst du dann mit WinRar. Kann man ja machen.
Aaaaber: Warum komprimierst du nicht direkt das Bitmap

? Das geht nämlich auch ganz gut
Die Tatsache, dass dein Ergebnis kleiner ist als .jpg zeigt, dass dein Verfahren fehlerhaft ist (es sei denn, dein Bild ist ein sehr einfaches Bild, z.B. schwarz). Glaubst du nicht, dass es sich als Standard durchgesetzt hätte, wenn es ein verlustfreies Bildformat gäbe, dass weniger Platz als jpg benötigt?
We are, we were and will not be.