Dafür muss der Benutzer den Autostart für USB-Sticks im System anschalten. Aus Sicherheitsgründen ist dies standardmäßig bei Vista und Windows 7 deaktiviert, mit den aktuellen Sicherheitsupdates auch bei XP.
Dann genügt eine autorun.inf, die im Hauptverzeichnis des Sticks liegt. Darin kann das auszuführende Programm angegeben werden. Beispiele dafür wie diese Datei aussehen muss findest du im Netz.
Installiert werden muss bei einem Programm nichts, es sei denn das Programm braucht spezielle Voraussetzungen. Das .NET Framework muss allerdings da sein, wenn es ein .NET Programm ist.