Du willst Notepad also in eine GroupBox einbetten, das heißt das Programm soll darin dann liegen?
Auch wenn so etwas nicht gerade benutzerfreundlich ist, funktionieren sollte es, indem man den Parent mit SetParent setzt. Dafür solltest du statt ShellExecute lieber CreateProcess oder ShellExecuteEx nehmen, damit du den Prozess zurückgeliefert bekommst, in dem du dann mit EnumChildWindows z.B. nach dem Fenster suchen kannst. Dieses kannst du dann mit SetParent in die GroupBox einsperren.
Das Ergebnis sieht zwar besch*** aus, sollte aber so klappen.
