Für dich wäre es am besten, wenn du dich mal mit den Grundbegriffen von nonVCL vertraut machst. Luckie hat dazu auch diverse
Tutorials geschrieben. In deinem Fall reicht bereits das erste Tutorial über Fenster aus. Evtl. tut´s auch ein Blick in das TNA-Sample (Kapitel "Systemfunktionen"), damit man das Programm auch irgendwie wieder beenden kann.
Beide Tutorials zeigen dir, wie man ein Fenster ohne die VCL erzeugt (dieses Fenster kann übrigens auch unsichtbar sein), wie man es am Laufen hält, und wie man auf bestimmte Nachrichten reagiert. Vorteil: die Exe ist sehr klein und erfüllt IMHO genau die Aufgabe, die du dir vorstellst: Funktionen aus dieser DLL aufzurufen.