Wenn dieser eigene Browser auf dem IE (= TWebBrowser) basiert, dann wird er auch dessen Verzeichnisse benutzen, und dann kann man den Ordner eben nicht löschen - bzw. sollte man nicht, weil´s eigentlich virtuelle Pfade sind. In dem Fall gibt es andere Funktionen zum Löschen der Cookies und der temporären Inet-Dateien. Mit der Suche findet man diese auch.
Ist der eigene Webbrowser wirklich ein 100% eigener Browser (mit eigenem HTML-Parser, eigener JavaScript- u.ä. Technik), dann müsste der Entwickler eigentlich am besten wissen, wo und wie er solche Daten speichert.