Mp3 lesen tue ich mit dem Windows ACM. Da gibt es aber noch andere Möglichkeiten. Die bass.dll kann vielleicht sowas (?). Kenne die DLL aber überhaupt nicht, könnte also völlig daneben liegen.
Zur diskreten Fouriertransformation: Siehe
FFT (oder auch FFTW, eine gratis Library). Die wandelt dir "Wave-Daten" in den Frequenzraum um. Jedoch solltest du mit komplexen Zahlen umgehen können und eine ungefähre Ahnung haben, was die Fouriertransformation macht. Bevor du Wave-Daten umwandelst solltest du diese mit einer Gewichtungsfunktion (z.B. Hamming-Window) multiplizieren, damit die Wave-Daten auf beiden Seiten stetig ineinander übergehen (da das Signal als periodisch interpretiert wird. Sonst kriegst du allenfalls Geisterfrequenzen rein

).
Das Abtasttheorem ist für dich nicht von Interesse. Das Signal, welches du umwandeln (analysieren) willst ist ja bereits abgetastet (liegt als Wave-Datei vor). Da musst du also nichts besonderes beachten.