Tak for svarene. Jeg brugte safefilename, da det er noget mindre kode

Min kode kom til at se sådan her ud:
if (opnMusic.ShowDialog() == DialogResult.OK)
{
dispSong.Text = opnMusic.SafeFileName;
}
Dog fik jeg også substring til at virke ved brug af LastIndexOf

if (opnMusic.ShowDialog() == DialogResult.OK)
{
dispSong.Text = opnMusic.FileName.Substring(opnMusic.FileName.LastIndexOf("\\")+1);
}
Jeg googler lidt videre på det med ID3 tags.