Oui, Finale est une référence (... pas trop chère

).
Lilipond est open-source et travail sur un format de base open source assez courant... mais juste pour éditer des partoches.
Ca dépend
surtout de ton besoin... Composer, t'accompagner, transcrire, mettre tes cours au propre ?
"Band in a box" est très utilisé dans une autre optique.
C'est plutôt un éditeur de grilles, bien que tu puisses préciser des mélodies assez simplement (entrées midi, entrées son etc.). Surtout bon pour générer rapidement des riffs et t'accompagner facilement.
Dans le genre, plus passe-partout: BigBoss pas ergonomique, mais bien à l'aise pour tous les besoins généraux d'une petite formation...
une liste bien complète par
ici commentée, et avec des prix indicatifs.