C'est bon j'ai enfin retrouvé toutes les formules de suite !!!
Bon on a :
Un=100+(n-1)*40
n est le nombre de marche, Un est le prix de la marche n
On veut que la somme du prix de chaque marche fasse 76800
Somme d'une suite arithmétique :

S(Un)=n*(100+(100+40(n-1)))/2
=20n²+80n

On résout donc :
20n²+80n=76800
20n²+80n-76800=0

Voila çà marche j'ai vérifié.