Salut,
En tout cas, pour 1 et -1, ça marche, ça c'est sûr. Un truc pour le prouver vite fait :
Une matrice orthogonale a ses colonnes de norme 1 et le produit scalaire de 2 colonnes distinctes est 0 (en fait, c'est équivalent puisque X'X = (<X_i,X_j>), où les X_i sont les vecteurs colonnes.)
Donc, dans ton cas, tu te demandes quels sont les a tels que
a^2+4a^2+4a^2 = 9 a^2 = 9
Facile, non ?
Ensuite, la vérification est facile.
Bon, pour déterminer la nature de ces deux endomorphismes, tu peux commencer par essayer de calculer les valeurs propres (Hint : En général, 1 ou -1 est souvent valeur propre d'un endomorphisme orthogonal

) Et le reste doit être dans ton cours.
__
rvz