September 15, 1994
![
Elle a trois vecteurs propres distincts v1, v2 et v3. Un octant O du trièdre formé des plans Hi, orthogonaux aux vecteurs v1, v2 et v3 est invariant par la matrice A.
Q1) Quel est le sous-groupe SA de GL(3,Z) qui fixe l’octant O ?
Q2) D'autre part, chaque élément de ce groupe préserve l'ensemble des points entiers de O, en particulier les points extrémaux de leur enveloppe convexe, les orbites de ces points sous l'action de SA sont-elles en nombre fini?
En ce qui concerne la première question, la réponse est une conséquence immédiate d'un travail précédent, en collaboration ave G. Lachaud [IL] sur la nature des stabilisateurs, dans GL(n,Z), des hyperplans irrationnels de Rn:
Théorème [IL] : le stabilisateur dans GL(n,Z), d'un hyperplan irrationnel, est isomorphe au groupe des unités d'un ordre d'un corps de nombres algébriques associé naturellement au coefficients directeurs de l'hyperplan. Il est donc engendré par un nombre fini de matrices à coefficients entiers.
Dans le cas qui nous occupe SA est isomorphe, à un sous-groupe d'indice fini près, à Z2. Autrement dit, il existe une autre matrice B de GL(3,Z), indépendante de A, qui préserve l’octant O. On peut généraliser cette question aux matrices symétriques n x n, à coefficients entiers, dont le polynôme caractéristique est irréductible sur Z, et le corps des racines totalement réel. À un sous-groupe d'indice fini près, le groupe recherché sera isomorphe à Zn-1.
En ce qui concerne la deuxième question, sur la finitude du nombre d'orbites, la réponse est oui et la démonstration se trouve dans cet article.
Théorème : Le nombre d'orbites des sommets de l'enveloppe convexe des points entiers du cône positif des conjugués d'un hyperplan irrationnel, algébrique et totalement réel, de Rn est fini. Et le quotient du bord de l'enveloppe convexe de ces points entiers par le stabilisateur d'un quelconque des hyperplans est topologiquement équivalent à un tore Tn-1.
Le stabilisateur dans GL(n,Z) d'un hyperplan de Rn est au mieux isomorphe à Zn-1, à un sous groupe d'indice fini près. Lorsque c'est le cas on dit que l'hyperplan est algébrique totalement réel (parce que le corps de nombres associé K est totalement réel). Dans ce cas l'octant positif est défini par les plongement réels du corps K. En fait on peut associer un type combinatoire au tore quotient. L'exemple des corps quadratiques suggère que ce tore simplicial, ou un enrichissement de cette structure, est l'équivalent pour les nombres algébriques de la périodicité de la fraction continue des nombres quadratiques. C'est un peu la motivation de ce travail.
Toutes ces questions ont été suscitées par des discussions avec V.I. Arnold. Je veux citer aussi le travail d’Elena Korkina avec qui j’ai beaucoup discuté aussi de ces questions.

This paper has still not been published. I would like to translate it first in english.](474DDB1B-4512-440C-9586-6D07FDADEDE7_files/shapeimage_3.png)
