Ally est une commune rurale relativement étendue (plus de 3 000 ha) qui compte 13 hameaux en plus du bourg principal. Ce dernier est placé sur un point d'ancrage remarquablement bien choisi, à l'abri de la bise (vent froid du nord) par exemple, et donnant au sud. Le village est situé au nord-ouest du département de la Haute-Loire, au sud de l'Auvergne, en limite du département du Cantal. C'est un plateau de curiosités avec ses mines d'antimoine et ses moulins à vent.
Altitude comprise entre 549 m (le Pradal) et 1 109 m (volcan de Novechaze).
Ally serait incontestablement d'origine arabe, quelques faits et écrits vont dans ce sens… mais mystère. Il n'empêche que la présence de l'homme sur ce territoire est bien antérieure. La présence de Gallo-Romains est avérée vue l'exploitation très ancienne des mines d'argent et d'antimoine. Ally se trouvait sur le passage de la route reliant Saint-Flour (Cantal) à La Chaise-Dieu (Haute-Loire), jalonnée alors par de nombreuses pierres plantées (aujourd'hui couchées dans les broussailles) afin de s'y retrouver plus facilement pendant les tempêtes de neige de l'hiver.
Au Moyen Âge, les Rochefort d'Ally, alors seigneurs des lieux, régnaient sur tout le territoire. Un château se dressait fièrement, dès le XIe siècle, au-dessus du bourg principal avec ses cinq tours, reliées par un mur très élevé, et dominait toute la commune. Autour, s'agglutinaient les maisons paysannes, le lavoir (XIe), le cimetière et l'église (XIIe).