Bien que le site de Ternay présente des traces préhistoriques, son histoire commence véritablement avec la domination romaine. Le Moyen Âge, la Renaissance, la Révolution et les Temps modernes sont les quatre autres grandes époques qui ont rythmé son existence.
L'origine du nom de Ternay provient de "Ternaico", "Tadernaco" qui signifient "boutique", "maison" ; "Trinortium" appellation du temps des romains et qui a pour racine le chiffre "trois" ; "Taderniacum" relevé dans les chartes de Cluny qui signifie "éminence".
A noter, Ternay possède ses propres armoiries.
L'église Saint-Mayol est classée aux Monuments Historiques. Avec le prieuré Saint-Pierre ils symbolisent le lien historique entre la ville de Ternay et celle de Cluny.
L'histoire de Cluny débute en 910 avec la création de l'abbaye, selon la règle des Bénédictins. C'est sous la direction de Mayol (954-994), puis d'Odilon (994-1049), que l'ordre prend son essor. En 1024, le pape Jean XIX, en libérant de la tutelle des évêques diocésains les communautés de Cluny, signe la naissance d'un vaste mouvement clunisien dont Ternay fait partie.
La construction de l'église de Ternay débute dans la deuxième moitié du XIe siècle (de 1050 à 1100). Elle abrite du mobilier remarquable, une statue de la Vierge du XIIe siècle (attribuée à Berilon, sculpteur viennois) et décapitée sous la Révolution, une statue de Saint Mayol et de la Vierge datant du XIXe siècle, une croix classée et une cheminée dans le transept nord.
Au sud de l'église, une partie des immeubles et surfaces constituent ce qui devait être le prieuré Saint-Pierre de Ternay. Ce prieuré atteint rapidement son apogée. Dès 966 dans le cartulaire de Cluny, on relève une charte pour un setier (ancienne mesure de capacité) de vin à prendre à "Celesio" (Solaize) pour les besoins des moines.
En 969, on relève également des actes de donation ainsi que des actes notariés signés par l'abbé Mayol.
En 1614, le catalogue des abbayes et prieurés cite le nombre de cinq religieux présents à Ternay.
