La contrée d'Ungersheim a probablement été habitée dès l'époque romaine. La première mention d'Ungersheim apparaît dans un acte daté de 735 par lequel le comte Eberhard fait don à l'abbaye de Murbach de biens fonciers situés à Anngesvilla, premier nom du village.
Ungersheim devint propriété des Habsbourg, probablement vers 1130, lorsque ces derniers furent nommés Landgraves et s'établirent à Ensisheim. Les nobles de Ungersheim étaient les vassaux des Habsbourg jusqu'en 1534, date à laquelle les nobles de Bollwiller acquirent les deux tiers du village.