La carte archéologique signale que la commune est probablement sur la voie romaine se dirigeant vers Escles. Des vestiges antiques ont été récoltés à la ferme de Saurupt (dont des fragments d’architectures, de statues et de stèles, des meules, une urne funéraire, et une remarquable sculpture en grès d’un génie ailé monté sur un dauphin du IIe siècle…). D’autres ont été mis à jour lors de l’établissement de la voie de chemin de fer, à l’écart de Ménil-sur-Harol. Des ossements humains ont également été signalés lors de la construction d’une maison d’école.
Mentionné en 1280, Harol fait partie en 1594 au bailliage des Vosges, prévôté de Dompaire et de Valfroicourt, ban de Girancourt, puis à partir de 1751 du bailliage et maîtrise de Darney, coutume de Lorraine. Au spirituel, Harol appartient au doyenné de Porsas (Poussay), au diocèse de Toul, puis à l’évêché de Saint-Dié. Il était autrefois le chef-lieu d’un ban qui comprenait 15 villages, hameaux ou censes. La haute, moyenne et basse justice de ce ban appartenait à L’église saint-Pierre de Remiremont pour moitié, et au Duc de Lorraine et au seigneur de Fontenoy pour l’autre moitié (Lepage et Charton. 1845). « Au Ménil, on voit une tour ancienne avec des meurtrières » (Gley 1870).
Harol a beaucoup souffert lors de la guerre de Trente ans et de l’épidémie de peste entre le 1er juillet et le 6 décembre 1631. Seuls deux ménages y sont imposables en 1647, et il reste que 6 habitants extrêmement pauvres et quelques veuves mendiantes en 1655 (Idoux. Les ravages de la guerre de Trente ans dans les Vosges.1912). Harol ne compte encore que de 15 habitants en 1710. La population de la communauté passe de 1030 habitants en 1793, à 1258 personnes en 1841, son maximum. Puis elle chute progressivement pendant le siècle et demi suivant en raison de l’exode rural (502 hab. en 1999). Une hausse est visible ces dernières décennies suite à l’établissement de activités et habitations (628 hab. en 2017).
L'église Saint-Epvre remonte à 1765. Le cimetière qui l’entourait a été déplacé en 1898 de l’autre coté du calvaire monumental. L’ancienne école de fille de Harol centre (actuellement mairie) est construite en 1885. L’école primaire de Le Ménil est ouverte entre 1878 et 2006. Celle de Puttegney est établie en 1834, puis remplacée par une nouvelle en 1878. Une autre se trouve à La Rue. L’actuel lycée professionnel rural La Providence, établissement d'enseignement privé sous contrat avec le ministère de l'Agriculture, a succédé à l’école de filles érigée en 1807 tenue par les sœurs de la Providence.
Le tracé des routes et chemins a évolué à de nombreux endroits au cours du 19e siècle, abandonnés pour d’autres parcours (chemin de Gorhey, de Dompaire…) ou conséquence du passage de la voie de chemin de fer Darnieulles-Jussey établie en 1886. Partiellement fermé en 1951, le trafic de marchandise est arrêté en 1973.
Harol est électrifié dans les années 1930. L’adduction d’eau est probablement mise en place à la même période par la construction d’un château d’eau entre Frison et Le Ménil. A cet emplacement, le « monument du Cruaulé » évoque la Mémoire des résistants qui voulaient rejoindre le maquis de Grandrupt-de-Bains (27 août 1944).
Non loin de la gare, l'entreprise Fournier S.A. est fondée en 1953 (construction métallique, sous-traitant pour l'industrie automobile, l'imprimerie, l'aviation, l'industrie du papier, la construction de climatiseur et la fabrication de machine-outil).
La tornade du 11 juillet 1984 a provoqué d’importants dégâts sur les constructions, les cultures, les vergers et les forêts, et engendrant la ruine de certaines anciennes fermes.