L'origine remonte à l'époque gallo-romaine : avec une "castra stativa" ou une "villa".

Au XIe siècle, dans le but de se défendre contre les Hongrois qui ravagent volontiers le pays, les comtes de Toul construisent un château fort, puis une enceinte fortifiée qui englobait toute l'actuelle rue de la République, jusqu'au Pont des chèvres, du canal des Moulins à la porte Bazin.

En 1269, la Ville obtient sa charte du sire de Charmes FERRY VI, seigneur de "Fontenoi en Voge" et de Charmes-sur-Moselle, comte de Toul. Les comtes de Toul étaient nommés par les évêques de ce diocèse pour administrer leurs possessions temporelles qui s'étendaient sur l'emplacement des actuels départements des Vosges et de Meurthe-et-Moselle en particulier.

En 1301, c'est la réunion au duché de Lorraine, à l'occasion du mariage de Jean de Châtelet et dame Gilles de Passavant, grâce à l'achat de la seigneurie par le duc FERRY III à FERRY VI de CHARMES.

Des ravages épouvantables sont causés par la peste, la famine et les brigandages durant tout le XIVe siècle.

En 1475, la Ville est prise par le duc de Bourgogne Charles le Téméraire, qui la pille, l'incendie entièrement, massacre ses défenseurs et la majeure partie de ses habitants. L'opposition entre le duc de Lorraine et le duc de Bourgogne devient très forte : ils convoitent tous deux la souveraineté totale sur la région. René II de Lorraine décide d'attaquer Châtel-sur-Moselle, fief des Neufchâtel, donc alliée des Bourguignons. Les troupes lorraines se retirent des abords de la place-forte pour se réfugier à Charmes. Une fois les Lorrains partis, Charles le Téméraire assiège Charmes, prend la ville et la détruit entièrement (1475).

La ville renaît à la fin du XVe siècle. 1486 : René II lui accorde lune foire annuelle pour l'aider ; 1493 : une nouvelle église Saint-Nicolas est construite (l'actuel édifice).

Au XVIe siècle, survient à nouveau la peste; c'est cependant une période de développement économique. La ville s'étend et construit une deuxième enceinte jusqu'à la porte de la Chapelle et la porte de Moselle, à l'angle du grand pont et de la rue du Patis.

Au XVIIe siècle c'est la guerre de trente ans.

En 1633, Richelieu et Charles IV de Lorraine signent le traité de Charmes qui, entre autres conditions, livrait Nancy aux Français. Charles IV, duc bagarreur, ne respecte pas les clauses et reprend la ville. En représailles, celle-ci est reprise et entièrement brûlée par le colonel Gassion.

En 1635, le château, les remparts et les ponts sont démantelés. S'ensuivent à nouveau pillages, famines, épidémies jusqu'à la fin du XVIIe siècle.

Au XVIIIe siècle enfin, s'ouvre une longue période de paix et de prospérité. Et, en 1766, c'est la rattachement à la France, avec tout le duché de Lorraine, à la suite du décès de Stanislas de Lunéville.

Au XIXe siècle, en 1870, Charmes est occupée par les Prussiens, avec incendies, assassinats de paisibles habitants, exactions de toutes sortes, jusqu'à la libération en 1873. Le XIXe siècle et le début du XXe siècle sont une période de fort développement grâce à l'arrivée du chemin de fer, au creusement du canal et à l'industrialisation.

Quarante ans après, au début de la Grande Guerre de 1914-1918, la Bataille de la Trouée de Charmes sauve la ville et contribue à la victoire de la Marne (200 enfants de Charmes sont morts pour la France au cours de cette guerre). A la fin de la guerre 1939-1945, le 5 septembre 1944, la ville est incendiée volontairement par l'ennemi en retraite ; 150 habitants sont déportés en Allemagne, dans les camps de la mort. 100 d'entre eux ne reviendront pas (parmi lesquels le maire Henri Breton, âgé de 76 ans ).

Le 12 septembre 1944, c'est enfin la libération de Charmes par l'armée américaine. Des témoignages émouvants de solidarité sont apportés de tous côtés, en particulier de Madagascar et par l'Association américaine "Arcanum et 75e Division Fondation".

Enfin, la reconstruction de la cité martyre, commencé en 1947, est achevée en cinq ans grâce au dévouement de son maire René Didierjean, et par l'effort unanime d'une ville qui, détruite trois fois par les guerres, n'a pas voulu mourir. Charmes fut la première ville de France reconstruite et inaugurée par le Président de la République Vincent Auriol en 1952.

Par ailleurs, la vile de Charmes a bénéficié d'un riche passé économique qui en a fait sa renommée : grâce à l'eau abondante, 2 industries furent florissantes dès 1500 : les drapiers et les tanneurs.

L'arrivée de la voie ferrée et du canal de l'Est permirent l'implantation de deux industries qui vont faire la renommée de Charmes : sa filature et surtout sa brasserie. Vers 1900, il y avait trois briqueteries et tuileries. L'industrie du bois était également représentée et trois scieries dont celle rue René Didierjean (route de Mirecourt) qui devient la plus importante caisserie de l'Est et celle du Battant, avec son haut-fer qui existe toujours, mais ne produit plus.

Toutes ces industries ont aujourd'hui disparu. Charmes possède de nos jours une industrie diversifiée et moderne.

N'oublions pas de nommer les habitants de cette ville, les "Carpiniens". Ce nom est dérivé de "Carpini", nom sous lequel Charmes se lit dans le "parvillé" du diocèse de Toul en référence à sa forêt plantée de charmes.