En 1842 en raison de son état, la grande synagogue fut fermée par décision municipale. Elle ne suffisait plus par ailleurs pour accueillir les membres d’une communauté grandissante. S’il fut un temps question de la reconstruire à un nouvel emplacement (quai Félix Maréchal) il fut décidé de conserver l’emplacement mais d’acquérir des parcelles pour en augmenter la surface. Il fallut donc détruire deux maisons. La ville de Metz participa à hauteur de 36 000 francs et le ministère des cultes à hauteur de 20 000 francs, le tout fut complété par des dons.
Le projet architectural fut l’occasion d’un important débat stylistique : le premier projet dessiné en mars 1844 par l’architecte départemental Nicolas-Marie Derobe (1792-1888) prévoit un édifice de 1400 places inspiré de "l'architecture égyptienne", en fait surtout mauresque. Ce faisant, il répond à la demande du consistoire de Metz qui souhaite affirmer la judéité de l’édifice par une référence orientale. L’architecte puise son inspiration dans les ouvrages de Léon de Laborde (1807-1869) sur l’Orient. Il prévoit dès ce moment deux rangs de tribunes pour les femmes tandis que deux pavillons devaient accueillir des écoles. Ce parti pris est contesté par le Conseil des Bâtiments civils. Le Conseil départemental des bâtiments civils impose le style roman réputé moins coûteux et plus convenable à un usage religieux. La façade est alors redessinée avec la coopération de l’architecte Charles Gautiez (1809-1856).
Par son plan rectangulaire cantonné de massifs d’angle, le nouveau projet s’inspire du descriptif du Temple de Jérusalem. Les travaux furent adjugés en 1847 pour la construction d’une synagogue avec écoles pour les garçons et les filles et salles de réunion et d’asile. Les entreprises retenues, messines, furent : Pierre Barthelemy pour la maçonnerie, Antoine Framery pour la charpente, Joseph Muscal pour la couverture, Élie Dennery maître-menuisier pour la menuiserie, Félix François pour la plâtrerie, Jean-Baptiste Quentin pour la serrurerie, Édouard Parant pour la ferblanterie, Joseph Masson pour la vitrerie et enfin Abraham Grodvolle pour la peinture.
La première pierre fut posée le 20 septembre 1848 et l’inauguration le 30 août 1850. L’édifice est pourvu d’une chaire à prêcher dès l’origine (après Strasbourg en 1834, Nancy en 1843) puis d’un orgue en 1896 (après Benfeld en 1846, Nancy en 1861, Sarreguemines en 1867, Sélestat en 1890 et Mulhouse en 1891).
A partir de 1901, le Consistoire envisage son déplacement car le quartier a mauvaise réputation, des hypothèses se succèdent, rue Marchand, face à l’ancienne gare, place Gallieni près de la porte Serpenoise mais aucun ne connait de suite. Durant la Seconde guerre mondiale elle est utilisé comme entrepôt par les nazis et son intérieur est saccagé mais l’édifice est préservé. Il est aujourd’hui complété par des écoles et un home pour les personnes âgées.