In der zweiten Hälfte des 19. Jahrhunderts genügte das alte Gebäude den Ansprüchen der Gemeinde nicht mehr. Es war zu klein, zunehmend baufällig und nur schwer zugänglich. Jakob Auerbach als Synagogenvorsteher schlug in einem Brief an die Gemeindemitglieder im Jahre 1866 vor, „zur Ehre Gottes und zum Wohle der Gemeinde eine neue Synagoge zu bauen, für nachkommende Generationen Zeugnis ablegend, dass Brudersinn und tätige Bruderliebe eine Wahrheit in Israel sind.“ Finanziert wurde der Neubau durch einen Fonds aus dem Verkauf des alten Schulhauses und der alten Synagoge aber auch durch einen Spendenaufruf bei den Juden der Provinz Westfalen.
Es handelte sich um einen Backsteinbau mit einem rechteckigen Grundriss mit ca. 73 m² Grundfläche. Mit seiner durch Säulen, Rundfenster und Gesimsbänder geschmückten Giebelfront und einem von einem Davidstern bekrönten Türmchen wirkte der Bau funktional schlicht aber durchaus repräsentativ. Auf maurische Stilelemente hatte man dagegen, wie bei den meisten Landsynagogen des späten 19. Jahrhunderts, verzichtet. Der Betsaal war weiß gekalkt, Buntglasfenster und ein Kristallleuchter verliehen dem Raum einen festlichen Charakter. Der Türsturz trug die hebräische Inschrift: „Mein Haus ist ein Bethaus für alle Völker.“ Das Gebäude beherbergte außerdem die jüdische Schule und eine Lehrerwohnung.
Die neue Synagoge wurde am 5. September 1875 feierlich ihrer Bestimmung übergeben. Für die religiöse Zeremonie hatte man einen der bekanntesten Prediger des Reformjudentums, Salomon Blumenau aus Bielefeld, gewonnen. An den Feierlichkeiten nahmen trotz Widerstands seitens der Geistlichen der Landrat, der Bürgermeister und der Magistrat sowie die Stadtverordneten und zahlreiche Bürger teil.
Das Gebäude wurde während der Novemberprogrome komplett zerstört und gebrandschatzt. Überliefert sind nur die Grundrisszeichnungen sowie einige Abbildungen, auf denen das Türmchen mit dem Davidstern erkennbar ist.