זרצ'ה הוא אחד הפרברים העתיקים ביותר של וילנה, שמופיע במקורות הכתובים כבר במאה ה-15. על פי מפקד הבתים משנת 1887 היו בזרצ'ה 80 בניינים בבעלות היהודים. בשל הצפיפות בבית הקברות היהודי הישן בשניפישוק בשנת 1829 נרכשה חלקת אדמה לבית העלמין היהודי החדש בפאתי זרצ'ה. במקום זה (ברחוב אוז'ופיו 36 ו-38) על המדרון של נחל וילניה עד 1840 היה בית הכנסת מעץ וממול בכיכר היה שוק של זרצ'ה. באותו המקום בשנת 1841 נבנה בית הכנסת החדש מאבן בעל קומה אחת. בשנת 1915 בו הותקן חשמל.
לבית הכנסת זה הייתה חשיבות מיוחדת ליהודי וילנה.