A településen régóta éltek zsidók. Egyes források szerint a Thököly Imre vezette kurucok 1683-as magyarbrodi vérengzésének túlélői Szerdahelyre menekültek, ahol hitközséget alapítottak. A zsidóság megjelenésében mindenestre minden bizonnyal az is jelentős szerepet játszott, hogy a cseh és morva területeken III. Károly (1711–1740) rendelettel korlátozta a zsidók családalapítási szabadságát, továbbá az örökös osztrák tartományokból is próbálták kiszorítani őket.

1739-ban a település földesura, Pálffy János gróf privilégiumlevelet adott a hitközségnek, amelyből többek között kiderül az is, hogy a közösség élén ekkor úgynevezett zsidóbíró (Judenrichter) állt. 1740-től pedig már a mindmáig létező ortodox temető is működött, amelyet a Sikabony melletti egykori Csót pusztán hoztak létre. Mindemellett pedig a zsidó hitközség ekkor a zsinagóga építés jogát és megszerezte.

Ezen első imaházat a korabeli Szerdahely szélén, tulajdonképpen a katolikus templom szomszédságában építették. Mindazonáltal a két épület közelsége révén is kialakuló felekezeti feszültségek miatt a Pálffyak végül saját költségükön egy nagyobb zsinagógát építettek. Ezen zsinagóga már mai Fő utcán állt, azonban az még mindig nem azonos a későbbi, híressé vált Nagytemplommal.

1828-ra a későbbi Dunaszerdahelyt alakító Szerdahely, Újfalu, Nemesszeg és Előtejed településeken 1709 keresztény mellett már 928 zsidót tartanak számon. Érdekes megemlíteni, hogy Szerdahelyen a zsidó közösség nagysága már ekkor meghaladta a nem zsidókét: 354 zsidó mellett mindössze 303 keresztény élt akkor a településen.

A közösség létszáma a következő évtizedekben is gyorsan növekedett: 1840-ben 1239, 1880-ban pedig 1874 zsidó élt (akkor már) Dunaszerdahelyen. Így nem is csoda, hogy az 1860-as években már túlságosan kicsinek bizonyult a közösség zsinagógája, ekkor építik meg Dunaszerdahelyen az akkori Magyarország egyik legnagyobb ortodox zsinagógáját, a Nagytemplomot.

A keleties stílusú, óriási, 800 férőhelyes zsinagóga Áron Smuél Aszád rabbisága alatt épült meg. „A vagy 45 m hosszú, 20 m széles és kb. 15 m magas épület a nyolc kipával a tetején lenyűgözően és meghatóan szép volt. A két kőtábla ott magasodott föl a két középső domborulat között. Három nagy, nehéz kapu nyílott a templom nyugati oldalán. A középső a férfiak nagytemploma, a két szélső a női karzatba vezetett; ez az első emeleten volt. A férfirészben a nagyajtó egy kis teremre nyílott, az pedig egy nagyobbra. A középső terem két oldalán kisebb ima- és tantermek voltak, és e teremből nyíltak a nagy szárnyas ajtók a templom szentélyébe” – írja a zsinagógáról Engel Alfréd.

A második világháború borzalmai városunkat sem kerülték el. 1944. március 21-én Dunaszerdahelyen is megjelent az SS. A hitközséget feloszlatták, és elrendelték a helyi zsidó lakosság gettósítását. A Bacsák utca és a Csillag utca területén felállított gettót végül június 8-án ürítették ki, amikor a környező települések zsidó lakosságát a Fő utcai nagy zsinagógába zsúfolták, majd június 15-én valamennyiüket innen deportálták Auschwitzba.

1944 novemberétől a zsinagóga épületét a németek autójavító műhelyként használták, 1945 húsvétján pedig orosz bombatalálat érte, amikoris a zsinagóga egy része összedőlt. Az épület sorsát végül az érdektelenség, illetve a kommunista vallásellenesség pecsételte meg: 1951-ben lebontották. Az egykori nagy zsinagóga helyén –a Jehuda Aszád-téren –ma a Mementó holokauszt emlékmű áll.