První zmínka o synagoze a jménu Pinkas pochází z roku 1492. Je pravděpodobné, že na tomto místě již stála modlitebna nebo synagoga. Tato domněnka vznikla na základě vykopávek v letech 1968 a 1990, ale musí následovat další důkazy.
Synagoga v dnešní Široké ulici patřila rodině Horovských. Jesaja Horovský odkázal synagogu v roce 1519 Aronu Meschullamovi Horovskému, který ji nechal v roce 1535 přestavět. Horovský byl prasynovcem původního zakladatele synagogy, jistého rabína Pinkase. Historické dokumenty naznačují, že mezi „vzpurnou" rodinou Pinkasů a starousedlíky Staronové synagogy docházelo ke sporům, a ti proto v roce 1472 založili synagogu na nevyužitém pozemku nedaleko kostela sv. Valentina. Části této staré synagogy se dochovaly. V letech 1607 až 1625 byla přistavěna renesanční zasedací síň s křížovými klenbami, plochými kamennými žebry a kopulovitými okny zdobenými zvenčí pilastrovým pásem. Vznikla také ženská loď a galerie s arkádami ústícími do sálu hlavní modlitebny. Architekt přestavby Juda Goldschmied de Herz je pohřben na vedlejším starém židovském hřbitově. Na jeho náhrobku stojí: „V úterý 2. Tischri 5 386 (1625). Zde odpočívá moudrý a dovedný muž Juda Goldsmith de Herz. Byl vždy opatrný a bohabojně vykonával své modlitby, živil se vlastní prací a celá stavba Pinkasovy synagogy a části Maislovy synagogy byla provedena podle jeho plánů. Budiž pochválen."
O velikosti modlitebny v Pinkasově synagoze svědčil počet míst k sezení. V dolní části bylo 177 míst, v ženské části 100 míst a na galerii, která byla určena výhradně pro ženy, 143 míst. V průběhu staletí se Pinkasova synagoga opakovaně stala obětí povodní (naposledy v roce 2002). V důsledku povodňových katastrof v 17. a 18. století se propadala stále hlouběji do země a musela být znovu a znovu renovována.
S každou renovací se původní výzdoba ztrácela a docházelo ke změnám. V Pinkasově synagoze se až do 19. století nacházely památníky Žida Schloma Molcha, který byl v roce 1532 ve Španělsku upálen na hranici za to, že se hlásil k židovské víře.
V letech 1922-1925 byly odkryty základové zdi středověké synagogy, v letech 1950-1953 také původní omítky, v sedmdesátých letech byla nalezena rituální lázeň, mikve, později byly provedeny další restaurátorské práce.
V roce 1960 zde byl zřízen památník židovských obětí nacistického fašismu z Čech a Moravy. Na stěnách hlavní lodi a přilehlých místností bylo zaznamenáno 77 297 jmen. Jména pražských Židů jsou zaznamenána v lodi. Jména jsou uvedena v abecedním pořadí spolu s datem narození a datem deportace na Východ. V sousedních místnostech jsou jména Židů z jiných obcí v Čechách a na Moravě. Na zdi, kde kdysi stála svatyně Tóry, si můžete přečíst jména koncentračních a vyhlazovacích táborů, v nichž tito lidé zahynuli.