Sākotnējā Ebreju muzejs, Vīnes tika dibināta 1896. gadā un bija pirmais muzeju šāda veida pasaulē. Muzejs bija ar atbalstu no Sabiedrības, lai savāktu un saglabātu mākslas un vēstures pieminekļu еврейства". Viņš bija vērsta uz vēsturi un kultūru ebreju Austroungārijas Ungāru impērijas. Viņa kolekcija priekšmetu un izstrādājumu no Palestīnas arī atspoguļoja politisko diskusiju par сионизме. Muzejs tika slēgts uzreiz pēc uzņemšanas Austrijas nacistiem. Pēdējo gadu pastāvēšanas viņš bija 6474 dažādu eksponātu. 1939. gadā viņi tika pārcelti uz etnoloģijas muzejs un citas institūcijas.

Lielākā daļa no lietām ir atpakaļ ebreju kopienai sākumā 1950, bet daži ir izdevies atgūt tikai 1990. gada. Daudzi eksponāti ir pazuduši. Kad Jaunā ebreju muzejā tika veikta inventarizācija, izrādījās, ka puse no sākotnējās pozīcijas pazuda. Toties atlikušās lietas ir ļoti nedaudziem eksponātiem, kas ir, piemēram, preces ikdienas dzīvē, gan arī unikāli materiāli.

31 decembris 1964 mazu ebreju muzejs tika atvērts nesen uzceltajā ēkā Темпелгассе, bet nesaņēma gandrīz nekādu sabiedrības uzmanības centrā. Pēc 3 gadu muzejs jau ir slēgts.

Pirmā izstāde jaunu Ebreju muzeja Vīnē atklāta 7. martā 1990. gada pagaidu telpās birojos ebreju kopienas. Ievērojama daļa no izstādes bija veidota no galerijas Max Бергера. 1992. gadā muzejs pārcēlās uz savu pašreizējo mājas pilī Эскелес uz Доротеегассе. Muzeja atklāšana notika tikai gadu vēlāk, 1993. gadā. Bibliotēka ir atvērta sabiedrībai, kopš 1994. gada.

Ar 2011. gada muzejs durvis vēra pēc pilnas rekonstrukcijas, gan pašas ēkas, gan servisa pastāvīgajā ekspozīcijā. Pēc remonta Ebreju muzejs apmeklētājus sagaida jauna apgaismojuma ierīkošanu, kas tika veikts saskaņā ar oriģinālu. Pastāvīgās izstādes muzejā izvietotas trīs zonās.