Το πρωτότυπο Εβραϊκό μουσείο της Βιέννης ιδρύθηκε το 1896 και ήταν το πρώτο μουσείο αυτού του είδους στον κόσμο. Μουσείο υπήρχε με την υποστήριξη της "Κοινωνίας των πολιτών για τη συλλογή και τη διατήρηση των καλλιτεχνικών και ιστορικών μνημείων των εβραίων". Ήταν επικεντρώνεται στην ιστορία και τον πολιτισμό των εβραίων στην Αυστρο-Ουγγρικής αυτοκρατορίας. Η συλλογή των αντικειμένων και των προϊόντων του από την Παλαιστίνη επίσης πιστά την πολιτική συζήτηση σχετικά με сионизме. Το μουσείο ήταν κλειστό αμέσως μετά τη σύλληψη της Αυστρίας από τους ναζί. Στο τελευταίο έτος της ύπαρξής του είχε 6474 διάφορα εκθέματα. Το 1939 είχαν μεταφερθεί στο μουσείο εθνολογίας και άλλα ιδρύματα.

Τα περισσότερα πράγματα έχουν επιστραφεί εβραϊκή κοινότητα στις αρχές της δεκαετίας του 1950, αλλά μερικοί κατάφεραν να επιστρέψει μόνο του 1990 έτους. Πολλά από τα εκθέματα έχουν χαθεί. Όταν στο Νέο εβραϊκό μουσείο πραγματοποιήθηκε απογραφή, αποδείχθηκε ότι οι μισοί από πρωτότυπα αντικείμενα εξαφανίστηκαν. Αλλά τα υπόλοιπα τα πράγματα είναι πολύ σπάνια εκθέματα, τα οποία είναι ως αντικείμενα καθημερινής οικιακής χρήσης, καθώς και μοναδικά υλικά.

31 δεκεμβρίου 1964 μικρό εβραϊκό μουσείο άνοιξε σε ένα πρόσφατα κατασκευασμένο κτήριο για Темпелгассе, αλλά δεν έλαβε σχεδόν καμία δημόσια προσοχή. Μετά από 3 χρόνια το μουσείο ήταν κλειστό.

Η πρώτη έκθεση του νέου Εβραϊκού μουσείου της Βιέννης άνοιξε 7 μαρτίου 1990 σε προσωρινούς χώρους στα γραφεία της εβραϊκής κοινότητας. Μεγάλο μέρος της έκθεσης συντάχθηκε από τη συλλογή του Μαξ νεφροπάθεια μπέργκερ. Το 1992 το μουσείο μεταφέρθηκε στη σημερινή σπίτι στο παλάτι Эскелес στο Доротеегассе. Το άνοιγμα του μουσείου πραγματοποιήθηκε ένα χρόνο αργότερα, το 1993. Η βιβλιοθήκη ήταν ανοιχτή για το κοινό από το 1994.

Από το φθινόπωρο του 2011 το μουσείο άνοιξε τις πόρτες του μετά από πλήρη ανακαίνιση, όπως το ίδιο το κτίριο, καθώς και την ενημέρωση της μόνιμης έκθεσης. Μετά την επισκευή το Εβραϊκό μουσείο υποδέχεται τους επισκέπτες ένα νέο σύστημα φωτισμού, που έγινε σύμφωνα με το πρωτότυπο έγγραφο. Οι μόνιμες εκθέσεις στο μουσείο βρίσκονται σε τρεις περιοχές.