Η πινακοθήκη βρίσκεται στην περιοχή του πάρκου Joubert, λίγα τετράγωνα μακριά από τον κεντρικό σιδηροδρομικό σταθμό του Γιοχάνεσμπουργκ. Το κτίριο σχεδιάστηκε από τον βρετανό αρχιτέκτονα σερ Эдвином Лаченсом και αποτελείται από 15 εκθεσιακούς χώρους, καθώς και αρκετές εκθέσεις περιοχές κάτω από τον ουρανό για τα μεγάλα γλυπτά. Το αρχείο είναι μια συλλογή από τη βρετανική και την ολλανδική ζωγραφική του XVIII-XIX αιώνα, συλλογή ευρωπαϊκή ζωγραφική του ΧΙΧ αιώνα, καθώς και μια μεγάλη συλλογή σύγχρονων έργων της νότιας αφρικής και ξένων καλλιτεχνών.

Συλλέκτης η Ντοροθέα Σάρα Φλόρενς Αλεξάνδρα Phillips, η γυναίκα του βουνού μεγιστάνα ένα lionel Φίλιπς, δημιούργησε την πρώτη συλλογή της γκαλερί για τις δαπάνες που έγιναν από τον άντρα της. Μετά τη μετακίνηση σε Γιοχάνεσμπουργκ άρχισε να αγοράσετε σχεδίων με στόχο τη δημιουργία γκαλερί τέχνης, το οποίο στη συνέχεια έγινε γκαλερί Τέχνης του Γιοχάνεσμπουργκ. Απέκτησε μια συλλογή από πίνακες του βρετανού συλλέκτη και του καλλιτέχνη σερ Χιου Λέιν, εκτεθειμένη στο Λονδίνο το 1910. Κυρίες Phillips, δώρισε τη συλλογή της δαντέλας και έπεισε τον σύζυγό της να μεταφέρει για τη συλλογή επτά έργα ζωγραφικής και ένα γλυπτό του Ροντέν.

Τη συλλογή της πινακοθήκης περιλαμβάνει έργα από τον auguste Rodin, Ντάντε Γκάμπριελ Россетти, Πάμπλο Πικάσο, Camille Писсарро, Claude Monet, Edgar Degas, Χέρμπερτ Γουόρντ και ο Χένρι Μουρ, καθώς και την εργασία της νότιας καλλιτέχνες - Gerard Секото, τον Γουόλτερ Баттисса, Αλέξιο Преллера, Mod Самнера, Σίδνεϊ Кумало και άλλα.

Πινακοθήκη του Γιοχάνεσμπουργκ ήταν ανοιχτή για το κοινό το 1910, στις εγκαταστάσεις του πανεπιστημίου Витватерсранда. Αρχιτέκτονας, σερ Έντουιν Лаченс, προσκεκλημένος κυρία Φίλιπς, ήρθε στη Νότια Αφρική το 1910, για να εξερευνήσετε την περιοχή και να αρχίσει η κατασκευή του κτιρίου της γκαλερί. Αλλά η κατασκευή δεν έχει ολοκληρωθεί για τα σκίτσα του αρχιτέκτονα. Μετά από πέντε χρόνια από την έναρξη των εργασιών κατασκευής, το κτίριο άνοιξε τις πόρτες του για το κοινό, χωρίς καθυστέρηση, αμέσως μετά την έναρξη του Πρώτου παγκοσμίου πολέμου.

Στο τέλος της δεκαετίας του 1940 το κτήριο της πινακοθήκης ήταν να αναπτυχθεί σύμφωνα με σχέδια του αρχιτέκτονα Лаченса - έτος κατασκεύης δυτική και ανατολική πτέρυγα του κτιρίου. Η βόρεια πτέρυγα γκαλερί με μια σύγχρονη πρόσοψη χτίστηκε κατά τη διάρκεια της τελευταίας ανακαίνισης του κτιρίου στο έτος 1986-1987.