Mākslas galerija atrodas parka teritorijā Жубер, dažu kvartālu attālumā no galvenās dzelzceļa stacijas Johannesburg. Ēka projektēta britu arhitekts sir Эдвином Лаченсом un sastāv no 15 izstāžu zāles, bet arī vairāku izstāžu teritoriju brīvdabas lielu skulptūru. Viņa arhīvos ir kolekcija britu un holandiešu glezniecības XVIII-XIX gadsimtu, kolekcija eiropas glezniecības XIX gadsimtā, kā arī ir liela kolekcija mūsdienu darbu dienvid-āfrikas un ārvalstu mākslinieku.

Kolekcionārs Doroteja Sarah Florensa Aleksandra Phillips, sieva kalnrūpniecības magnāts Lionel Phillips, ir izveidojusi pirmo kolekciju galerijas līdzekļu rēķina, kas ir viņas vīrs. Pēc pārcelšanās uz Johannesburga viņa sāka iegādāties gleznas, lai radītu mākslas galerijas, kas vēlāk kļuva par Mākslas galeriju, Johannesburg. Viņa ir ieguvusi kolekcijas gleznas britu kolekcionāra un mākslinieka sir Hugh Lane, выставленную Londonā 1910. gadā. Lady Phillips ziedoja savu kolekciju mežģīnēm un pierunāja savu vīru sūtīt, lai galerijas septiņas gleznu un skulptūru Rodin.

Kolekcija galerijas ietver darbu, ko Auguste Rodin, Dante Gabriel Россетти, Pablo Pikaso, Camille Pissarro, Kloda Monē, Edgara Degā, Herberta Ward house historic museum un Henry Moore, kā arī darba dienvidāfrikas mākslinieku - Джерарда Секото, Valters Баттисса, Aleksu Преллера, Modes Самнера, Sidnejas Кумало un citiem.

Johannesburgas mākslas galerija ir atvērta sabiedrībai, 1910. gadā universitātes Витватерсранда. Arhitekts sers Edvīns Лаченс, apmeklējot lady Philips, atbraucu uz Dienvidāfriku 1910. gadā, lai izpētītu teritoriju un sākt ēkas būvniecība galerijas. Bet būvniecība netika pabeigta pēc arhitekta skicēm. Pēc piecus gadus no būvdarbu uzsākšanas, ēka ir atvērusi savas durvis sabiedrībai bez ceremonijas, uzreiz pēc Pirmā pasaules kara sākuma.

Beigās 1940 galerijas ēka tika paplašināta saskaņā ar dizainu arhitekta Лаченса - celta rietumu un austrumu spārna ēkas. Ziemeļu spārnu galerijas ar modernu fasādi, tika uzcelta laikā pēdējā ēkas rekonstrukcijas 1986-1987 gadā.