1996年に八幡屋公園へ移転するまでは、中央区大手前(現在のNHK大阪放送局と大阪歴史博物館)にあった。移転前の中央体育館は1959年(昭和34年)7月9日に竣工し、こけら落としは「五大都市体育大会」のバスケットボール競技であった。
1985年に大阪市が、大阪城公園と難波宮跡公園を一体化した「歴史公園構想」を発表。その一環として、馬場町にあったNHK大阪放送会館を中央体育館の場所に移転させることとなった。中央体育館は開館から30年ほど経ち施設が老朽化していたこともあって、候補地となっていた八幡屋交通公園(現・八幡屋公園の一部)への移転が決まった。1997年国民体育大会(なみはや国体)の開催にあわせて、1993年6月に着工、1996年3月に竣工した。