Sebelum tahun 1914 Malang masih merupakan daerah bagian dari Karesidenan Pasuruan dan kekuasaan tertinggi di Malang adalah Assisten Residen dan kantornya berada di selatan Alun-alun (sekarang kantor Perbendaharaan dan Kas Negara). Setelah Kota Malang dinaikkan statusnya menjadi Gemeente(pemerintah kota) tanggal 1 April 1914, Kota Malang berhak memerintah daerah sendiri dengan dipimpin oleh seorang Burgemeester (Walikota). Semula jabatan walikota itu dirangkap oleh Asisten Residen sampai tahun 1918. Baru tahun 1919 Malang mempunyai walikota pertama HI Bussemaker, yang menduduki jabatannya sampai 1929. Meskipun walikotanya telah ditunjuk, tetapi sampai tahun 1926 Kota Malang masih belum memiliki kantor balaikota yang permanen.

Alasan untuk membentuk daerah pusat pemerintahan baru membuat pihak kota (Gemeente) membuat rencana perluasan kota kedua (Bouwplan II) yang diputuskan pada 26 April 1920. Daerah ini dinamakan sebagai Gouverneur-Generaalbuurt. Rencana tersebut baru dilaksanakan pada tahun 1922. Lapangan yang menjadi orientasi utama daerah baru tersebut kemudian dinamakan sebagai Jan Pieterszoon Coenplein(Lapangan JP. Coen). Karena lapangan tersebut berbentuk bulat (bahasa Jawa: bunder), maka sering disebut sebagai Alun-alun Bunder. Di tengah Alun-alun Bunder tersebut dibuat kolam air mancur. Di sekitar Alun-alun Bunder tersebut, kemudian didirikan berbagai bangunan resmi dan monumental seperti Balaikota Malang, gedung sekolah HBS (AMS), sekarang SMA Negeri, tempat kediaman panglima militer, Hotel Splendid, dan Kantor Dinas Topografi, serta bangunan villa lainnya. Lingkungan baru tersebut kemudian terkenal sebagai daerah yang menjadi ciri khas Kota Malang.

Gagasan perencanaan Balaikota Malang tersebut baru muncul pada akhir tahun 1926. Pada saat itu walikota H.I. Bussemaker mengadakan sayembara perancangan Balaikota Malang, yang lokasinya sudah ditentukan di selatan lapangan JP. Coen. GemeenteMalang menunjuk Ir. W. Lemei sebagai juri dengan dibantu oleh Ir. Ph. N. te Winkel dan Ir. A. Grunberg. Ir. W. Lemei adalah pejabat Landsgebouwendienst (Kepala Jawatan Gedung Negara). Pada sayembara tersebut terdapat 22 gambar yang masuk.

Laporan yang diberikan para juri kepada Gemeente Malang pada dasarnya memberikan penekanan bahwa tidak seorang pun dari peserta sayembara yang berhasil memenuhi persyaratan sebagai pemenang. Denah-denah yang masuk yang masuk memberikan gambaran bahwa pembuatnya kurang ahli, demikian komentar juri. Kekurangan yang paling menonjol dari hampir semua peserta menurut laporan juri antara lain opset yang terlalu mewah, distribusi ruangan yang kurang baik, perbandingan ukuran yang kurang serasi dari ruang-ruangnya. Kemungkinan untuk perluasannya pun tidak dipenuhi oleh beberapa peserta. Ada beberapa peserta yang mencoba untuk memenuhinya tetapi hasilnya dinilai sangat acak-acakan. Hanya satu dua saja yang memang benar-benar memikirkannya dengan layak. Oleh karena itu tidak mengherankan bahwa akhirnya juri memutuskan bahwa tidak ada pemenang di antara pengikut sayembara tersebut.

Namun setelah diadakan penelitian kembali, kemudian diputuskan untuk mengambil tiga buah rancangan untuk dipilih. Setelah diadakan penilaian kembali maka di antara ketiga unggulan tersebut tidak ada yang diberi nomor satu. Pemenang nomer dua dan tiga diberikan kepada dua peserta terbaik. Oleh pihak juri dinilai bahwa kedua proyek yang dipilih sebagai pemenang tersebut dapat dilaksanakan dengan biaya kurang lebih f 175.000,-.

Pada tanggal 14 Februari 1927 diputuskan oleh Dewan Perwakilan (Gemeenteraad) agar rancangan yang dianggap terbaik dapat diwujudkan dengan berbagai perubahan yang diusulkan oleh juri. Keputusan jatuh kepada rancangan HF Horn dari Semarang dengan motto Voor de Burgers van Malang (Untuk Warga Malang). Pekerjaan pembangunan balaikota tersebut dilaksanakan oleh pihak kota sendiri pada 1927-1929, dengan biaya saat itu sebesar f 287.000,- dan perabotannya sebesar f 12.325,-. Pada bulan November 1929 gedung tersebut baru bisa dipakai. Yang pertama kali menempati gedung tersebut adalah pengganti HI Bussemaker, yaitu Ir. EA Voorneman.

Beberapa tahun kemudian apa yang dikemukakan oleh juri sebagai kekurangan, yaitu tentang pembagian ruangannya, ternyata terbukti benar. Akibat pertumbuhan Kota Malang yang sangat cepat, beberapa dinas memerlukan perluasan. Ada bagian-bagian yang harus bertukar tempat dan sebagian lagi rungannya sudah tidak mencukupi lagi. Untuk mengatasi kekurangan tempat tersebut, kemudian ruang baca dan ruang perpustakaan kota dipindahkan Rumah Dinas Kota di Jalan Arjuna. Dengan kosongnya ruang-ruang ini maka untuk sementara kekurangan ruang tersebut dapat dipecahkan.

Perancangan interior dari Balaikota Malang dipercayakan kepada C. Citroen, arsitek terkenal dari Surabaya. Bagian interior yang dirancang oleh Citroen adalah interior balai sidang, ruang walikota dan sekretarisnya. Karena biaya pembangunan gedungnya ternyata sungguh di luar dugaan, maka anggaran untuk interiornya memang menjadi terbatas. Meskipun demikian Citroen telah berhasil membuat interior yang memerikan kesan cukup berwibawa. Kayunya menggunakan jati putih, sedangkan kursinya diberi bekled dari kulit kaleb kuning.

Bangunan balaikota terdiri dari dua lantai. Orientasi bangunannya menghadap utara-selatan. Karena letak dan bentuk utama lokasinya, maka balaikota tersebut seolah-olah ingin menguasai lapangan JP. Coen (Alun-alun Bunder) dengan indahnya. Bentuk utama dari denahnya sesuai benar dengan kehendak situasinya yang harus mengarah ke lapangan JP Coen. tampak bangunannya berbentuk simetri dengan pintu utama tepat berada di tengah. Di atas pintu masuk tersebut terletak ruang rapat beserta teras besar yang diapit oleh ruang walikota dan Dewan Harian. Semua lalu lintas harus melalui pintu utama. Dinas-dinas yang berhubungan dengan publik berada di lantai bawah. Situasi bangunannya sangat mendukung sehingga tampak bangunan menjadi monumental dan megah.

Berbeda dengan rancangan kantor-kantor kolonial lainnya di Hindia Belanda pada waktu itu, Balaikota Malang mengambil model selasarnya (sirkulasi penghubung) di bagian belakang. Pada umumnya kantor kolonial yang dibangun hampir bersamaan dengan Balaikota Malang pada waktu itu, seperti kantor Balaikota Surabaya, Kantor Gubernur Jawa Timur atau Kantor Pusat HVA di Surabaya mengambil selasar mengelilingi gedung. Karena tidak ada perlindungan langsung pada jendela tampak depannya, maka jendela-jendela pada Balaikota Malang ini sekarang terpaksa diberi overstek tambahan, untuk menahan tampiasan air hujan dan masuknya sinar matahari langsung (meskipun orientasi bangunannya diusahakan ke arah utara-selatan, tetapi tidak tepat). Pemerintah Kota (Gemeente) Malang saat itu sadar akan adanya beberapa kekurangan desain bangunan tersebut, maka untuk interior bangunannya pihak Gemeente terpaksa meminta bantuan C. Citroen yang berdomisili di Surabaya.

Pada tanggal 29 Juli 1947 Belanda menyerbu Malang yang dikenal sebagai Agresi Militer Belanda I. Pada tanggal 31 Juli 1947 pukul 9.30 pagi tentara Belanda menduduki Kota Malang. Sebelum tentara Belanda memasuki kota, gedung balaikota sudah dibumihanguskan oleh para pejuang. Bukan gedung balaikota saja yang dihancurkan,

gedung-gedung penting lainnya meliputi seribu bangunan turut dibakar. Baru setelah perang kemerdekaan gedung Balaikota Malang kembali dibangun.