Kalimantan Timur awalnya jarang dihuni dan memiliki beberapa kerajaan seperti Kutai, Kesultanan Kutai Kartanegara ing Martadipura, Kesultanan Pasir, dan Kesultanan Bulungan. Wilayah ini merupakan bagian dari taklukan Kesultanan Banjar sejak zaman Hindu, seperti tercatat dalam Hikayat Banjar. Pada paruh pertama abad ke-17, Sultan Makassar berdagang di sana melalui perjanjian dengan Sultan Mustain Billah dari Banjar.
Pada 1787, Sultan Tahmidullah II dari Banjar menyerahkan Kalimantan Timur kepada VOC Belanda. Seiring waktu, wilayah ini menjadi bagian dari Hindia-Belanda berdasarkan traktat 1817 dan ditegaskan kembali oleh Sultan Adam pada 1826. Belanda menempatkan Asisten Residen di Samarinda pada 1846 untuk mengelola Borneo Timur.
Provinsi Kalimantan Timur dibentuk berdasarkan Undang-Undang Nomor 25 Tahun 1956, dengan APT Pranoto sebagai gubernur pertama. Wilayah ini dimekarkan menjadi tiga provinsi: Kalimantan Timur, Kalimantan Selatan, dan Kalimantan Barat. Daerah Tingkat II di Kalimantan Timur dibentuk berdasarkan Undang-Undang No. 27 Tahun 1959, mencakup dua kotamadya (Samarinda dan Balikpapan) dan empat kabupaten (Kutai, Pasir, Berau, Bulungan).
Perkembangan lebih lanjut terjadi dengan pembentukan Kota Administratif Bontang (1981) dan Kota Madya Tarakan (1989). Berdasarkan Undang-Undang No. 22 Tahun 1999 tentang Otonomi Daerah, dibentuk pula Kabupaten Kutai Barat, Kutai Timur, Malinau, dan Nunukan, serta peningkatan status Bontang menjadi kotamadya.
Pada 2012, Kalimantan Timur dimekarkan lagi menjadi Provinsi Kalimantan Utara, yang terdiri dari wilayah-wilayah baru tersebut. Sejak pembentukannya, Kalimantan Timur telah mengalami pemekaran dan perubahan administratif yang signifikan.
Gedung utama Kantor Gubernur Kalimantan Timur di pinggiran Sungai Mahakam, kota Samarinda, adalah gedung kantor pemerintah yang saat ini menampung operasional Pemerintah Daerah Kalimantan Timur, sebelumnya Sekretaris Wilayah Daerah, sejak 1984. Gedung bergaya pascamodernisme ini kini memiliki 7 lantai dan dibangun selama tiga tahun dari 1980 hingga 1983. Awal keputusan membangun gedung ini sudah dicetuskan dan didesain di masa Abdul Wahab Sjahrani, tetapi eksekusi dan finishingnya dilakukan masing-masing di era Ery Soepardjan dan H. Soewandi.
Konstruksi Gedung Kantor Gubernur Kaltim, sebelumnya Kantor Setwilda Kaltim, dimulai pembangunannya sejak Agustus 1980 oleh pemborong swasta PT Multistructure. Dijadwalkan selesai dibangun pada Maret 1983, gedung dengan pondasi cakar ayam ala Ir. Sedijatmo ini pembangunannya ditunda sekitar Mei 1982 di lantai empat; salah satu anonim yang menelpon ke KOMPAS bahwa penghentian ini terkait tenggelamnya pondasi gedung lebih dari 20 sentimeter dan kemiringan gedung sekitar 10 sentimeter. Klaim tersebut berpotensi merusak citra pondasi cakar ayam yang dirancang untuk daerah dengan tanah berlumpur dan lembek seperti rawa bekas Kantor Gubernur Kaltim.
Klaim tersebut dipatahkan pihak perancang pondasi dari PT Cakar Bumi. Pihak perancang mengatakan alasan dihentikannya proyek tersebut adalah untuk menguji kemampuan beban gedung terhadap pondasi dangkal, dan menjamin bahwa pengaruh penurunan tersebut tidak signifikan. Akibat dari penundaan ini, penyelesaian proyek pun molor sampai Desember 1983. Baru pada awal Januari 1984, Kantor Gubernur Kalimantan Timur mulai ditempati instansi kegubernuran, dan diresmikan oleh Mendagri Soepardjo Rustam pada 11 Juni 1984. Pemerintah Kalimantan Timur mengatakan bahwa biaya pembangunan kantor gubernur baru tersebut menghabiskan biaya Rp. 5,8 milyar rupiah (1984, setara Rp. 113 milyar nilai 2021)
Sayangnya penampilan gedung ini sudah berubah total sejak era Gubernur Suwarna Abdul Fatah (1998-2006).