Moskow tidak selalu menjadi ibu kota Rusia. Ketika pertama kali disebutkan dalam catatan sejarah sekitar tahun 1147, kota ini tidak lebih dari sebuah kota kecil yang tidak terlalu penting. Warga Moskow saat ini menganggap Pangeran Yury Dolgoruky sebagai bapak pendiri kota mereka, namun hanya tercatat bahwa ia makan malam bersama teman-temannya di kota “Moskov”, yang namanya diambil dari nama Sungai Moskow setempat. Masih belum jelas kapan tepatnya kota ini didirikan, tetapi pada masa Dolgoruky, kota ini diperintah oleh seorang bangsawan bernama Kuchka, yang berselisih dengan pangeran karena pajak dan dijatuhi hukuman mati.
Sebuah benteng kecil dibangun di Bukit Borovitsky oleh putra Dolgoruky, Pangeran Andrei Bogolyubsky; itu adalah bangunan pertama dari serangkaian bangunan yang akhirnya menjadi Kremlin Moskow. Moskow tetap menjadi kota kecil sementara kota terdekat Vladimir menjadi terkenal, menyalip Kiev, ibu kota lama, dalam hal kepentingannya. Keberuntungan Moskow akan berubah di kemudian hari.
Lokasi Moskow di tepi Sungai Moskow merupakan lokasi yang penting, karena sungai tersebut menghubungkan sungai Oka dan Volga. Posisi strategisnya yang penting dan pertumbuhan penduduk yang pesat membuat Daniil Alexandrovich menjadi pangeran Moskow pertama di negara bagian Muscovy yang baru dibentuk. Ia mendirikan dinasti lokal yang pertama-tama memerintah kerajaan Moskow dan kemudian seluruh Rusia. Dia adalah nenek moyang semua Adipati Agung Moskow.
Sejak awal abad ke-14, Moskow bersaing dengan kota tetangganya, Tver, untuk mendapatkan kekuasaan dan pengaruh. Pada tahun 1327, Tver dikuasai oleh Pangeran Moskow Ivan Kalita dan pasukan Mongol, dan kota tersebut tidak dapat pulih dari kekalahan tersebut. Kalita juga menjadikan Moskow sebagai pusat keagamaan baru dengan memikat metropolitan (otoritas keagamaan tertinggi pada saat itu) menjauh dari Vladimir. Pada masa pemerintahan Pangeran Dmitry Donskoy, Kremlin dibangun kembali dengan batu putih dan kemenangan pertama melawan bangsa Mongol dicapai (Pertempuran Kulikovo, tahun 1380).
Pada akhir abad ke-15, di bawah pemerintahan Ivan III (juga dikenal sebagai Ivan yang Agung), sebagian besar wilayah Rusia bersatu di sekitar Moskow. Pada abad ke-16, Ivan IV, atau Ivan yang Mengerikan, menyatakan dirinya sebagai “tsar” (dari kata Latin “kaisar”) di Moskow dan seluruh Rusia. Selama apa yang disebut “Masa Masalah” Moskow diduduki oleh Persemakmuran Polandia-Lithuania. Setelah pendudukan berakhir, Zemsky Sobor (Majelis Nasional Besar) memilih Tsar baru: Mikhail Romanof. Dinasti baru telah lahir.
Pada tahun 1712-14 Peter yang Agung memindahkan ibu kota ke St. Petersburg yang baru didirikan. Petersburg pindah ke utara. Namun, Moskow masih menjadi tempat penobatan kaisar Rusia, sehingga kota ini tidak sepenuhnya kehilangan status ibu kotanya. Banyak bangsawan Rusia mempunyai rumah di Moskow dan St. Petersburg. Petersburg diadakan. Adalah Moskow yang dicoba (tetapi gagal) direbut oleh Napoleon pada tahun 1812, sebagian karena orang-orang Moskow membakar sebagian besar kota tersebut sebelum menyerahkannya kepada pasukan Prancis.
Setelah Revolusi Oktober 1917, kaum Bolshevik memutuskan untuk memindahkan ibu kota kembali ke Moskow dan pada tahun 1918 Moskow menjadi ibu kota Uni Soviet. Moskow menjadi kota metropolitan yang berkembang pesat selama era Soviet dan kini menjadi salah satu kota terbesar di Eropa. Sistem metro Moskow dibangun – salah satu jaringan bawah tanah paling efisien dan indah di dunia.
Selama Perang Dunia II, kota ini kembali menjadi medan perang utama dan sasaran pasukan penyerang. Sebagian besar warga sipil dievakuasi dari kota ketika tentara Soviet melawan Nazi dalam Pertempuran Moskow dari Oktober 1941 hingga Januari 1942. Kekalahan Nazi dalam pertempuran ini merupakan titik balik besar dalam perang tersebut.
Setelah Uni Soviet runtuh pada tahun 1991, Moskow terus menjadi ibu kota, kali ini menjadi entitas baru, Federasi Rusia. Saat ini, Moskow adalah kota yang sangat beragam, dengan lingkungan kuno bergantian dengan gedung-gedung tinggi yang baru dibangun, yang dihuni oleh orang-orang dari seluruh wilayah bekas Uni Soviet.