Musa Kâzım, 1882 yılırîda İstanbul’da doğdu. Babası Mehmet Emin Paşa, jandarma subayıydı. Görevi gereği Osmanh İmparatorluğu'nun değişik yerlerine tayin edildiği için Kâzım da ailesiyle birçok değişik yer gördü. Gördüğü yerler içinde Van, Harput, Mekke onun zihninde en fazla iz bırakan yerlerden oldu.
Annesi Havva Hanım, nereye gittilerse oğlu-nun yetişmesi, eğitimi için büyük çaba harcadı.
Aile, Karaman'm Kasaba köyü doğumlu... Bu köy, günümüzde Kâzımkarabekir ilçesi. . . Aile, Avşar Türklerinden Karabekiroğulları soyundan geliyordu. Kâzım ortaokul çağına gelene kadar aile babanın görevi gereği bazı illerde yaşadı. Kâzım ortaokulu İstanbul'da okumaya başladı.
Fatih’teki Askerî Rüştiye'de ortaokula başladı. Ortaokul bitince Kuleli Askeri Lisesi’ne gitti.
Lisede de başarılı bir öğrenciydi. Liseden sonra gittiği Harp Okulu'nu 1902 yılında bitirdi.