Musa Rəfiyev 1888-ci ildə Gəncə şəhərində anadan olub.[1][2] İlk təhsilini Gəncənin Şah Abbas məscidinin nəzdində fəaliyyət göstərən mədrəsədə, daha sonra isə Gəncə Kişi Gimnaziyasında alıb.[3]Gəncə Kişi Gimnaziyasını gümüş medalla bitirdikdən sonra Kiyev İmperator Universitetinə daxil olub.[2][4] 1908-ci ildə Kiyev İmperator Universtitetinin tibb fakültəsini bitirdikdən sonra universitetin nəzdində olan klinikada ordinator kimi fəaliyyət göstərib.[4][5] Həmin ilin noyabr ayında Gəncəyə qayıdaraq Yelizavetpol şəhər xəstəxanasında həkim kimi fəaliyyət göstərməyə başlayıb.[3][4] Nümunəvi fəaliyyətinə görə 1913-cü ildə "Titulyar müşavir", 1914-cü ildə "Kollej assesoru", 1916-cı ildə isə "Saray müşaviri" çini alıb.[3] 1914-cü ilin sonlarında Musa bəy Rəfiyev Həsən bəy Ağayev və Xudadat bəy Rəfibəyli ilə birlikdə Gəncədə ilk səhiyyə cəmiyyətini yaradıb.[6][7]
1918-ci il iyunun 17-də Azərbaycan Cümhuriyyətininikinci hökumət kabinetində Musa bəy Rəfiyev portfelsiz nazir təyin olunub.[1][10] 1918-ci ilin oktyabrın 6-da Nazirlər Şurasının Sədri Fətəli xan Xoyski kabinədaxili dəyişikliklər etdikdən sonra Musa bəy Rəfiyev Himayədarlıq və Dini Etiqad naziri təyin edilir.[1] 1918-ci il noyabrın 14-də Vilyam Tomsonla danışıqlar aparmaq üçün Ənzəliyə göndərilmiş Azərbaycan nümayəndə heyətinin üzvü olub.[11] 1918-ci ilin dekabrın 7-də fəaliyyətə başlayan Azərbaycan Cümhuriyyəti Parlamentinə Müsavat partiyasından seçilərək Maliyyə-büdcə komissiyasında fəaliyyət göstərib.[1][12][13] Musa bəy Rəfiyev 22 dekabr 1919-cu ildə formalaşdırılmış beşinci hökumət kabinetində İctimai təminat və səhiyyə naziri vəzifəsinə təyin olunub.[14][15] Bu vəzifəni 1920-ci il aprelin 1-nə qədər icra edib.[16] Fəaliyyət göstərdiyi müddətdə onun rəhbərliyi altında Azərbaycanda 35 xəstəxana, 56 feldşer məntəqəsi açılıb.[4]
Aprel işğalından sonra işğala qarşı baş tutmuş Gəncə üsyanının iştirakçılarından biri olub. Üsyan yatırıldıqdan sonra Türkiyəyə mühacirət edib.[17][18] 1921-ci ilin sentyabrında Azərbaycanın işğal olunmasına qarşı yaradılmış "Azərbaycan [19]Məlumat Bürosu"nun ilk sədri olub.[20] 1922-ci ildə Musa bəyin sədrliyi ilə bu qurumun davamı olan "Azərbaycan Hökuməti və Parlament Üzvləri Komitəsi" formalaşdırılıb.[20]
1925-ci ilin oktyabr ayında ailəsi ilə birlikdə əvvəlcə Xoya daha sonra isə Təbriz şəhərinə köçüb.[20] Burada klinika açıb və özü də orada həkimlik edib.[21]
Musa bəy Nina Alekseyevna ilə ailə qurub. Bu evlilikdən 1922-ci ildə Leyla adlı qızları, 1926-cı ildə isə Davud adlı oğulları dünyaya gəlib.[22]