1946 senesinde Mersin vilayetinin, Mut ilçesi, Kumaçukuru köyünde yoksul bir ailede dünyaya gelen Musa Eroğlu, yedi kardeşin ikincisidir. Tahsilini Mut ilçesinde tamamlamıştır. Saz çalmaya küçük yaşlarda başlamıştır. 1964 senesinde Ankara'ya gelen Musa Eroğlu, ilkinde kazanamadığı radyo sanatçılığını, ikinci girişinde kazanmıştır.
1966 senesinde vatani görevini yapmak üzere askere gitti. 1968 yılında terhis oldu. 1969 senesinde ilk çalışmasını "İkimiz Toprağa Girelim Elif" adıyla çıkarmıştır. Birçok türküyü derleyerek TRT arşivine kazandırmıştır. 1970 ve 1980 senelerinde TRT kurumunda yerel sanatçı olarak çalışmıştır.
Musa Eroğlu, yurt çapında tanınmasını "Mihriban" türküsüyle gerçekleştirmiştir. Sanat hayatı süresince, Neşet Ertaş, Belkıs Akkale, Mahzuni, Gülşen Kutlu ve İbrahim Tatlıses gibi sanatçılarla çalışmıştır.
Toroslardan kopup gelen Musa Eroğlu, Türk Halk Müziği'ne eserleriyle büyük zenginlik katmıştır. "Telli Turnam", "Yolun Sonu", "Halil İbrahim" en tanınan ve en sevilen eserleri olmuştur.
1998 senesinde Devlet Sanatçısı unvanı, Kültür Bakanlığı tarafından kendisine verilmiştir.
Yurt dışında birçok resital veren Musa Eroğlu, aşk türkülerinin yanında müziğin protest yönüne de sadık kalmıştır.
1975 senesinde "A Kuzum", 1977 senesinde "Yaralı Turnam", 1978 senesinde "Bu Dünya", 1979 senesinde "Yaz Gelir", 1983'den 1989 senesine kadar "Muhabbet" serileri, 1987 senesinde "Seher Oldu Ey Nigarım", 1988 senesinde "Yummayın Kirpiklerini" ve "Divane Gönlüm Benim", 1990 senesinde "Bir Yanardağ Fışkırması", 1991 senesinde "Garip Yolcu", 1992 senesinde "Benim Dünyam", 1993 senesinde "Kevser Irmağı / Sevda Yükü", 1994 senesinde "Yol Ver Dağlar", "Musa Eroğlu 94" ve "Bin Yıllık Yürüyüş 1 ve 2", 1995 senesinde "Ömrüm Sana Doyamadım", 1996 senesinde "Halil İbrahim / Kerbela Destanı" ve Bağlama Resital 1 ve 2", 1997 senesinde "Semahlarımız", 1998 senesinde "Musique Instrumentale D'Anatolie", 1998 senesinde "Kavimler Kapısı Anadolu", 2000 senesinde "Bir Nefes Anadolu", 2003 senesinde "Sele Verdim", 2004 senesinde "Sazımızla Sözümüzle 2", 2007 senesinde "Dedem Korkut", 2010 senesinde "Armağan 1" ve "Semahlar", 2012 senesinde "Zamansız Yağmur" Musa Eroğlu'nun yaşamı boyunca çıkardığı albümleridir.