Rumi 1299 yılında Kosova'da doğmuştur. Kalkandelen Harabati Sultan Dergahı'nda, Yakovalı Hacı Adem Baba'dan ders almıştır. Ulusal Kurtuluş Savaşı'nda İstanbul M.M. Grubunda görev yapmıştır. Cumhuriyete ve Atatürk ilkelerine bağlı olarak yaşamış, 12 Aralık 1953 tarihinde ölmüştür. Şiirleri oğlu Turgut Koca tarafından Kazım Baba Divanı adlı kitapta toplanmıştır.