1897 senesinde Tarsus'ta doğdu.
Tarsuslu ünlü Aşık Sıtkı Pervane'nin oğludur.
İrşad için Hacı Bektaş dergahına kapılanmış bulunan babasının yanında kalarak eğitimini bu tekkede yaptı. 1925 yılına kadar Hacı Bektaş Dergahında kalan Ali Baki, tekke ve zaviyelerin kapatılmasıyla babasıyla birlikte Merzifon'un Harız köyüne gelip yerleşti. Babasının ölümünden sonra köyün imamlığını da yapan aşık 1950 senesinde burada öldü.