1940 yılında Kerkük'te doğdu. İlk ve orta öğrenimini Kerkük'te tamamladı.
Ortaokul çağlarında, Kerkük'ün usta sanatçıları Reşit Küle Rıza, Mustafa Kalayı, İzzeddin Nimet, Mehmet Gülboy ve Abdulvahit Kuzecioğlu ile musiki toplantılarına katıldı.
1958 yılında Abdulvahit Kuzecioğlu ile birlikte Türkiye'ye gelerek Ankara ve İstanbul Radyolarına ilk türkülerini verdi.
1959'da açılan Bağdat Radyosu Türkmence kısmında ses sanatçısı olarak programlar yapmaya başladı. 1960 yılında musiki öğrenimi için Türkiye'ye gelen Kızılay, Ankara Devlet Konservatuvarı Kontrbas bölümüne girdi ve altı yıl eğitim gördü. Bu arada iki sene kadar da rahmetli Fahri Kopuz'dan Klasik Türk Musikisi dersleri aldı. 1966 yılında Kerkük'e döndü.
1967 yılında yerleşmek üzere Türkiye'ye geldi. Abdurrahman Kızılay, Türk Halk Musikisi dalında Kerkük ağzını en iyi temsil eden sanatçılarımızdan birisidir. Halk Musikisi repertuvarına "Altun Hızmav Mülayim", "Degirmançı", "Ağlama Ceylan Balası", "Cerrevın Kulpu Burma", "Elinde Ayağında Ecem Kınası", "Hanım Hanım Ne Gözel Hanımsan", "Altun Tabakta Bal Var" gibi türküler ve birçok hoyrat kazandıran Kızılay, aynı zamanda bir ud sanatçısı ve besteci olarak da tanınır.
Söylediği, Kerkük türkü ve hoyratlarını radyo ve televizyondan zevkle dinlediğimiz Kızılay, evli ve iki çocuk babasıdır.