Abdurrahim Karakoç, 7 Nisan 1932 tarihinde Kahramanmaraş vilayetinin, Elbistan ilçesinde dünyaya geldi. Şiirle iç içe yaşayan bir ailenin ferdidir. Dedesi, babası ve kardeşleri şairdir. Kendisi de çocukluk yaşlarından itibaren şiire ilgi göstermiştir.
Gençliğinde uzun bir süre çiftçilik yaptıktan sonra Elbistan Belediyesinde 1958 ve 1985 yılları arasında muhasebecilik yaptı. 1981 senesi, Mart ayındaki emekliliğinden sonra Ankara'ya giderek gazeteciliğe adım attı.
1958 senesine kadar yazdığı onlarca eseri yakarak yok eden Abdurrahim Karakoç, 1964 senesinde "Hasan'a Mektuplar" isimli ilk kitabını sevenleriyle buluşturdu.
Sonraki dönemlerde,
- Akıl karaya vurdu,
- Vur emri,
- Beşinci mevsim,
- Suları ıslatamadım,
- Kan yazısı,
- Gök çekimi,
- Dosta doğru ile sohbet,
- Çobandan mektuplar
isimli eserleri yayınlandı.
Çeşitli işitsel ve görsel yayınlara katılan Abdurrahim Karakoç'un eserleri birçok araştırmaya konu oldu.
Siyasi taşlamaları kadar aşk şiirleri de beğenilmekte ve birçok sanatçı tarafından bestelenmekte ve seslendirilmektedir.
Abdurrahim Karakoç, 7 Haziran 2012 tarihinde, seksen yaşındayken Ankara'da Hakk'ın rahmetine kavuşmuştur. Kabri, Ankara, Keçiören'deki Bağlum semt kabristanındadır.