Niyazi Bey ile Şerife Hanım'ın oğlu olarak 1 Temmuz 1940'ta Ankara'da dünyaya gelen Zarifoğlu, okula başlamadan önce, annesi, anneannesi ve mahalle hocalarından okuma-yazmayı, resim yapmayı ve Kur'an-ı Kerim okumayı öğrendi.
İlk şiirleri Kahramanmaraş'ta yerel gazete ve dergilerde yayınlandı
Kahramanmaraş'a dönerek kısa süre vekil öğretmenlik yapan usta yazar, bir gazetede çalışmaya başladı ve bu dönemde ilk şiirleri ile denemeleri, yerel gazete ve dergilerde okuyucuyla buluştu.
Zarifoğlu ile Türk edebiyatının önemli kalemlerinden Rasim Özdenören, Alaeddin Özdenören, Erdem Bayazıt, Mehmet Akif İnan ve Ali Kutlay'ın Maraş Lisesinde başlayan arkadaşlıkları, "Diriliş", "Edebiyat" ve "Mavera" dergilerinde sürdü. Zarifoğlu'nun yazıları, Nuri Pakdil'in Maraş'ta çıkardığı "Hamle" dergisinde yayımlandı. "Yedi Güzel Adam" olarak bugün de hatırlanmaya devam eden bu arkadaş grubu, 1956-1959'da Yenilik, Yeni Ufuklar, Türk Sanatı, Seçilmiş Hikayeler, Varlık, Yeditepe, Dost ve Pazar Postası gibi yayınlarda okurla buluştu.Eskişehir'de Türk Hava Kurumunun uçuş kurslarına katılarak Milli Model Uçak B Sertifikası alan Zarifoğlu, jet pilotu olmak istediyse de kulağındaki rahatsızlık nedeniyle Hava Harp Okuluna gidemedi.
"Yaşamak" kitabı 1980'de yayınlandı
Cahit Zarifoğlu'nun şiirleri, 1966'da yeniden çıkmaya başlayan Diriliş dergisi ile Türk Dili ve Soyut dergilerinde, Cemal Süreya'nın Papirüs, Memet Fuat'ın Yeni Dergi'sinde de yer aldı.
Yazı hayatı boyunca lisedeki arkadaş grubuyla hareket eden Zarifoğlu, 1965'te, haftalık Yeni İstiklal gazetesinin Rasim Özdenören tarafından yönetilen sanat sayfasında yer almaya başladı. Abdurrahman Cem ve Cahit Zarifoğlu imzalarıyla 13 şiir kaleme alan başarılı edebiyatçı, bu şiirleri 1967'de yayımladığı "İşaret Çocukları" kitabına aldı.Otostop yaparak Avrupa'yı dolaştı
Almanya'da Goethe Enstitüsünün dil eğitimi kurslarına giden, otostop yaparak Avrupa'yı dolaşan ve kısa süre tercümanlık da yapan Zarifoğlu, 1969-1970'te "Hakimiyet" gazetesinde teknik sekreter olarak çalıştı.Necip Fazıl Kısakürek nikah şahidi oldu
Şiirleri İngilizce ve Arapçaya da çevrilen usta şair, ömrünün son yıllarında yöneldiği çocuk edebiyatında kaleme aldığı "Yürekdede ile Padişah" eseriyle 1984'te Türkiye Yazarlar Birliği Çocuk Edebiyatı Ödülü'nü kazandı.
Zarifoğlu, pankreas kanseri nedeniyle 7 Haziran 1987'de İstanbul'da vefat etti.
Yedi İklim, Muhit, Mavera, Beyaz Bulut, Seferber, Kitap/Haber, Hece ve Bürde'nin arasında bulunduğu dergilerde vefatından sonra özel sayılarla yad edilen ve adına şiir ödülleri verilen Zarifoğlu hakkında birçok tez de kaleme alındı.
Cahit Zarifoğlu, "İşaret Çocukları", "Yedi Güzel Adam", "Menziller", "Korku ve Yakarış", "Şiirler" adlı şiir kitapları "Serçekuş", "Ağaçkakanlar", "Katıraslan", "Yürekdede ile Padişah", "Motorlu Kuş", "Küçük Şehzade", "Kuşların Dili", "Gülücük" ve "Ağaçokul" isminde çocuk kitaplarına imza attı. Usta yazar, günlük türünde "Yaşamak", roman türünde "Savaş Ritimleri" ve "Anne" eserlerini yazarken, deneme türündeki "Bir Değirmendir Bu Dünya" ve "Zengin Hayaller Peşinde" isimleriyle toplanan eserlerinin yanı sıra "Sütçü İmam" adlı tiyatro oyununu da kaleme aldı. Zarifoğlu'nun üniversite tezi "Rilke'nin Romanında Motifler" adıyla kitaplaştırıldı. Beyan Yayınları ayrıca yazarın "Konuşmalar", "Romanlar," "Hikayeler", "Çocuklarımızla Atlara Biniyorduk", "Okuyucularla", "Mektuplar" ve "Radyo Oyunları"nı okuyucunun istifadesine sundu.