Mevlânâ soyundan gelen Çelebioğlu, 20 Nisan 1934 tarihinde Karaman'da doğdu. Dedesi Ebûbekir Çelebi son Karaman Mevlevîhanesi şeyhidir. İstanbul Üniversitesi Hukuk Fakültesi'ne devam ederken Prof. Dr. Ali Nihad Tarlan'ın bir dersinin tesiriyle İstanbul Üniversitesi Edebiyat Fakültesi Türk Dili ve Edebiyatı Bölümü'ne geçti. Aynı Fakültenin Sanat Tarihi Bölümü'ne de devam ederek ikisinden de diploma aldı (1961). 1965-66 ders yılında Konya Selçuk Eğitim Enstitüsü'nde Türk Edebiyatı Öğretim Görevlisi olarak çalıştı. 1966'da İstanbul Üniversitesi Edebiyat Fakültesi Türk Dili ve Edebiyatı Bölümüne asistan olarak girdi. 1971'de Erzurum Atatürk Üniversitesi İslâmî İlimler Fakültesi'ne geçti. Aynı yıl "Yazıcıoğlu Mehmed ve Muhammediyyesi" adlı doktora çalışmasını tamamladı. 1977'de Ankara Hacettepe Üniversitesi Sosyal ve İktisadî Bilimler Fakültesi Türk Dili ve Edebiyatı Bölümü'ne naklen geçti. Aynı sene "Sultan II. Murad Devri Mesnevileri" adlı çalışmasıyla doçent oldu. 1982 yılında "Kıyafet İlmi" araştırmasıyla Profesörlüğe yükseltildi. Ardından Marmara Üniversitesi Atatürk Eğitim Fakültesi Dekanlığına getirildi. Bir yıl sonra bu görevinden istifa eden Çelebioğlu, son olarak aynı Üniversite'nin Fen-Edebiyat Fakültesi Türk Dili ve Edebiyatı Bölümü'nde Öğretim Üyesi olarak çalışıyordu. Bu göreve devam ederken hac farizasını yerine getirmek üzere Mekke'ye gitti. 2 Temmuz 1990 Pazartesi günü el-Müeysem Tüneli'nde meydana gelen ve "Tünel Faciası" diye isimlendirilen kazada Hakk'ın rahmetine kavuştu. Çelebioğlu'nun eser ve makaleleri arasında, Mevlânâ ve Mesnevîsinin ayrı bir yeri vardır. Daha asistanlık yıllarında Süleyman Nahîfî'nin Manzum Mesnevî Tercümesi'ni bugünkü alfabeyle hazırlamış ve neşrini gerçekleştirmiştir. (Mesnevî-i Şerîf, Aslı ve Sadeleştirilmişiyle Manzum Nahifî Tercümesi, Sönmez Neşriyat, İstanbul 1967-72, 3c.). Ayrıca "Anadolu'nun Türkleşmesinde Mevlânâ'nın Rolü", "Ebced Hesabıyla Mevlânâ'nın Doğum Tarihi", "XIII-XV (İlk yarısı). Yüzyıl Mesnevîlerinde Mevlânâ Tesiri", Hz. Mevlânâ'ya İzâfe Edilen Bir Gazelin Şerhi", "Muhtelif Şerhlere Göre Mesnevî'nin İlk Beytiyle İlgili Düşünceler" gibi Mevlanâ ve Mesnevî üzerine önemli makaleleri vardır. Eserlerinden bazıları:

Mesnevî-i Şerîf, (Aslı ve Sadeleştirilmişiyle Manzum Nahifî Tercümesi), MEB Yay., İstanbul 2000, 6 c.

Türk Edebiyatı'nda Mesnevî, Kitabevi Yay., İstanbul 1999.

Ramazanname, MEB Yay., İstanbul 1995.

Muhammediyye, MEB Yay., İstanbul 1995, 2 c.

Kanûnî Sultân Süleymân Devri Türk Edebiyatı, MEB Yay., İstanbul 1994.

Ali Nihad Tarlan, Kültür Bakanlığı Yay., Ankara 1989. Erzurumlu İbrahim Hakkı, Kültür ve Turizm Bakanlığı Yay., Ankara 1988.

Türk Ninniler Hazinesi, Ülker Yayınları, İstanbul 1982.

Türk Bilmeceler Hazinesi (Yusuf Ziya Öksüz ile beraber), Ülker Yayınları, İstanbul 1979.

Eski Türk Edebiyatı Araştırmaları, (Bütün makaleleri), MEB Yay., İstanbul 1988.