Sejak kecil Komar dekat dengan dunia Islam terutama pesantren. Komarudin merupakan Alumni pesantren modern Pabelan, Magelang (1969) dan Pesantren al-Iman, Muntilan (1971). Setelah lulus dari pesantren, ia melanjutkan studi sarjana muda (BA) di bidang Pendidikan Islam (1977) dan sarjana Lengkap (Drs.) di bidang Pendidikan Islam (1981) di IAIN Jakarta.
Ia kemudian melanjutkan studi doktoral ke luar negeri dan berhasil meraih gelar doktor di bidang Filsafat Barat di Middle East Techical University, Ankara, Turkey (1990).
Komar terpilih sebagai rektor universitas UIN Syarif Hidayatullah dalam rapat senat yang dipimpin oleh Azyumardi Azra pada 17 Oktober 2006. Ia memenangi pemilihan suara atas dua kandidat lainnya yakni Prof. Dr. Masykuri Abdillah dan Prof. Dr. Suwito.
Komar merupakan kolumnis di beberapa media massa seperti Harian Kompas dan Seputar Indonesia dan Republika. Selaku akademisi, Komar menjadi Dosen pada Fakultas Pasca Sarjana IAIN Jakarta (sejak 1990), dosen pada Fakultas Pasca Sarjana Universitas Indonesia (sejak 1992), dosen Sekolah Tinggi Filsafat (STF) Driyarkara (sejak 1993).
Selain sebagai dosen, ia juga sebagai Dewan Redaksi majalah Ulumul Qur`an (sejak 1991), Dewan Redaksi jurnal Studia Islamika (sejak 1994), Dewan Editor dalam penulisan Encylopedia of Islamic World, dan Direktur pada Pusat Kajian Pengembangan Islam Kontemporer, UIN Syarif Hidayatullah Jakarta (sejak 1995). Komar merupakan salah satu peneliti tetap Yayasan Wakaf Paramadina, Jakarta sejak tahun 1990.