Pada dasaranya ulumul hadits telah lahir sejak dimulainya periwayatan hadits di dalam Islam, terutama setelah Rasulullah SAW wafat. Ketika itu umat Islam merasakan perlunya menghimpun hadits-hadits Rasulullah SAW dikarenakan adanya kekhawatiran hadits-hadits tersebut akan hilang atau lenyap.
Para Sahabat telah mulai mempergunakan kaidah-kaidah dan metode-metode tertentu dalam menerima hadits, namun mereka belumlah menuliskan kaidah-kaidah tersebut. Di dalam Surat Al-Hujurat ayat 6, Allah SWT memerintah orang-orang yang beriman untuk meneliti dan mempertanyakan berita-berita yang datang dari orang-orang yang fasik:
يأَيُّهَا الَّذِينَ آمَنُوا إِن جَاءكُمْ فَاسِقٌ بِنَبَأٍ فَتَبَيَّنُوا أَن تُصِيبُوا قَوْماً بِجَهَالَةٍ فَتُصْبِحُوا عَلَى مَا فَعَلْتُمْ نَادِمِينَ
“Hai orang-orang yang beriman, jika datang kepadamu orang fasik membawa suatu berita maka periksalah berita tersebut dengan teliti agar kamu tidak menimpakan musibah kepada suatu kaum tanpa mengetahui keadaan (yang sebenarnya) yang menyebabkan kamu menyesal atas perbuatanmu.” (QS. Al-Hujurat: 6)
Di dalam sebuah hadits Rasulullah SAW bersabda :
نَضَّرَ اللهُ إمْرَءًا سَمِعَ منَّا شيْئًا فَبَلَّغَهُ كَمَا سَمِعَهُ فَرُبَّ مُبَلِغٍ أوْعى مِنْ سَامِعٍ. (رواه الترمذي)
“Semoga Allah membaguskan rupa seseorang yang mendengar dari kami sesuatu (hadits), lantas dia menyampaikannya (Hadits tersebut) sebagaimana dia dengar, kadang-kadang orang yang menyampaikan lebih hafal daripada yang mendengar.” (HR: Al-Tirmidzi).
Berdasarkan pada ayat Al-Qur’an dan hadits Nabi di atas, maka para Sahabat mulai meneliti dan bersikap hati-hati dalam menerima dan meriwayatkan hadits-hadits Nabi Muhammad SAW, terutama apabila mereka meragukan si pembawa atau penyampai riwayat hadits tersebut. Dengan demikian, mulailah lahir pembicaraan mengenai isnad dan nilainya dalam menerima dan menolak suatu riwayat hadits.
Diantara Sahabat ada yang saling menegur temannya ketika terjadi kesalahpahaman terhadap suatu teks. Seperti yang dilakukan Aisyah Radhiallahu anha terhadap kesalahan Anas ibn Malik dalam hal mayat akan disiksa lantaran ditangisi oleh keluarganya.
Demikian pula teguran Abu Bakar kepada Umar ibn Khattab yang teks tulisan haditsnya masih belum tuntas dan perlu dilengkapi sehingga melahirkan perbedaan dalam mempersepsikan hadits . Hasbi Ash-Shiddieqy menjelaskan bahwa orang yang mula-mula meletakkan dasar-dasar ilmu hadits ini adalah Imam Ibnu Syihab al-Zuhri (51-124).
Setelah terjadi kasus pemalsuan terhadap hadits-hadits Nabi, barulah ada gerakan yang signifikan dalam proses penerimaan dan periwayatan hadits. Sejak itulah perhatian ulama tertuju kepada kredibilitas perawi dan peletakan kaedah-kaedah yang dapat dijadikan acuan dalam penerimaan hadits dan penolakannya.
Setelah terjadi fitnah di dalam kehidupan umat Islam, para Sahabat mulai meminta keterangan tentang orang-orang yang menyampaikan hadits atau khabar kepada mereka. Mereka menerima atau mengambil hadits dari orang-orang yang tetap berpegang kepada Sunnah Rasul SAW , dan sebaliknya mereka tidak mengambil hadits dari mereka para ahli bid’ah.
Pada awalnya teori-teori proses penerimaan dan periwayatan hadits serta kredibilitas perawi (ilmu dirayah) masih tersisip dalam buku-buku yang belum spesifik, berbaur dengan berbagai makalah seperti yang dilakukan Imam Al-Syafi’i dan lainnya dalam karya-karya mereka. Tidak ditemukan kepastian tahun berapa ilmu hadits lahir, tetapi yang jelas bahwa ilmu ini lahir ketika Hadits sudah terkodifikasi pada abad ke-2 H. Dengan demikian, rintisan ilmu Hadits terjadi pada abad ke-3 H. Memang seperti pengetahuan tentang kredibilitas perawi sudah ada sejak zaman Rasulullah SAW , tetapi pada saat itu belum menjadi disiplin ilmu yang berdiri sendiri.
Ketika Imam Syafi’i (w.204 H) menulis kitab al-Risalah, sebenarnya ilmu Hadits telah mengalami perkembangan lebih maju, sebab di dalam kitab tersebut telah dibahas kaidah-kaidah tentang periwayatan, hanya saja masih bercampur dengan kaidah usul fiqih. Demikian pula dalam kitab al-Umm. Di sana telah ditulis pula kaidah yang berkaitan dengan cara menyelesaikan hadits-hadits yang bertentangan, tetapi masih bercampur dengan fiqih. Artinya ilmu hadits pada saat itu sudah mulai tampak bentuknya, tetapi masih belum terpisah dengan ilmu lain.
Sesudah generasi Syafi’i, banyak sekali para ulama yang menulis ilmu hadits, misalnya Ali bin al-Madini menulis kitab Mukhtalif al-Hadits, Ibnu Qutaibah (w.276 H) menyusun kitab Ta’wil Mukhtalif al-Hadits. Imam Muslim dalam Muqaddimah kitab Sahih-nya, At-Turmudzi menulis al-Asma’ wa al-Kuna, Muhammad bin Sa’ad menulis al-Tabaqat al-Kubra. Demikian pula al-Bukhari menulis tentang rawi-rawi yang lemah dalam kitab al-Du’afa’. Dengan banyaknya ulama yang menulis tentang persoalan yang menyangkut ilmu Hadits pada abad III H, maka dapat dipahami mengapa abad ketiga disebut sebagai awal kelahiran Ilmu Hadits, walaupun tulisan yang ada belum membahas ilmu Hadits secara lengkap dan sempurna.
Pada abad keempat dan kelima Hijriah mulailah ditulis secara khusus kitab-kitab yang membahas tentang ilmu Hadits yang bersifat komprehensif. Penulisan ilmu Hadits secara lebih lengkap dimulai ketika al-Qadi Abu Muhamad al-Hasan bin Abd. Rahman al-Ramahurmuzi (w. 360 H/abad IV H) menulis buku al-Muhaddis al-Fasil Bayn al-Rawi wa al-Wa’i. Kemudian disusul al-Hakim al-Naysaburi (w. 405 H) menulis Ma’rifah ‘Ulum al-Hadis, al-Khatib Abu Bakar al-Baghdadi menulis kitab Al-Jami’ li Adab al-Syaikh wa al-Sami’. Al-Kifayah fi Ilm al-Riwayah dan al-Jami’ li Akhlaq al-Rawi wa Adab al-Sami’.
Pada abad-abad berikutnya, bermunculan karya-karya di bidang Ilmu hadits, yang sampai sekarang masih menjadi referensi utama dalam membicarakan Ilmu Hadits, diantaranya adalah : ‘Ulum al-Hadits oleh Abu Utsman ibn Abd al-Rahman yang lebih dikenal dengan Ibn al-Shalah (w. 643 H/1245 M), Tadrib al-Rawi fi Syarh Taqrib al-Nawawi oleh Jalal al-Din Abd al-Rahman ibn Abu Bakar al-Suyuthi (w. 911 H/ 1505 M).