Hudzaifah Ibnul Yaman lahir di rumah tangga Muslim, dipelihara dan dibesarkan dalam pangkuan kedua orang tuanya yang telah memeluk agama Allah, sebagai rombongan pertama.
Oleh sebab itu, Hudzaifah telah Islam sebelum dia bertemu muka dengan Rasulullah. Setelah Rasulullah hijrah ke Madinah, Hudzaifah selalu mendampingi beliau bagaikan seorang kekasih. Hudzaifah turut bersama-sama dalam setiap peperangan yang dipimpinnya, kecuali dalam Perang Badar.
Dalam Perang Uhud, Hudzaifah ikut memerangi kaum kafir bersama dengan ayahnya, Al-Yaman. Dalam perang itu, Hudzaifah mendapat cobaan besar. Dia pulang dengan selamat, tetapi bapaknya syahid oleh pedang kaum Muslimin sendiri, bukan kaum musyrikin. Kaum Muslimin tidak mengetahui jika Al-Yaman adalah bagian dari mereka, sehingga mereka membunuhnya dalam perang.
