Usman bin Affan berhasil menjalankan tugas kekhilafahan dengan baik. Banyak daerah yang berhasil dibebaskan dari penguasa zholim pada masanya, baik di belahan dunia timur maupun barat. Kekuasaan kaum Muslimin pun semakin luas.
Atas kehendak Alloh, di masa Usman bin Affan terjadi fitnah besar yang menyebabkan terbunuhnya beliau. Fitnah itu dimotori oleh Abdulloh bin Saba. Sosok Yahudi itu begitu memusuhi Usman dan kaum muslimin.
Abdulloh Ibnu Saba’ merupakan seorang Yahudi asal Sana’a, Yaman. Dia mengaku menjadi Muslim pada masa kekholifahan Usman bin Affan . Kepindahan Abdulloh bin Saba menjadi Muslim bukan didasari niat yang tulus, melainkan didorong oleh ambisi pribadinya untuk memecah-belah umat Islam dari dalam.
Abdulloh bin Saba berhasil mengerahkan orang-orang awam Mesir, Kufah dan Basroh. Ia mempengaruhi mereka untuk pergi ke Madinah mengepung rumah Usman bin Affan di Madinah.
Abdulloh bin Saba berhasil memprovokasi mereka dengan mengatakan, sesungguhnya Usman bin Affan merebut kekholifahan yang seharusnya menjadi hak Ali bin Ali Tholib dan mendahulukan kerabatnya sendiri untuk menjabat sebagai gubernur dan pejabat penting di beberapa wilayah. Padahal, Usman bin Affan memiliki alasan yang kuat untuk kebijakannya itu.
Tipu muslihat Abdulloh bin Saba terus dilakukan. Dia berhasil mengerahkan para pemberontak untuk mengepung kediaman Usman bin Affan . Menghadapi pengepungan ini, Usman bin Affan memilih bersabar dan tidak ingin ada pertumpahan darah di tengah-tengah kaum muslimin.
Para pemberontak merangsek masuk ke dalam rumah. Akhirnya, mereka berhasil menyabet pedang ke tubuh Usman bin Affan . Beberapa sabetan pedang mengenai jari-jari istri Usman bin Affan yaitu Naila binti al-Farofishoh hingga terputus karena menahan tebasan pedang yang diarahkan kepadanya. Pedang-pedang itu pun mengarah ke tubuh Usman bin Affan hingga tembus. Beliau hanya terdiam tidak bisa berbuat apa-apa.
Pada usianya yang mencapai 82 tahun, Usman bin Affan wafat. Pada hari Jum’at 18 Dzulhijjah 35 Hijriyah. Usman bin Affan terbunuh menemui syahidnya saat ia tengah membaca al-Qur’an, tepatnya saat membaca surat al-Baqoroh ayat 137. Orang yang membunuhnya adalah Sudan bin Humron. Ada yang berpendapat pembunuhnya adalah Kinanah bin Bisy bin Atob.