Abrahah telah membina sebuah gereja di San'a (yang dinamakan al-Qalis) dimana pada masa tersebut tidak terdapat gereja seumpamanya. Abrahah telah menulis surat kepada raja Najasyi yang berbunyi: Sesungguhnya aku telah membina untuk kamu sebuah gereja yang tidak pernah dibina seumpamanya kepada mana-mana raja sebelum kamu. Aku tidak akan tenang sehinggalah orang-orang Arab datang mengerjakan Haji di sini. Apabila orang-orang Arab memperkatakan tentang surat Abrahah kepada raja Najasyi, perkara ini menimbulkan kemarahan seorang lelaki dari Kinanah lalu pergi ke al-Qalis dan membuang najis di dalamnya secara sembunyi, kemudian kembali kepada kaum keluarganya. Perkara itu telah disampaikan kepada Abrahah dan telah menimbulkan kemarahannya lalu bersumpah untuk menghancurkan Kaabah. Beliau memerintahkan tentera Habsyah untuk bersiap sedia dan setelah bersedia, Abrahah serta tenteranya terus keluar dengan membawa gajah. Apabila orang-orang Arab mengetahui hasrat Abrahah untuh menghancurkan Kaabah, mereka merasa gerun dan takut. Abrahah mengutus seorang lelaki Habsyah yang bernama Al-Aswad bin Mafsud bersama tentera berkudanya sehingga sampai di Mekah, lalu meminta tebusan daripada kaum Quraisy dan yang lainnya, di antaranya dua ratus ekor unta kepunyaan Abdul Muttalib bin Hasyim (ketua kaum Quraisy pada masa tersebut). Kaum Quraisy, kaum Kinanah, kaum Huzail dan kaum yang tinggal berhampiran dengan Tanah Haram telah berazam untuk memeranginya tetapi setelah menyedari mereka tidak mempunyai kekuatan, mereka membiarkan perkara tersebut begitu saja. Abrahah juga telah mengutus Hannatah Al-Himyari ke Mekah sambil berpesan kepadanya: Tanyalah ketua atau pembesar negeri ini, kemudian katakan kepadanya, raja telah berpesan kepadaku bahawa, aku datang bukan untuk memerangi kamu tetapi untuk menghancurkan Kaabah ini, sekiranya mereka tidak menghalangi kami, maka aku tidak akan memerangi kamu, sekiranya dia tidak mahu memerangi aku, bawalah dia kepadaku. Apabila Hannatah memasuki Mekah, beliau bertanyakan tentang ketua atau pembesar negeri tersebut. Dia telah diberitahu bahawa ketua negeri tersebut ialah Abdul Muttalib bin Hasyim, dia terus menemuinya dan memberitahu apa yang diperintahkan oleh Abrahah. Abdul Muttalib berkata kepadanya: Demi Allah! Sesungguhnya kami tidak mahu memeranginya, kami tidak mampu untuk melawannya. Ini adalah Baitullah al-Haram dan Baitu Ibrahim Al-Khalil a.s (atau sebagaimana yang diriwayatkan). Sekiranya Dia menghalangnya maka ini adalah rumahNya sekiranya Dia (Allah) membiarkannya, Demi Allah, kami tidak berkuasa mempertahankannya. Lalu Hannatah berkata kepadanya, marilah bersama aku untuk mengadap Abrahah, kerana beliau telah memerintahkan aku untuk membawa kamu kepadanya. Hannatah berangkat bersama Abdul Muttalib dan pengikutnya, apabila sampai di kawasan yang bernama al-Askar, beliau bertanya tentang Zu Nafar iaitu sahabatnya. Apabila masuk menemuinya di dalam penjara, Hannatah bertanya: Wahai Zu Nafar! Apakah kamu mempunyai suatu perantaraan atau penyelesaian yang dapat menolong kami? Zu Nafar menjawab: Apakah ada perantaraan atau penyelesaian daripada seorang lelaki tahanan raja yang menunggu hukuman mati samada siang hari atau malam hari seperti aku ini? Aku tidak mempunyai perantaraan atau penyelesaian untuk menolong apa yang telah berlaku kepada kamu kecuali sahabatku Anis, seorang pengembala gajah. Aku akan mengutusinya dengan memberi pesanan tentang diri kamu dan juga kelebihan yang ada pada kamu. Aku juga akan meminta kepadanya agar meminta keizinan untuk kamu daripada raja supaya kamu dapat mengadap dan berbicara dengan raja tentang apa yang berlaku kapada kamu. Dia akan menjadi perantaraan yang baik dengan raja, sekiranya dia mampu melakukan sedemikian, katakanlah cukuplah bagiku. Setelah itu Zu Nafar mengutusi Anis dengan katanya, Abdul Muttalib adalah ketua kaum Quraisy dan pembesar Mekah, dialah yang memberi makan kepada orang ramai pada semua peringkat samada yang tinggal di kawasan wadi atau kawasan perkampungan badwi di bukit-bukit. Sesungguhnya raja telah mengambil dua ratus ekor unta miliknya, oleh itu mintalah keizinan dan manfaat untuknya daripada raja sekadar yang kamu mampu. Anis menjawab: Aku akan melakukannya. Lalu Anis menyampaikan perkara tersebut kepada Abrahah dengan berkata: Wahai raja! Ini adalah ketua kaum Quraisy berada di hadapan kamu, dia datang untuk meminta izin kepada kamu, dia juga merupakan pembesar negeri Mekah yang sentiasa memberi makan kepada orang ramai pada semua peringkat samada yang tinggal di kawasan wadi atau kawasan perkampungan badwi di bukit-bukit. Aku meminta izin daripada kamu agar dia dapat memberitahu kamu apa yang dihajatinya. Lalu Abrahah mengizinkannya. Abdul Muttalib adalah seorang yang tampan, perkasa dan cantik rupa parasnya. Apabila Abrahah melihatnya dia meraikan dan memuliakannya lalu meminta supaya Abdul Muttalib duduk bersamanya tetapi kaum Habsyah yang berada bersama dengannya tidak suka melihat Abdul Muttalib dijemput oleh raja untuk duduk bersama di atas singgahsana kerajaannya, lalu Abrahah turun dari singgahsananya dan menjemput Abdul Muttalib duduk bersama di sampingnya. kemudian Abrahah berkata kepada penterjemahnya: Katakanlah kepadanya: Apa yang kamu hajati? Lalu penterjemahnya menyampaikan apa yang diperkatakan oleh Abrahah. Abdul Muttalib berkata: Hajatku ialah supaya raja dapat memulangkan kembali dua ratus ekor unta yang dirampas daripadaku. Apabila perkara tersebut disampaikan kepada Abrahah, dia berkata kepada penterjemahnya: Katakan kepadanya, aku merasa amat kagum ketika pertama kali melihat kamu tetapi ia hilang lenyap setelah kamu bercakap kepadaku. Apakah kamu hanya berbicara tentang dua ratus ekor unta yang aku rampas daripada kamu, sedangkan kamu meninggalkan Kaabah yang menjadi pegangan agama kamu dan bapa-bapa kamu. Aku datang untuk menghancurkannya tetapi kamu tidak pula bercakap denganku tentangnya? Lalu Abdul Muttalib menjawab: Aku adalah tuan unta tersebut, manakala Kaabah tersebut ada tuan yang akan melindunginya. Abrahah berkata: Tidak ada siapa yang dapat menghalang aku untuk menghancurkannya. Abdul Muttalib berkata kepadanya: Biarlah kamu dengan keadaan kamu. Untu-unta tersebut dipulangkan kembali kepada Abdul Muttalib. Setelah itu Abdul Muttalib pulang kepada kaum Quraisy lalu menceritakan kisah pertemuannya dengan Abrahah dan memerintahkan mereka agar keluar dari Mekah dan berlindung di atas bukit. kemudian Abdul Muttalib mengunci pintu Kaabah dan beberapa orang lagi dari kaum Quraisy bersama dengan Abdul Muttalib berdoa kepada Allah semoga mengalahkan Abrahah dan tenteranya. Apabila menjelang pagi, Abrahah mula bersedia dengan gajah dan tenteranya untuk memasuki Mekah dimana gajahnya bernama Mahmud. Setelah mereka mengarahkan gajah menuju ke Mekah, mereka telah bertemu dengan Nufail bin Habib. Beliau berdiri di sebelah gajah tersebut kemudian memegang telinganya lalu berkata: Duduklah Mahmud dan kembalilah semula ke tempat kamu datang, sesungguhnya kamu berada di negeri yang diharamkan oleh Allah. Kemudian beliau melepaskan telinga gajah tersebut, lalu gajah tersebut terus duduk. Mereka memukul gajah tersebut supaya bangun tetapi ia enggan berbuat demikian. Kemudian mereka mengarahkan gajah tersebut kembali ke Yaman, lalu ia terus bangun dan berjalan ke arah tersebut. Setelah itu mereka mengarahkannya ke Syam, gajah tersebut juga berjalan sebagaimana diarahkan. Mereka mengarahkan pula menuju ke arah Masyrik (timur), lalu gajah tersebut berjalan sebagaimana diarahkan. Setelah itu mereka mengarahkan semula menuju ke arah Mekah tetapi gajah tersebut terus duduk. Lalu Allah mengutuskan kepada mereka sekumpulan burung seumpama burung layang-layang dimana setiap seekor membawa tiga biji batu, sebiji di paruh dan dua biji lagi di kakinya. Batu tersebut seperti kacang kuda dan kacang dal, sesiapa sahaja yang terkena akan hancur dan binasa. Tidak semua yang binasa di tempat tersebut, mereka telah keluar dari kawasan tersebut tetapi rebah bergelimpangan di setiap jalan lalu mati dalam keadaan yang penuh dahsyat. Abrahah terkena lontaran batu tersebut di badannya, mereka membawanya dalam keadaan jari-jarinya terputus tetapi apabila tiba di San'a, Abrahah meninggal dunia di sana.