Rukun terhadap ka’bah yang diutamakan yaitu ada empat jenis diantaranya ialah, rukun Aswad atau yang biasa disebut Hajar Aswad, rukun Iraqi, rukun Syami atau yang biasa disebut juga rukun Maghribi (sudut barat) dan yang terakhir adalah rukun Yamani. Apabila disebut disebut rukun secara mutlak, berarti Rukun Aswad. Jika disebut dua rukun, berarti Rukun Aswad dan Rukun Yamani.
Pada masa Nabi Ibrahim, sisi antara Rukun Iraqi dan Rukun Syami berbentuk seperti busur, yaitu busur Hijir yang oleh sebagian orang disebut dengan Hijir Ismail. Pada masa Abdullah bin Zubair, rukun-rukun itu dijadikan persegi empat dan keberadaan mereka terus dipertahankan bersamaan dengan keberadaan Hijir.
RUKUN YAMANI
Yaitu, sudut Ka’bah yang menghadap ke arah barat daya. Di dalam Mu’jam Al-Buldan, Yaqut Al-Hamawi menyebutkan dari Qutaibah, bahwa seseorang dari Yaman bernama Ubay bin Salim telah membangunnya.
RUKUN IRAQI
Dinamakan demikian, karena menghadap ke arah Syam dan Maghrib. Rukun ini disebut pula dengan Rukun Maghribi. Antara rukun Syami dan Rukun Iraqi terdapat talang Ka’bah yang berhadapan dengan Hijir. Talang adalah tempat saluran air hujan yang turun di atas atap Ka’bah. Di dalam Akhbar Makkah—melalui sebuah isnad yang shahih—Al-Azraqi meriwayatkan dari Ibnu Abbas, dia berkata, “Shalatlah kalian di tempat shalat orang-orang pilihan dan minumlah dari minuman orang-orang yang taat.