Umar bin Khaththab dikenal sebagai khalifah yang keras dan tegas dalam menjalankan kebijakan negara. Namun demikian, di balik ketegasannya, Umar menyimpan kelembutan hati dan halusnya perasaan.
Sebagai khalifah yang menggantikan Abu Bakar, ia selalu melakukan instrospeksi. Setiap saat melakukan perenungan, apakah kekuasaannya telah digunakan secara benar untuk melayani rakyat, atau telah disalahgunakan untuk hal yang lain. Tak jarang Umar menangis tersedu-sedu manakala ia sedang melaksanakan ibadah, utamanya di saat-saat mendirikan shalat. Apalagi shalat di malam hari. Dari pojok rumahnya sering terdengar tarikan nafas yang menahan gejolak hati, sambil menangis tersedu kepada Ilahi.
Umar tahu persis siapa dirinya. Ia sadari betul bahwa ia bukanlah manusia istimewa. Dirinya menjadi khalifah bukan karena ambisi dan keinginan sendiri. Kekuasaan itu diterima semata-mata karena amanat Allah yang dipikulkan di pundaknya. Rakyat menghendaki agar ia memimpin mereka, menjadi Amirul Mukminin.
Sebagai manusia biasa, ia tidaklah maksum, terpelihara dari berbuat salah dan dosa. Oleh karenanya, godaan kekuasaan tidak pernah berhenti merayunya. Jika ibadahnya kurang mantap, dikhawatirkan godaan itu datang dan diterima sebagai suatu kebenaran. Itulah sebabnya, Umar selalu memimpin jamaah shalat fardhu setiap waktu. Juga menganjurkan kepada seluruh gubernurnya untuk melakukan hal yang sama. Bahkan gubernur yang tidak becus ibadahnya dapat
dicopot sewaktu-waktu.
Dalam hal koreksi terhadap kekuasaannya, dia merasa kurang cukup bila hanya dilakukan oleh dirinya sendiri. Dalam hal ini kita bisa melihat kesibukan Umar bin Khaththab untuk meminta pendapat orang lain tentang kekuasaannya, apakah ia menjalankan kekuasaannya sebagai seorang raja atau sebagai khalifah. Bagi Umar, ada perbedaan yang sangat jelas antara kekuasaan raja dan khalifah.
Suatu hari Umar bertanya pada Salman al-Farisi, sahabat Rasulullah yang ahli strategi. Ia juga dikenal sebagai cendekiawan yang sangat dikagumi. Kepada Salman, Umar bin Khaththab mengajukan pertanyaan, "A-Malikun ana am Khalifatun?" Apakah aku ini seorang raja atau seorang khalifah?
Pada saat itu Salman menjawab, "Jika Anda mengambil jibayah (iuran negara) dari tanah ummat Islam satu dirham lebih atau kurang dari jumlah tersebut, kemudian mempergunakannya bukan pada hak yang semestinya, maka nyatalah bahwa Anda bukanlah seorang khalifah."
