हज़रत उमर रद़ियल्लाहु अन्हु ने अपनी वफ़ात से पेहले छह सहाबा-ए-किराम रद़ियल्लाहु अन्हु की एक जमाअत बनाई थी और उन्हें हुक्म दिया था कि वो इन ही में से अगले खलीफ़ा को चुने।
उस वक़्त हज़रत उमर रद़ियल्लाहु अन्हुने फ़रमाया था कि अगर आज अबू-‘उबैदा ज़िन्दा होते तो मैं आज ज़रूर (मुसलमानों का) खलीफ़ा बनाता।
हज़रत अबू-उबैदा रद़ियल्लाहु अन्हु पर हज़रत उमर रद़ियल्लाहु अन्हु का भरोसा
एक बार जब हज़रत उमर रद़ियल्लाहु अन्हु मुल्के-शाम की सरहद पर पहुंचे, तो उन्हें मुल्के-शाम में ताउन फैलने की खबर मिली।
हज़रत उमर रद़ियल्लाहु अन्हु ने फरमाया कि अगर मुझे मौत आ जाए और अबू-उबैदा रद़ियल्लाहु अन्हु ज़िन्दा हों, तो मैं उन्हें अपने बाद खलीफ़ा बनाऊँगा।