“Ada tiga orang Quraisy yang bercahaya wajahnya, yang baik budi pekerti dan memiliki rasa malu yang sangat tinggi. Bila bicara tak pernah dusta, dan bila diajak bicara tak pernah mendustakan apa yang dibicarakan. Mereka adalah Abu Bakar ash-Shiddiq, Utsman bin Affan, dan Abu Ubaidah bin Jarrah.” (Abdullah bin Umar )
Abu Ubaidah adalah seorang yang lemah lembut dalam pergaulan, sangat rendah hati, memiliki rasa malu yang sangat tinggi. Namun bila keadaan genting dan membutuhkan perha-tian sungguh-sungguh, dia menjadi seekor singa nan garang. Dia laksana mata pedang yang berkilat-kilat karena ketajamannya. Dia adalah orang terpercaya dari umat Muhammad . Kata al-Amin (orang terpercaya) digelarkan di belakang namanya, lantaran Rasulullah per-nah bersabda, “Setiap umat mempunyai orang terpercaya, dan orang terpercaya pada umat ini adalah Abu Ubaidah.”
Dalam kehidupannya, Abu Ubaidah mengalami ujian yang amat pedih seperti yang dialami kaum muslimin Makkah lainnya. Dia mengalami siksaan-siksaan jasmani yang tak pernah dialami oleh penganut agama lain di muka bumi ini. Namun ketabahan hatinya begitu mengagumkan. Perkataan dan perbuatan Abu Ubaidah telah menjelaskan keikhlasan-nya dalam menghadapi segala cobaan.
Di antara cobaan yang paling berat menimpanya adalah apa yang terjadi pada perang Badar. Abu Ubaidah terjun dalam kancah perang Badar tanpa gentar akan maut. Keberaniannya menakutkan kaum musyrikin Makkah, bahkan jagoan-jagoan mereka yang berkuda selalu menghindar bila bertemu muka dengannya. Hanya satu orang musuh yang terus menghadang-nya. Namun, Abu Ubaidahlah yang selalu menghindari orang ini. Ia tidak mau berduel dengan orang ini apalagi membunuhnya. Akhirnya, karena orang ini terus merangsek mengejarnya, dan ia terdesak tak bisa lagi menghindar, maka dengan sangat terpaksa Abu Ubaidah mengayun-kan pedangnya kuat-kuat menebas kepala orang ini dan orang tersebut pun tersungkur tewas di hadapannya.
Tahukah Anda siapa orang yang telah ditebas oleh Abu Ubaidah hingga tersungkur tewas tersebut? Orang tersebut adalah Abdullah bin Jarrah, ayahandanya sendiri! Sungguh sekali-kali Abu Ubaidah tidaklah membunuh ayahnya, melainkan membunuh kemusyrikan yang ada pada diri ayahnya. Alloh pun telah mengabadikan peristiwa dahsyat ini dalam al-Qur’an.
Pada masa kekhalifahan Abu Bakar , beliau menetapkan Abu Ubaidah sebagai panglima pasukan muslimin di wilayah Himsh, Syiria bagian barat. Sampai pada masa kekhalifahan Umar bin Khaththab , Abu Ubaidah diangkat sebagai panglima gabungan pasukan muslimin menggantikan Khalid bin Walid . Abu Ubaidah mulai menaklukkan kota-kota penting Syam, mulai dari Damaskus ibu kota Syam, kemudian Fihl, provinsi Himsh, kota Hama, kota Ladhiqiyah (Latakia, barat laut Himsh), sampai dapat menaklukkan seluruh bumi Syam, yaitu Syria, Lebanon, Palestina dan Yordania.
Abu Ubaidah bin al-Jarrah wafat di Amwas, Yordan, pada tahun 18 H (639 M), pada usia 58 tahun di masa kekhalifahan Umar bin Khathab . Beliau terkena serangan penyakit kolera yang sedang mengganas di daerah tersebut. Semoga Alloh meridhai Abu Ubaidah , Sang Panglima kaum muslimin, salah satu Penakluk besar Tanah Syam (Syria Besar).