Dalam kehidupannya sebagai Muslim, Abu Ubaidah mengalami masa penindasan yang kejam dari kaum Quraiys di Makkah sejak permulaan sampai akhir. Dia turut menderita bersama kaum Muslimin lainnya. Walau demikian, ia tetap teguh menerima segala macam cobaan, tetap setia membela Rasulullah SAW dalam tiap situasi dan kondisi apa pun.
Dalam Perang Badar, Abu Ubaidah berhasil menyusup ke barisan musuh tanpa takut mati. Namun tentara berkuda kaum musyrikin menghadang dan mengejarnya. Kemana pun ia lari, tentara itu terus mengejarnya dengan beringas.
Abu Ubaidah menghindar dan menjauhkan diri untuk bertarung dengan pengejarnya. Ketika si pengejar bertambah dekat, dan merasa posisinya strategis, Abu Ubaidah mengayunkan pedang ke arah kepala lawan. Sang lawan tewas seketika dengan kepala terbelah.
Siapakah lawan Abu Ubaidah yang sangat beringas itu? Tak lain adalah Abdullah bin Jarrah, ayah kandungnya sendiri! Abu Ubaidah tidak membunuh ayahnya, tapi membunuh kemusyrikan yang bersarang dalam pribadi ayahnya.
Berkenaan dengan kasus Abu Ubaidah ini, Allah SWT berfirman: "Kamu tak akan mendapati kaum yang beriman pada Allah dan hari akhirat, saling berkasih-sayang dengan orang-orang yang menentang Allah dan Rasul-Nya, sekalipun orang-orang itu bapak-bapak, atau anak-anak atau saudara-saudara ataupun keluarga mereka.''
''Mereka itulah orang-orang yang telah menanamkan keimanan dalam hati mereka dan menguatkan mereka dengan pertolongan yang datang daripada-Nya. Dan dimasukan-Nya mereka ke dalam surga yang mengalir di bawahnya sungai-sungai, mereka kekal di dalamnya.''
''Allah ridha terhadap mereka dan mereka pun merasa puas terhadap (limpahan rahmat)-Nya. Mereka itulah golongan Allah. Ketahuilah bahwa sesungguhnya hizbullah itu adalah golongan yang beruntung." (QS Al-Mujaadalah: 23)
Ayat di atas tidak membuat Abu Ubaidah besar kepala dan membusungkan dada. Bahkan menambah kokoh imannya kepada Allah dan ketulusannya terhadap agama-Nya. Orang yang mendapatkan gelar "kepercayaan umat Muhammad" ini ternyata menarik perhatian orang-orang besar, bagaikan magnet yang menarik logam di sekitarnya.