كان ابن الجموح واحدا من زعماء المدينة، وسيدا من سادات بني سلمة. سبقه إلى الإسلام ابنه معاذ بن عمرو الذي كان أحد الأنصار السبعين، أصحاب البيعة الثانية. وكان معاذ بن عمرو وصديقه معاذ بن جبل يدعوان للإسلام بين أهل المدينة في حماسة، وكان من عادة الناس هناك أن يتخذ الأشراف من بيوتهم أصناما رمزية غير تلك الأصنام الكبيرة المنصوبة في محافلها، والتي تؤمّها جموع الناس. فاتفق معاذ بن عمرو ابن الجموح مع صديقه معاذ بن جبل على أن يجعلا من صنم عمرو بن الجموح سخرية ولعبا، فكانا يدلجان عليه ليلاً ثم يحملانه ويطرحانه في حفرة يطرح الناس فيه فضلاتهم فيصبح عمرو فلا يجد منافاً في مكانه، ويبحث عنه حتى يجده طريح تلك الحفرة. فيصيح قائلاً: ويلكم من عدا على آلهتنا الليلة؟! ثم يغسله ويطهره ويطيّبه، فاذا جاء ليل جديد، صنع المعاذان (معاذ بن عمرو ومعاذ بن جبل) بالصنم مثل ما يفعلان به كل ليلة. حتى إذا سئم عمرو جاء بسيفه ووضعه في عنق مناف وقال له: إن كان فيك خير فدافع عن نفسك!! فلما أصبح لم يجده مكانه، بل وجده في الحفرة ذاتها طريحا، بيد أن هذه المرة لم يكن في حفرته وحيداً، بل كان مشدودا مع كلب ميت في حبل وثيق. فقال له بعض أشراف المدينة الذين كانوا قد سبقوا إلى الإسلام، وراحوا يشيرون بأصابعهم إلى الصنم المنكّس المقرون بكلب ميت ويخاطبونه ويحدثونه عن الدين الجديد ونبيه الذي قالوا أنه جاء الحياة ليعطي لا ليأخذ وليهدي لا ليضل. فاقتنع عمرو وأسلم وذهب ليبايع الرسول محمد.
كان عمرو يشكو عرجا في ساقه، فلما كان يوم بدر أراد الخروج فمنعه بنوه بأمر من النبي لشدة عرجه فلما كان يوم أحد قال لبنيه “منعتموني الخروج إلى بدر فلا تمنعوني الخروج إلى أحد” فأخذ سلاحه وقال “اللهم ارزقني الشهادة ولا تردني إلى أهلي خائبا”، فقاتل وقتل رضي الله عنه شهيدا فأمرالرسول بدفنه مع عبدالله ابن حرام إذ قال: ” «ادفنوهما في قبر واحد فإنهما كانا متصافيين متصادقين في الدنيا» “. وقال عليه الصلاة والسلام : ” «والذي نفسي بيده لقد رأيته يطأ في الجنة بعرجته».