سید عبدالرحیم موسوی در سال ۱۳۳۸ در شهر قم زاده شد. وی در سال ۱۳۵۸ به عضویت ارتش جمهوری اسلامی ایران درآمد و از همان سال تحصیل در دانشکده افسری نیروی زمینی ارتش را آغاز کرد. موسوی در طول جنگ ایران و عراق در رسته توپخانه ارتش و در جبهه‌های غرب (منطقه کردستان) و جنوب‌غربی کشور (استان خوزستان) حضور داشت و در مجموع سابقه ۹۶ ماه فعالیت در جنگ ایران و عراق را در سوابق خود دارا می‌باشد.
او پس از پایان جنگ و در سال ۱۳۷۶ دوره دافوس را طی نمود و دوره نظری دکتری مدیریت دفاعی را نیز در دانشگاه عالی دفاع ملی به پایان رساند. وی از شهریور ۱۳۸۴ تا تیرماه ۱۳۹۵ جانشین فرمانده کل ارتش بود و با حفظ سِمَت، ریاست مرکز مطالعات راهبردی آجا را برعهده داشت. او همچنین تا پیش از سال ۱۳۸۴ معاونت طرح و برنامه و نیز معاونت آموزش نیروی زمینی ارتش را در سوابق خود دارا می‌باشد. موسوی در سال ۱۳۹۵ به ستاد کل نیروهای مسلح منتقل شد و تا سال ۱۳۹۶ برای مدت بیش از یک سال، جانشینی رئیس ستاد کل نیروهای مسلح را برعهده داشت.
