كان رئيسا لحزب "الاتحاد الاشتراكي"، وشارك في انتخابات 1997 حيث تصدر الانتخابات، وقاد حكومة التناوب في مارس/آذار 1998.
في عام 2002، حصل حزب اليوسفي على المرتبة الأولى في الانتخابات البرلمانية، لكن العاهل المغربي الراحل، عيّن إدريس جطو، غير المنتمي لأي حزب رئيسا للحكومة، وهو ما رفضه اليوسفي واعتزل العمل السياسي.
عبد الرحمن اليوسفي هو ثاني رئيس حكومة أكثر شعبية بعد عبد الإله بنكيران، حسب استطلاعات رأي لصحف محلية.
توفي اليوسفي في أحد مستشفيات مدينة الدار البيضاء، عن عمر ناهز 96 عاما.