با انتخاب بني صدر به رياست جمهوري در بهمن 1358، مسأله انتخاب نخست وزير و تشكيل دولت مطرح گرديد كه در اين مورد بين رييس جمهور و مجلس شوراي اسلامي اختلاف نظر پديد آمد. پس از كشمكش‏هايي سرانجام در شهريور 1359، شهيد محمد علي رجايي به عنوان نخست وزير به مجلس معرفي شد و موفق به كسب رأي اعتماد گرديد و دولت خود را تشكيل داد. با اين كه مسأله مورد اختلاف، ظاهراً حل شده بود، اما كشمكش و اختلاف پنهاني و آشكار بين رييس جمهور و مخالفانش در مجلس و خارج از آن ادامه پيدا كرد. با آغاز جنگ، با اين كه اين مسأله، تمام توان و فكر مسؤولان را به خود مشغول كرده بود، اما در عين حال، اختلاف ميان سطح بالاي كشور ادامه يافت. در عرصه جنگ نيز، بني صدر در مقام فرماندهي كل قوا، معتقد به جنگيدن به شيوه اشكانيان بود يعني نيروي دشمن به درون مرز كشيده شده، سپس محاصره و نابود گردد. اين سياست نظامي، باعث اشغال نقاط وسيعي از اراضي ايران اسلامي توسط ارتش متجاوز بعث شد و بر اثر عدم ارسال مهمات و نيرو به خط مقدم، نيروهاي اسلام علي رغم جانفشاني‏ها و حماسه آفريني‏هاي مثال زدني، مجبور به عقب‏نشيني شدند. در نحوه اداره كشور نيز، كوشش‏هاي امام كه دو طرف را به رفع اختلاف و وحدت و تفاهم دعوت مي‏كرد بي‏ثمر ماند. در نتيجه حضرت امام خميني، در بيستم خرداد 1360، پس از مشورت با مسؤولان متعهد كشور، طي حكم كوتاهي، ابوالحسن بني صدر را از فرماندهي كل قوا كه به نيابت از ولي فقيه در اختيار داشت، عزل كرد و در پي آن، مجلس شوراي اسلامي، طرح عدم كفايت سياسي بني صدر را با اكثريت آرا در 31 خرداد آن سال، به تصويب رساند.