1 Kasım 1924 tarihi itibarıyla Genelkurmay başkanı Fevzi Paşa ile birlikte 1.2.3.5. kolordu kumandanları milletvekilliğinden istifa ettiler. Ancak III. Ordu müfettişi Cevat Çobanlı ile 7. Kolordu kumandanı Cafer Tayyar Paşa milletvekilliğinden istifa etmeyi kabul etmediler. Bu kumandanların askeri görevlerine son verildi. Bakanlığındaki icraatları eleştirilere uğrayan Mübadele ve İmar ve İskân Bakanı Refet Bey yeni dönemde Meclis başkan vekilliklerinden birine kaydırıldığı için bakanlık görevinden istifa etti. Dâhiliye vekili Recep Peker'in bu bakanlığa vekâlet etmesi kararlaştırıldı. 5 Kasım 1924'te Mübadele, İmar ve İskân bakanı hakkında verilen gensorunun hükümet hakkında bir güvenoyuna dönüşmesi üzerine şiddetli tartışmalar yaşandı. Görüşmeler sonunda Hükümet güvenoyu almış ancak partiden istifalar da başlamıştır. 

Muhalefet 17 Kasım 1924 tarihinde Kazım Karabekir Paşa’nın başkanlığında Terakkiperver Cumhuriyet Fırkası olarak resmileşti. Ali Fuat, Refet, Cafer Tayyar Paşalar, Rauf, Dr. Adnan Adıvar, Feridun Fikri, Halis Turgut Bey gibi tanınmış kişiler de kurucu olarak partide yer alıyorlardı. Cumhuriyet Halk Fırkasından ayrılan 32 milletvekilinden 28’i yeni partiye katılmıştır. Amaçlarını iktidar olmak değil, iktidarı denetlemek olarak açıklayan, her türlü tahakküme karşı olduklarını belirten yeni parti yöneticileri, her türlü dini inanç ve görüşlere saygılı olduklarının altını çiziyorlardı. Terakkiperver Cumhuriyet Fırkası, yerinden yönetim ilkesini destekleyen, liberal, demokratik ilkeleri öne çıkaran programıyla dikkat çekmiştir. Diğer yandan tek dereceli seçim, anayasa değişiklikleri için kamuoyu yoklaması, Cumhurbaşkanının tarafsızlığı gibi hususlarda beklentilerini ve mevcut uygulamaya eleştirilerini ortaya koymuşlardı. 

Bu süreçte Doğu Anadolu’da ortaya çıkan ve hilafet ve saltanatı geri getireceği iddiasıyla taraftar toplayan Şeyh Sait isyanın patlak vermesi hükümetin caydırıcı tedbirler almasını gerektirmiştir. Fethi Bey hükümeti 23 Şubat'ta Diyarbakır, Elazığ, Genç, Muş, Ergani, Dersim, Mardin, Urfa, Siverek, Bitlis, Siirt, Van ve Hakkâri’de bir aylık sıkıyönetim kararı almıştı.  Ancak Cumhuriyet Halk Partisi gurubu, Fethi Bey hükümetinin isyanın önlenmesi için aldığı idari ve askeri tedbirleri yeterli görmeyince 2 Mart 1925'de Fethi Bey istifa etti. 3 Martta İsmet Paşa hükümeti kurup güvenoyu almıştır. Yeni hükümetin isteğiyle 4 Mart 1925 tarihinde kabul edilen Takrir-i Sükûn(asayişi temin etme) Kanunu ile hükümete ülkenin iç huzurunu sağlamak için tehdit edici her türlü yayın, eylem ve kuruluşu yasaklama yetkisi verilmiştir. Ankara ve Doğu İstiklal Mahkemeleri harekete geçirilmiştir. Terakkiperver Cumhuriyet Fırkasının Diyarbakır temsilcisinin isyanla ilişkisi gerekçesiyle bölgedeki bütün şubeleri kapatılmıştır. Ankara İstiklal Mahkemesinin 'düşünce ve inançlara saygılı olmak prensibi kullanılarak dinin siyasete alet edildiği' uyarısı üzerine hükümet de 3 Haziran 1925’de Terakkiperver Cumhuriyet Fırkasını kapatmıştır. 

Terakkiperver Cumhuriyet Fırkasının üst düzey yöneticileri 1926'da ortaya çıkan İzmir Suikastı ile ilişkili görülerek İstiklal Mahkemesinde yargılanacaklardır. Yurt dışında olan ve on yıl ceza verilen Rauf (Orbay)Bey dışında hepsi beraat etmelerine rağmen bu olaydan sonra uzun müddet aktif siyasi hayatın dışında kalacaklardır. 

Parti olarak herhangi bir seçime katılmaya zaman bulamayan Terakkiperver fırkanın meclisteki muhalefeti kadar ortaya koyduğu kuruluş ideali dikkat çekicidir. Amaçlarını iktidar olmak değil millete demokratik cumhuriyetin olabilirliğini göstermek ve uygulamayı yaparak öğretmek şeklinde ilan ve izah eden grubun mevcut yapıyı Cumhurbaşkanı Gazi Mustafa Kemal’in etrafındaki birkaç kişiyle devleti yönettiği bir oligarşi olarak nitelemesi önemlidir.